F5与英伟达合作升级AI性能与安全方案

F5与英伟达合作升级AI性能与安全方案：重塑AI基础设施新范式

在全球AI应用规模化部署的浪潮下，基础设施的性能瓶颈与安全挑战日益凸显。近日，F5与英伟达（NVIDIA）宣布深化合作，通过将F5 BIG-IP Next for Kubernetes与NVIDIA BlueField-3 DPU及DOCA软件框架深度整合，为AI工作负载提供高性能流量管理与安全防护解决方案。这一合作不仅标志着应用交付技术与AI加速硬件的创新融合，更为企业构建高效、安全的AI基础设施提供了新思路。

**一、技术整合：从硬件卸载到智能路由**

此次合作的核心在于F5 BIG-IP Next for Kubernetes原生支持NVIDIA BlueField-3 DPU。作为一款数据中心基础设施处理器（DPU），BlueField-3能够将网络、存储和安全任务从CPU卸载至专用硬件，从而释放主机资源。F5的流量管理技术在此基础上实现了两项关键突破：

1. **计算卸载优化**：通过将流量调度、KV缓存管理等任务迁移至DPU，联合方案显著降低了CPU负载。测试数据显示，该架构可提升AI推理任务的处理效率达30%以上，尤其适合高并发场景下的生成式AI应用。

2. **动态模型路由**：F5的智能路由引擎支持根据查询复杂度自动分配任务——简单请求由轻量级LLM处理以降低成本，复杂任务则定向至高性能模型。这种分层调度机制在Sesterce的实际部署中，成功将首个词元生成时间缩短了40%，同时降低了20%的GPU资源占用。

**二、性能加速：KV缓存与Dynamo框架协同**

针对生成式AI的延迟敏感特性，双方方案深度融合了NVIDIA Dynamo框架的分布式管理能力与F5的流量优化技术。Dynamo KV Cache Manager通过键值缓存复用历史计算结果，避免了重复推理的开销；而F5则基于实时容量指标动态路由请求，确保缓存命中率最大化。这一组合使得企业在同等GPU配置下可支持更高并发量，同时将内存成本降低至传统方案的1/3。

**三、安全增强：从协议适配到威胁防护**

随着AI协议（如OpenAI API、TensorRT-LLM）的快速迭代，安全防护面临严峻挑战。F5在此方案中扮演了三重角色：

1. **反向代理**：在NVIDIA MCP服务器前端部署F5，通过TLS终止、DDoS防护等功能加固LLM服务边界；

2. **协议灵活性**：借助iRules的可编程能力，支持快速适配新兴AI通信协议，例如对gRPC长连接的智能限流；

3. **数据面防护**：结合DOCA框架的硬件级加密，实现从网络层到应用层的全栈安全，有效抵御模型窃取、提示注入等AI特有风险。

**四、行业影响与未来展望**

该方案已在欧洲客户Sesterce的生产环境中完成验证，其价值主要体现在三方面：首先，通过DPU卸载降低了TCO（总体拥有成本）；其次，智能路由机制使企业能更灵活地混合使用不同规模的LLM；最后，安全能力的深度集成满足了金融、医疗等合规敏感行业的需求。

分析人士认为，F5与英伟达的合作标志着AI基础设施正从“单纯算力堆砌”向“性能-安全-成本协同优化”演进。未来，随着DPU在数据中心的普及，此类软硬协同方案或将成为AI规模化落地的标准配置。不过，企业需注意异构架构带来的运维复杂性，建议通过概念验证（PoC）逐步验证业务适配性。

结语：在AI竞赛进入深水区的当下，F5与英伟达的联合方案为企业提供了一条兼顾效率与安全的实用路径。其技术逻辑不仅适用于当前的大语言模型场景，也为未来边缘AI、多模态推理等新兴需求预留了扩展空间。这一合作或将重新定义AI时代的基础设施架构标准。

生成海报

本文来源于极客网，原文链接: https://www.fromgeek.com/latest/696386.html