人工智能初创公司Perplexity周二宣布 ，该公司计划使用英伟达的新型CPU芯片 。这将帮助英伟达撬动由英特尔和AMD等传统芯片制造商主导的CPU市场 。
英伟达曾表示 ，预计到本财年末，其通用型Vera CPU的销售额将达到200亿美元。
与其GPU相比 ，Vera芯片的推出更为重要 ，因为OpenAI等人工智能顶尖实验室已经开始设计自己的人工智能芯片，这迫使英伟达拓展其硬件产品线 。
而Vera处理器的优势在于，它是从零开始为人工智能代理时代而构建 。人工智能代理是一种自主程序 ，可以不断编写代码 、执行任务并协调复杂的工作流程 ，而无需像人类计算机用户那样休息。
英特尔和AMD的CPU则从笔记本电脑时代开始兴盛，实际无法完美应对人工智能代理持续不断的循环运算。
Perplexity公司负责计算机企业和基础设施的副总裁Nate Kupp表示 ，英伟达的CPU执行人工智能代理编码任务的速度比传统CPU快约1.5倍 ，这与他们核心架构完美契合 。
Perplexity拒绝透露计划购买多少颗英伟达CPU 。但英伟达此前曾透露，OpenAI 、Anthropic和Oracle也计划使用其CPU。
英伟达CPU技术
英伟达在其博客中最新发表的文章指出 ，CPU端的执行速度变慢 ，将导致强化学习每个周期受到的有效评估较少，从而训练时间延长 ，且需要更长时间来为单个用户提供服务 ，并可能导致KV缓存丢失，从而增加算力成本 。
而Vera的设计可以帮助解决这三个问题 。英伟达称Vera CPU的核心速度提升了1.8倍 ，能够在相同的时间窗口内完成高达85%的评估任务 ，并提供更丰富的强化学习反馈，从而带来更高质量、更丰富的训练信号，缩短训练时间。
与此同时 ，Vera CPU在人工智能代理部署时 ，将主要的优化指标从纯粹的吞吐量转向严格且可预测的延迟 。在保证CPU延迟稳定的情况下，服务单用户的时间将有效缩短 ，同等数量的GPU可以同时服务更多客户 。
而针对KV缓存因GPU与CPU之间计算步骤间隔过大而被新请求刷新的问题 ，Vera CPU选取 压缩CPU端，减少等待时间 ，从而缩短KV缓存面临驱逐压力的时间窗口 ，从而保留更多数据，并减少通过重新计算而浪费的算力。
（文章来源：财联社）
