赛轮思宣布扩大与英伟达的合作，以提升其 CaLLM 系列语言模型的功能

最新 1 月 3 日消息，赛轮思（Cerence）今日宣布扩大与英伟达的合作，以提升其 CaLLM 系列语言模型的功能，包括基于云的赛轮思汽车大语言模型（CaLLM）和 CaLLM Edge 嵌入式小语言模型。

通过此次合作，CaLLM 由端到端云原生软件平台 NVIDIA AI Enterprise 提供支持，CaLLM Edge 的某些方面则由 NVIDIA DRIVE AGX Orin 提供支持。

具体而言，Cerence AI 通过利用 NVIDIA AI Enterprise 软件平台（包括 NVIDIA TensorRT-LLM 和 NVIDIA NeMo）加速 CaLLM 的开发和部署（最新注：NVIDIA NeMo 是一个用于构建、定制和将生成式 AI 应用程序部署到生产环境的端到端框架）。

因此，Cerence AI 优化并定制了其 CaLLM 系列模型，以：

• 在 NVIDIA 加速计算和 SoC 上提供更快的车载助手性能

• 开发汽车优化的 NVIDIA NeMo Guardrails 实现，帮助确保 Cerence 驱动的系统能够驾驭车载交互的细微之处

• 通过 NVIDIA DRIVE AGX Orin 在 CaLLM Edge 上实施和优化代理架构，帮助推进下一代车载用户体验