区小号报道:

要点总结

  • NVIDIA 和 Mistral AI 建立了合作伙伴关系,致力于加速开源语言模型的开发。
  • 此次合作延续了现有的努力,包括开发用于聊天机器人和编码任务的 Mistral NeMo 12B 语言模型。
<!--?xml encoding="UTF-8"?-->

NVIDIA 与总部位于巴黎的大型语言模型 (LLM) 开发商 Mistral AI 正式建立了战略合作伙伴关系,旨在大幅加速 NVIDIA 庞大生态系统中新开源模型的开发和优化。

继 Mistral NeMo 12B 型号的联合开发之后,此次合作旨在利用 NVIDIA 的平台部署 Mistral 最近发布的开源 Mistral 3 系列。

这些模型强调多模态和多语言功能,旨在从云端部署到 RTX PC 和 Jetson 等边缘设备。

NVIDIA 将 Mistral 模型与其 AI 推理工具包集成,通过 TensorRT-LLM、SGLang 和 vLLM 等框架优化性能,同时利用其 NeMo 工具进行企业级定制。

点赞(0) 打赏

评论列表 共有 0 条评论

暂无评论

微信小程序

微信扫一扫体验

立即
投稿

微信公众账号

微信扫一扫加关注

发表
评论
返回
顶部