Mistral发布了一个可以打开Mac的开源模型

Mistral AI揭示了Mistral Small 3.1,其小型3型号的改进版本能够以128,000个令牌的上下文窗口处理文本和图像。根据该公司的说法,它超过了类似的型号,例如Google Gemma 3和GPT-4O Mini,同时被优化可在可访问设备上运行,例如RTX 4090图形卡或带有32 GB RAM的Mac。

设计用于效率的模型

Mistral Small 3.1是一种多模式和多语言人工智能模型。它旨在响应说明,协助对话,分析图像并管理复杂的任务。其宣布的治疗速度为每秒150个令牌,使一个模型适合需要快速响应的应用。它的扩展上下文窗口还可以更好地管理长文档和高级推理。

它的特殊性之一是其在消费设备上进行部署的优化。量化后,它可以在单个RTX 4090图形卡或具有32 GB RAM的Mac上本地运行(这肯定不是标准)。这个想法仍然是避免使用昂贵的云基础架构。

Apache 2.0许可下的开源模型

Mistral AI继续以Apache 2.0许可证可用的Mismtral Small 3.1押注开源。这种方法使公司和开发人员可以在没有太多限制的情况下使用,修改和调整模型。它与某些竞争对手的选择形成鲜明对比,这些竞争对手仅通过专有云服务有利于封闭且可访问的模型。

该模型可通过多个平台访问:可以从基本和指令版中的拥抱面下载,也可以通过APRA API使用。它也可以在Google Cloud Vertex AI上找到,并在Nvidia Nim和Microsoft Azure AIT Foundry上计划进行集成。

欧洲人工智能的战略定位

AI由Google DeepMind和Meta的前研究人员于2023年创立,作为人工智能的主要欧洲参与者越来越重要。估值为60亿美元,筹集了超过10亿美元,该公司试图将自己定位为该行业中美国和中国巨头的替代品。

它致力于开放源代码和用于可访问设备的模型的优化是一种策略的一部分,该策略旨在提出昂贵的基础设施的依赖性AI解决方案。这种方法可以使他能够吸引更广泛的受众,从独立开发商到正在寻找市场领导者替代品的大型公司。

面对财务手段要高得多的竞争对手,从长远来看,这种开源战略是否可以生存还有待观察。无论如何,Mistral Small 3.1确认提供高效且易于使用的模型。