jsonscraper
市场
返回期刊

Mistral 开放 Le Chonk 权重:可自行部署和微调模型

Mistral Large 4 现已开放下载并支持本地部署;允许商业用途,但将其作为模型即服务产品提供时须另行取得商业许可。

编辑政策 报告错误

10月29日,Mistral 发布了更新版 Mistral Large 4(又称 Le Chonk)的权重。开发者和组织现在可以下载、微调模型,并将其部署在自有基础设施上,无须只能使用 Mistral 的服务。企业需要注意一项限制:将模型作为模型即服务提供,需要单独的商业许可。

文章:Mistral 开放 Le Chonk 权重:可自行部署和微调模型
摘要:10月29日,Mistral 发布了更新版 Mistral Large 4(又称 Le Chonk)的权重。开发者和组织可以下载、调整模型并在自有基础设施上运行;将其作为模型服务提供的公司则需要单独的商业许可。
图片用途:封面——核心主题
章节:
视觉主题:以抽象模块化 AI 模型为主题的编辑摄影
权重开放后,组织可以在自有基础设施中部署模型,也可以使用云服务。© jsonscraper · AI 生成

开放了哪些内容

在权重发布公告中,Mistral 表示,这一版本在10月初开始的公开预览之后进行了改进。公司称,用户可以通过 Mistral Studio 和 API 试用模型,也可以从 Hugging Face 下载权重并自行部署。可选的运行方式包括 vLLM 和 SGLang;此外还有 NVIDIA NIM 容器以及由 NVIDIA 托管的端点。

实际变化在于,用户可以控制模型的运行位置,并针对自身任务进行调整。团队可以在自己的环境中部署模型,根据内部代码或数据进行配置,并自行管理集成。这对需要将数据处理留在自有基础设施中的组织尤其有意义。用户仍可通过 Mistral API、Mistral Studio、OpenRouter 和 Microsoft Foundry 使用托管服务。

已发布测试的结果

Mistral 报告了模型在多项测试中的表现,但这些数据来自公司自身及其选择的评估项目。在内部测试 Cognition FrontierCode 2.0 中,模型得分为19.7%;在 Artificial Analysis Coding Agent Index 中得分为48%,据公司称,与对比中排名领先的开放权重模型相比,完成每项任务的平均 token 消耗低47%。在 Terminal-Bench 4.0 上,成绩较预览版提高13个百分点,达到41%。

对于网络安全专业人员,Mistral 报告称,模型在 Artificial Analysis Cyber Index 上得分为51%;该测试评估漏洞发现、复现和修复能力。公司还称,在 JailbreakBench、StrongREJECT 和 AgentHarm 的恶意网络安全请求中,模型的平均拒绝率为96.6%。这些指标仅反映特定测试集上的表现;选型组织最好根据自身任务和安全设置重复评估。

这次发布为谁提供了更多选择

小型开发团队现在可以研究和调整该模型,而不必从头开发自己的基础模型。企业可以自行决定在哪里运行处理、使用哪些内部数据进行微调,以及如何将模型接入现有系统。研究和安全团队则可以研究模型行为,并在受控场景中进行测试。

不过,此处的“开放权重”是指用户可以访问模型参数,并根据许可使用这些参数,并不意味着使用模型必然免费。本地运行需要合适的计算基础设施,也需要投入部署工作。Mistral 在此次公告中没有发布完整技术报告,并表示稍后会公布,因此目前应结合公告所述的测试范围来理解已发布的结果。

部署前需要确认的事项

Mistral Ecosystem Open-Weight 许可允许用户使用、修改、微调模型并将其商业化。例外情况是将模型作为模型即服务提供的公司:此类商业服务需要另行取得 Mistral 许可。启动前,建议先对照模型页面及许可条款核实产品计划,再根据团队的典型任务测试质量、速度和成本。

因此,这次发布的主要意义并非承诺所有用户都能获得同样的收益,而是扩大了用户的控制权:现在可以获取 Le Chonk 权重并自行运行,同时仍可选择云服务。对于重视模型调整和运行环境控制的团队来说,这是一个具体的新选择;许可限制和自建基础设施的成本,则决定了它是否适合特定项目。

人们

尚未列出本文的人员。

继续阅读Cloudflare выпустила Clef-omni для структурированного анализа аудио и видео
阅读下一篇文章

将阅读内容转化为可用的集成

探索 jsonscraper 社交数据 API、测试请求并构建下一个工作流。

查看 API