米斯特拉尔-小型 3.2 – 搞英语 → 看世界

几个小时前在 Hugging Face 上发布，到目前为止还没有任何量化可以在 Mac 上运行它，但我相信这些会很快出现。

这是对 Mistral Small 3.1 的一个小升级，它是我最喜欢的本地模型之一。我一直通过 Ollama运行 Small 3.1，下载量为 15GB——这 240 亿个参数的模型在功能和不占用我笔记本电脑所有可用内存之间取得了很好的平衡。我预计 Ollama 很快就会添加 3.2 版本。

据米斯特拉尔称：

Small-3.2 在以下方面有所改进：

遵循指令：Small-3.2 更擅长遵循精确指令

重复错误：Small-3.2 产生的无限代数或重复答案较少

函数调用：Small-3.2 的函数调用模板更加健壮（参见此处和示例）

有趣的是，他们建议以 0.15 的温度运行——许多型号建议的默认值是 0.7。他们还提供了一个建议的系统提示，其中包含一条注释：“您的知识库最后更新于 2023 年 10 月 1 日”。

它目前还无法通过 Mistral 的 API 或我检查过的任何第三方 LLM 托管供应商获得，所以我自己还无法通过该模型运行提示。