ollama 是在系统上轻松运行大型语言模型 (LLM) 的开源工具,对于 ollama 的爱好者来说,olama v0.3 已经发布,并支持最新的激动人心的模型。
连夜发布的 ollama v0.3 预发布版已初步支持 Llama 3.1,这是来自 Meta/Facebook 的 Llama 系列中最新的 LLM。Llama 3.1 是 Meta 本周早些时候推出的迄今为止 “功能最强大 “的模型,其 405B 版本声称是 “世界上最大、功能最强大的开放式基础模型”。
ollama 0.3 版本能够处理具有 8B、70B 和 405B 参数大小的 Llama 3.1。部署只需执行 “ollama run llama3.1 “即可。
ollama 0.3 版本还支持 Mistral Large 2,因为 Mistral 的新 123B 模型在代码生成、数学、推理和其他领域的能力更强。
有关 ollama 0.3 发布的下载和更多详情,请访问 https://github.com/ollama/ollama/releases/tag/v0.3.0。