Ollama 是一个用于在本地计算机上运行大型语言模型的命令行工具，允许用户下载并本地运行像 Llama2、CodeLlama 和其他模型，并支持自定义和创建自己的模型。该免费开源的项目，目前支持 macOS 和 Linux 操作系统，未来还将支持 Windows 系统。

此外，Ollama 还提供了官方的 Docker 镜像，由此使用 Docker 容器部署大型语言模型变得更加简单，确保所有与这些模型的交互都在本地进行，无需将私有数据发送到第三方服务。Ollama 在 macOS 和 Linux 上支持 GPU 加速，并提供了简单的命令行界面（CLI）以及用于与应用程序交互的 RESTAPI。

该工具对于需要在本地机器上运行和实验大语言模型的开发人员或研究人员来说特别有用，无需依赖外部云服务。

Github 地址：https://github.com/ollama/ollama