前有 ChatGPT 的横空出世，现有 DeepSeek 的后生可畏。

在人工智能（AI）飞速发展的今天，大语言模型（LLMs）百家争鸣、群英荟萃，AI已经成为人们茶余饭后必备的话题，更是人们工作、学习中必备的工具。

大语言模型（LLM）是一种利用大量数据训练的深度学习模型，旨在理解和生成人类语言。

Ollama 简介

言归正传，Ollama是一个专注于简化大语言模型的部署和使用，采用Go语言编写，旨在为开发者提供高效、灵活的工具来构建和运行基于 LLM 的应用程序。

它允许普通用户快速、简单的在自己的电脑上下载、管理、运行大语言模型，它支持 Llama 3.3, DeepSeek-R1, Phi-4, Gemma 2 等其他大语言模型。支持 macOS、Windows、Linux 等操作系统，Ollama 在 Github 上开源，目前拥有超过 126k 的 star，并且拥有数百位贡献者。

Ollama 特性

Ollama 作为一个流行的开源框架，在业界得到广泛的认可和使用，这不得不归功于其丰富的特性。

  • 开源，Ollama 采用 MIT 开源协议，这意味着开发者可以自由的阅读或者使用它的源码，并对其定制
  • 多模型支持，它支持多种语言模型，普通用户无需为每种模型搭建独立的环境
  • 易于部署，它提供了主流操作系统的安装包，使得没有技术背景的用户也可以部署自己的语言模型
  • 高性能，通过动态加载等技术优化资源使用，能够在提供高质量语言处理能力的同时，保持较高的运行效率，快速响应用户的请求
  • 可扩展性，支持自定义模型、插件系统，可扩展功能（如文件搜索、数学计算等）

应用场景

无论你是资深技术人员，还是没有任何技术背景的普通用户，都可以使用 Ollama 部署自己的模型，可以被广泛的应用在各行各业中，为各个领域提供便利。

  • 私有化部署 LLM 模型
  • 搭建智能聊天机器人
  • 构建企业知识库
  • 内容创作与生成
  • 多模态任务处理
  • 教育与研究工具
  • 开发者效率工具
  • ...

安装与使用

可以在 Ollama 官网中找到对应操作系统的安装方法，Windows 系统直接下载安装包，点击直接安装即可。

安装完成以后，可以打开 cmd 命令行提示符查看版本：

ollama -v

直接输入 ollama -h 可以查看 ollama 支持的命令：

C:\Users\Administrator>ollama -h
Large language model runner

Usage:
  ollama [flags]
  ollama [command]

Available Commands:
  serve       Start ollama
  create      Create a model from a Modelfile
  show        Show information for a model
  run         Run a model
  stop        Stop a running model
  pull        Pull a model from a registry
  push        Push a model to a registry
  list        List models
  ps          List running models
  cp          Copy a model
  rm          Remove a model
  help        Help about any command

Flags:
  -h, --help      help for ollama
  -v, --version   Show version information

Use "ollama [command] --help" for more information about a command.

安装运行模型，这里以deepseek-r1为例：

ollama run deepseek-r1:7b

下载速度取决于你的网速，下载完成后自动运行，你可以输入你的问题让他回答：

pulling manifest
pulling 96c415656d37... 100% ▕████████████████████████████████████████████████████████▏ 4.7 GB
pulling 369ca498f347... 100% ▕████████████████████████████████████████████████████████▏  387 B
pulling 6e4c38e1172f... 100% ▕████████████████████████████████████████████████████████▏ 1.1 KB
pulling f4d24e9138dd... 100% ▕████████████████████████████████████████████████████████▏  148 B
pulling 40fb844194b2... 100% ▕████████████████████████████████████████████████████████▏  487 B
verifying sha256 digest
writing manifest
success
>>> 你好 你是谁
<think>

</think>

您好！我是由中国的深度求索（DeepSeek）公司开发的智能助手DeepSeek-R1。如您有任何任何问题，我会尽我所能为您提供帮助。

使用 Ctrl + d 或 输入 /bye退出对话。使用ollama list列出已安装的模型。

ollama list

最后

Ollama 为我们使用和应用大语言模型提供了便利，可以称之谓大语言模型LLMs的底座。它为开发者提供了一个轻量级、灵活且易于集成的底层框架，使得 LLM 的应用门槛大幅降低。

Ollama 通过 轻量化、本地化、易用化 的设计，降低了 LLM 的技术使用门槛，使其从实验室走向千家万户。无论是个人开发者、中小企业还是大型机构，都可以基于 Ollama 快速构建从原型到产品的完整链路座，Ollama 正在成为 LLM 时代应用开发的基石。