|
|
|
前有 ChatGPT 的横空出世，现有 DeepSeek 的后生可畏。
在人工智能（AI）飞速发展的今天，大语言模型（LLMs）百家争鸣、群英荟萃，AI已经成为人们茶余饭后必备的话题，更是人们工作、学习中必备的工具。
大语言模型（LLM）是一种利用大量数据训练的深度学习模型，旨在理解和生成人类语言。
Ollama 简介
言归正传，Ollama是一个专注于简化大语言模型的部署和使用，采用Go语言编写，旨在为开发者提供高效、灵活的工具来构建和运行基于 LLM 的应用程序。
它允许普通用户快速、简单的在自己的电脑上下载、管理、运行大语言模型，它支持 Llama 3.3, DeepSeek-R1, Phi-4, Gemma 2 等其他大语言模型。支持 macOS、Windows、Linux 等操作系统，Ollama 在 Github 上开源，目前拥有超过 126k 的 star，并且拥有数百位贡献者。
Ollama 特性
Ollama 作为一个流行的开源框架，在业界得到广泛的认可和使用，这不得不归功于其丰富的特性。
开源，Ollama 采用 MIT 开源协议，这意味着开发者可以自由的阅读或者使用它的源码，并对其定制
多模型支持，它支持多种语言模型，普通用户无需为每种模型搭建独立的环境
易于部署，它提供了主流操作系统的安装包，使得没有技术背景的用户也可以部署自己的语言模型
高性能，通过动态加载等技术优化资源使用，能够在提供高质量语言处理能力的同时，保持较高的运行效率，快速响应用户的请求
可扩展性，支持自定义模型、插件系统，可扩展功能（如文件搜索、数学计算等）
应用场景
无论你是资深技术人员，还是没有任何技术背景的普通用户，都可以使用 Ollama 部署自己的模型，可以被广泛的应用在各行各业中，为各个领域提供便利。
私有化部署 LLM 模型
搭建智能聊天机器人
构建企业知识库
内容创作与生成
多模态任务处理
教育与研究工具
开发者效率工具
...
安装与使用
可以在 Ollama 官网中找到对应操作系统的安装方法，Windows 系统直接下载安装包，点击直接安装即可。
安装完成以后，可以打开 cmd 命令行提示符查看版本：
直接输入 ollama -h 可以查看 ollama 支持的命令：
- C:\Users\Administrator>ollama -h
- Large language model runner
- Usage:
- ollama [flags]
- ollama [command]
- Available Commands:
- serve Start ollama
- create Create a model from a Modelfile
- show Show information for a model
- run Run a model
- stop Stop a running model
- pull Pull a model from a registry
- push Push a model to a registry
- list List models
- ps List running models
- cp Copy a model
- rm Remove a model
- help Help about any command
- Flags:
- -h, --help help for ollama
- -v, --version Show version information
- Use "ollama [command] --help" for more information about a command.
- ollama run deepseek-r1:7b
- pulling manifest
- pulling 96c415656d37... 100% ▕████████████████████████████████████████████████████████▏ 4.7 GB
- pulling 369ca498f347... 100% ▕████████████████████████████████████████████████████████▏ 387 B
- pulling 6e4c38e1172f... 100% ▕████████████████████████████████████████████████████████▏ 1.1 KB
- pulling f4d24e9138dd... 100% ▕████████████████████████████████████████████████████████▏ 148 B
- pulling 40fb844194b2... 100% ▕████████████████████████████████████████████████████████▏ 487 B
- verifying sha256 digest
- writing manifest
- success
- >>> 你好 你是谁
- <think>
- </think>
- 您好！我是由中国的深度求索（DeepSeek）公司开发的智能助手DeepSeek-R1。如您有任何任何问题，我会尽我所能为您提供帮助。
使用 Ctrl + d 或 输入 /bye退出对话。使用ollama list列出已安装的模型。
最后
Ollama 为我们使用和应用大语言模型提供了便利，可以称之谓大语言模型LLMs的底座。它为开发者提供了一个轻量级、灵活且易于集成的底层框架，使得 LLM 的应用门槛大幅降低。
Ollama 通过 轻量化、本地化、易用化 的设计，降低了 LLM 的技术使用门槛，使其从实验室走向千家万户。无论是个人开发者、中小企业还是大型机构，都可以基于 Ollama 快速构建从原型到产品的完整链路座，Ollama 正在成为 LLM 时代应用开发的基石。
原创作品， 采用《署名-非商业性使用-禁止演绎 4.0 国际》许可协议。
|
|
发表于