本地 AI 对话起步：用 Ollama 把模型跑在自己电脑上（附源码）

2026 年最火的方向之一肯定是「本地 AI」——数据不出本机、免费、可离线。最低门槛方案是 Ollama：

ollama pull qwen2.5

然后几行 Python 用 OpenAI 兼容 SDK 调本地接口：

from openai import OpenAI
client = OpenAI(base_url="http://localhost:11434/v1", api_key="ollama")
resp = client.chat.completions.create(model="qwen2.5", messages=[...])

附件 local_ai_starter.zip 是个完整 CLI 对话示例，连本地、数据不出门。想接云端 API 只改 BASE_URL/API_KEY，并遵守对应平台条款。原创示例，仅供学习。

合规提醒：本地运行开源权重请遵守模型本身的许可证；接商业 API 请遵守其服务条款与用量限制。

本地跑 qwen 做笔记助手真香，离线也能用。

数据不出本机这点对隐私场景太关键了。