AI News
开源项目 GitHub Topic llm 2026-07-06T12:02 正文 ok 586 words

📦 ollama/ollama：快速上手 Kimi-K2.6、GLM-5.1、DeepSeek 等开源模型

英文标题：📦 ollama/ollama

Ollama 提供跨平台一键安装脚本和 Docker 镜像，让开发者能立即在本地运行 Kimi-K2.6、GLM-5.1、DeepSeek、Gemma 等数十种开源模型。项目集成了 Claude Code、OpenClaw、Codex 等众多开发工具与社区应用，覆盖聊天、代码辅助、RAG 引擎等场景。同时提供 REST API 以及 Python/JavaScript 客户端库，方便构建自定义 AI 应用。丰富的社区集成可大幅降低使用门槛，加速从原型到部署的 AI 开发流程。
打开原文相关 2.1 · 机会 2
media89.9 KB media56.5 KB

中文

Ollama

开始使用开源模型构建。

curl -fsSL https://ollama.com/install.sh | sh

或手动下载

irm https://ollama.com/install.ps1 | iex

或手动下载

curl -fsSL https://ollama.com/install.sh | sh

手动安装说明

官方 Ollama Docker 镜像 ollama/ollama 可在 Docker Hub 上获取。

社区

系统将提示你运行模型或将 Ollama 连接到现有的智能体或应用程序，例如 Claude Code、OpenClaw、OpenCode、Codex、Copilot 等。

启动特定集成：

支持的集成包括 Claude Code、Codex、Copilot CLI、Droid 和 OpenCode。

使用 OpenClaw 可将 Ollama 转变为个人 AI 助理，覆盖 WhatsApp、Telegram、Slack、Discord 等渠道：

运行 Gemma 4 并与之对话：

请查看 ollama.com/library 获取完整列表。

请参阅 快速入门指南 了解更多详情。

Ollama 提供 REST API 用于运行和管理模型。

curl http://localhost:11434/api/chat -d '{ "model": "gemma4", "messages": [{ "role": "user", "content": "Why is the sky blue?" }], "stream": false }'

查看 API 文档 了解所有端点。

python from ollama import chat

response = chat(model='gemma4', messages=[ { 'role': 'user', 'content': 'Why is the sky blue?', }, ]) print(response.message.content)

javascript import ollama from "ollama";

const response = await ollama.chat({ model: "gemma4", messages: [{ role: "user", content: "Why is the sky blue?" }], }); console.log(response.message.content);

  • llama.cpp 项目由 Georgi Gerganov 创立。

社区集成

想要添加你的项目？请提交 Pull Request。

  • Dify.AI - LLM 应用开发平台
  • AnythingLLM - 适用于 Mac、Windows 和 Linux 的一体化 AI 应用
  • Maid - 跨平台移动与桌面客户端
  • Witsy - 适用于 Mac、Windows 和 Linux 的 AI 桌面应用
  • Cherry Studio - 多服务商桌面客户端
  • Ollama App - 桌面与移动多平台客户端
  • PyGPT - 适用于 Linux、Windows 和 Mac 的 AI 桌面助手
  • Alpaca - 适用于 Linux 和 macOS 的 GTK4 客户端
  • SwiftChat - 跨平台，支持 iOS、Android 和 Apple Vision Pro
  • Enchanted - 原生 macOS 和 iOS 客户端
  • RWKV-Runner - 多模型桌面运行器
  • Ollama Grid Search - 评估和比较模型
  • macai - 适用于 Ollama 和 ChatGPT 的 macOS 客户端
  • AI Studio - 多服务商桌面 IDE
  • Reins - 参数调优与推理模型支持
  • ConfiChat - 注重隐私，可选加密
  • LLocal.in - Electron 桌面客户端
  • MindMac - Mac 上的 AI 聊天客户端
  • Msty - 多模型桌面客户端
  • BoltAI for Mac - Mac 上的 AI 聊天客户端
  • IntelliBar - 适用于 macOS 的 AI 助手
  • Kerlig AI - 适用于 macOS 的 AI 写作助手
  • Hillnote - 以 Markdown 为先的 AI 工作空间
  • Perfect Memory AI - 基于屏幕记录和会议历史实现个性化的效率 AI

以上列出的 SwiftChat、Enchanted、Maid、Ollama App、Reins 和 ConfiChat 也支持移动平台。

代码编辑器与开发

  • RAGFlow - 基于深度文档理解的 RAG 引擎
  • R2R - 开源 RAG 引擎
  • MaxKB - 即用型 RAG 聊天机器人
  • Minima - 本地部署或完全本地化的 RAG
  • Chipper - 集成 Haystack RAG 的 AI 界面
  • ARGO - 在 Mac/Windows/Linux 上进行 RAG 和深度研究
  • Archyve - 支持 RAG 的文档库
  • Casibase - 带 RAG 和单点登录的 AI 知识库
  • BrainSoup - 原生客户端，支持 RAG 和多智能体自动化

可观测性与监控

  • Opik - 调试、评估和监控 LLM 应用
  • OpenLIT - 基于 OpenTelemetry 的 Ollama 与 GPU 监控
  • Lunary - 提供分析功能和 PII 脱敏的 LLM 可观测平台
  • Langfuse - 开源 LLM 可观测
  • HoneyHive - 面向智能体的 AI 可观测与评估
  • MLflow Tracing - 开源 LLM 可观测

基础设施与部署

English / 原文

ollama

Start building with open models.

curl -fsSL https://ollama.com/install.sh | sh

or download manually

irm https://ollama.com/install.ps1 | iex

or download manually

curl -fsSL https://ollama.com/install.sh | sh

Manual install instructions

The official Ollama Docker image ollama/ollama is available on Docker Hub.

Community

You'll be prompted to run a model or connect Ollama to your existing agents or applications such as Claude Code, OpenClaw, OpenCode , Codex, Copilot, and more.

To launch a specific integration:

Supported integrations include Claude Code, Codex, Copilot CLI, Droid, and OpenCode.

Use OpenClaw to turn Ollama into a personal AI assistant across WhatsApp, Telegram, Slack, Discord, and more:

Run and chat with Gemma 4:

See ollama.com/library for the full list.

See the quickstart guide for more details.

Ollama has a REST API for running and managing models.

curl http://localhost:11434/api/chat -d '{
  "model": "gemma4",
  "messages": [{
    "role": "user",
    "content": "Why is the sky blue?"
  }],
  "stream": false
}'

See the API documentation for all endpoints.

from ollama import chat

response = chat(model='gemma4', messages=[
  {
    'role': 'user',
    'content': 'Why is the sky blue?',
  },
])
print(response.message.content)


import ollama from "ollama";

const response = await ollama.chat({
  model: "gemma4",
  messages: [{ role: "user", content: "Why is the sky blue?" }],
});
console.log(response.message.content);
  • llama.cpp project founded by Georgi Gerganov.

Community Integrations

Want to add your project? Open a pull request.

  • Dify.AI - LLM app development platform
  • AnythingLLM - All-in-one AI app for Mac, Windows, and Linux
  • Maid - Cross-platform mobile and desktop client
  • Witsy - AI desktop app for Mac, Windows, and Linux
  • Cherry Studio - Multi-provider desktop client
  • Ollama App - Multi-platform client for desktop and mobile
  • PyGPT - AI desktop assistant for Linux, Windows, and Mac
  • Alpaca - GTK4 client for Linux and macOS
  • SwiftChat - Cross-platform including iOS, Android, and Apple Vision Pro
  • Enchanted - Native macOS and iOS client
  • RWKV-Runner - Multi-model desktop runner
  • Ollama Grid Search - Evaluate and compare models
  • macai - macOS client for Ollama and ChatGPT
  • AI Studio - Multi-provider desktop IDE
  • Reins - Parameter tuning and reasoning model support
  • ConfiChat - Privacy-focused with optional encryption
  • LLocal.in - Electron desktop client
  • MindMac - AI chat client for Mac
  • Msty - Multi-model desktop client
  • BoltAI for Mac - AI chat client for Mac
  • IntelliBar - AI-powered assistant for macOS
  • Kerlig AI - AI writing assistant for macOS
  • Hillnote - Markdown-first AI workspace
  • Perfect Memory AI - Productivity AI personalized by screen and meeting history

SwiftChat, Enchanted, Maid, Ollama App, Reins, and ConfiChat listed above also support mobile platforms.

Code Editors & Development

  • RAGFlow - RAG engine based on deep document understanding
  • R2R - Open-source RAG engine
  • MaxKB - Ready-to-use RAG chatbot
  • Minima - On-premises or fully local RAG
  • Chipper - AI interface with Haystack RAG
  • ARGO - RAG and deep research on Mac/Windows/Linux
  • Archyve - RAG-enabling document library
  • Casibase - AI knowledge base with RAG and SSO
  • BrainSoup - Native client with RAG and multi-agent automation

Observability & Monitoring

  • Opik - Debug, evaluate, and monitor LLM applications
  • OpenLIT - OpenTelemetry-native monitoring for Ollama and GPUs
  • Lunary - LLM observability with analytics and PII masking
  • Langfuse - Open source LLM observability
  • HoneyHive - AI observability and evaluation for agents
  • MLflow Tracing - Open source LLM observability

Infrastructure & Deployment