本地 AI 助手:连接 Ollama、LM Studio,或直接在本机运行模型
Shhield AI 是一款免费的 macOS 和 Windows 桌面 AI 助手。除了云端模型,它也能和你电脑上运行的模型对话:在应用里直接下载一个,或者连接你已经在用的 Ollama、LM Studio。这样对话发给的是这个本地模型,而不是云端 AI 服务商。
这台电脑上在运行 Ollama 或 LM Studio 吗?
检测在你的浏览器里进行:只询问 localhost:11434(Ollama 默认端口)和 localhost:1234(LM Studio 默认端口)有没有服务响应,不会向 shhield.ai 发送任何内容。
支持哪些本地模型
内置本地模型
在应用里搜索 Hugging Face,下载开源权重模型,例如 Llama、Qwen、Gemma 的 GGUF 版本。Shhield AI 直接在这台电脑上运行它,如果模型可能超出内存会提前提醒。
Ollama
使用你在 Ollama 里拉取过的任意模型。默认连接 http://localhost:11434,也可以填其他地址。
LM Studio
使用 LM Studio 本地服务器里加载的模型,默认地址是 http://localhost:1234。
其他本地服务
Llama Swap、oMLX、LiteLLM,以及任何兼容 OpenAI 或 Ollama 接口的服务,都可以作为自定义提供商添加。
速度和上下文窗口取决于你的硬件和模型大小。在大多数电脑上,本地模型的回答会比大型云端模型慢。
四步接入 Ollama
安装 Ollama
macOS 或 Linux 在终端里运行安装脚本;Windows 在 PowerShell 里运行下面的命令,或者从 ollama.com/download 下载安装包。装好后 Ollama 会在 http://localhost:11434 保持一个服务运行。
curl -fsSL https://ollama.com/install.sh | shirm https://ollama.com/install.ps1 | iex下载一个模型
拉取模型,再列出已安装的模型,确认下载成功。qwen3:4b 约 2.5 GB;想换别的模型,到 ollama.com/library 查模型名。
ollama pull qwen3:4b
ollama list在 Shhield AI 里连接
打开「设置」→「模型与提供商」→ Ollama,保留地址 http://localhost:11434,点「验证连接」。
开始对话
在对话里选择这个本地模型。脱敏和屏幕上的自动还原与使用云端模型时完全一样。
改用 LM Studio 或内置模型
从 lmstudio.ai/download 下载 LM Studio 并打开一次,之后才能使用 lms 命令。在终端里列出已下载的模型并启动服务器,或者在 LM Studio 的 Developer 标签页里打开 Start server 开关。然后在 Shhield AI 里选 LM Studio,保留地址 http://localhost:1234。
lms ls
lms server start没有 Ollama 或 LM Studio?在同一个设置页里选「内置本地模型」,直接在应用里从 Hugging Face 下载模型。其他兼容 OpenAI 或 Ollama 接口的服务,用「添加自定义提供商」。
本地模型与云端模型的隐私差异:哪些数据在哪里处理
两种模型的脱敏方式完全一样,区别在于对话里的其余内容去了哪里。
| 数据 | 云端模型 | 本机运行的本地模型 |
|---|---|---|
| 识别出的敏感信息,例如邮箱、银行卡号、API 密钥 | 发送前在本机换成占位符,服务商只收到占位符 | 同样换成占位符,而且不离开这台电脑 |
| 你输入的其他内容 | 原样发到服务商的服务器,受其保存和审核政策约束 | 留在这台电脑上 |
| 回答 | 在服务商的服务器上生成,再在你的屏幕上还原 | 由你运行的模型在本机生成,再在屏幕上还原 |
| 占位符对照表和聊天记录 | 保存在本机;有系统钥匙串时,对照表用其中的密钥加密 | 同样保存在本机 |
| API 密钥 | 默认存放在系统钥匙串或凭据管理器里,只发给对应的服务商 | Ollama 和 LM Studio 通常不需要 |
| 你启用的工具和 MCP 服务器 | 拿到的是真实内容而不是占位符,可能访问互联网 | 同样拿到真实内容,可能访问互联网 |
这里的「本地」指模型服务运行在这台电脑上。如果 Ollama 或 LM Studio 跑在另一台机器上,或者用 LiteLLM 把请求转发到云端模型,那台机器或那家服务商会收到你输入的其他内容,识别出的敏感信息已经换成占位符。
无论用哪种模型,Shhield AI 本身仍会联网:启动时从 models.dev 加载模型目录、检查更新、向 shhield.ai 校验授权(发送的是这次安装和授权的标识,不含对话内容),以及在你下载内置模型时访问 Hugging Face。应用没有统计分析,你的对话也从不经过 Shhield 的服务器。
常见问题
用本地模型时,Shhield AI 能完全离线吗?
和本地模型的对话不会发给云端 AI 服务商,但 Shhield AI 不是纯离线应用:它仍会联网加载模型目录、检查更新、校验授权和下载模型,你启用的工具或扩展也可能访问互联网。
应该选哪个本地模型?
先选能放进你内存的模型,下载可能超出内存时应用会提醒。小模型回答更快,大模型更擅长复杂任务,但需要更多内存。
能连接另一台电脑上的 Ollama 吗?
可以。把 http://localhost:11434 换成那台电脑的地址,并在那台电脑上设置 Ollama 允许局域网连接。这样你的文本会传到那台电脑,请只在可信的网络里使用。
收费吗?
不收费。Shhield AI 和它的本地模型功能都是免费的。Ollama 和 LM Studio 是独立的应用,有各自的条款,每个模型也有自己的许可证。
用本地模型时还会脱敏吗?
会。无论选哪个提供商,每次请求前都会脱敏,回答在屏幕上自动还原。当服务器在另一台机器上,或者会转发到云端模型时,这一点最有用。