// LOCAL AI

本地 AI 助手:连接 Ollama、LM Studio,或直接在本机运行模型

Shhield AI 是一款免费的 macOS 和 Windows 桌面 AI 助手。除了云端模型,它也能和你电脑上运行的模型对话:在应用里直接下载一个,或者连接你已经在用的 Ollama、LM Studio。这样对话发给的是这个本地模型,而不是云端 AI 服务商。

免费下载 Shhield AI(macOS / Windows)

这台电脑上在运行 Ollama 或 LM Studio 吗?

检测在你的浏览器里进行:只询问 localhost:11434(Ollama 默认端口)和 localhost:1234(LM Studio 默认端口)有没有服务响应,不会向 shhield.ai 发送任何内容。

支持哪些本地模型

内置本地模型

在应用里搜索 Hugging Face,下载开源权重模型,例如 Llama、Qwen、Gemma 的 GGUF 版本。Shhield AI 直接在这台电脑上运行它,如果模型可能超出内存会提前提醒。

Ollama

使用你在 Ollama 里拉取过的任意模型。默认连接 http://localhost:11434,也可以填其他地址。

LM Studio

使用 LM Studio 本地服务器里加载的模型,默认地址是 http://localhost:1234。

其他本地服务

Llama Swap、oMLX、LiteLLM,以及任何兼容 OpenAI 或 Ollama 接口的服务,都可以作为自定义提供商添加。

速度和上下文窗口取决于你的硬件和模型大小。在大多数电脑上,本地模型的回答会比大型云端模型慢。

四步接入 Ollama

01

安装 Ollama

macOS 或 Linux 在终端里运行安装脚本;Windows 在 PowerShell 里运行下面的命令,或者从 ollama.com/download 下载安装包。装好后 Ollama 会在 http://localhost:11434 保持一个服务运行。

macOS / Linux · 终端
curl -fsSL https://ollama.com/install.sh | sh
Windows · PowerShell
irm https://ollama.com/install.ps1 | iex
02

下载一个模型

拉取模型,再列出已安装的模型,确认下载成功。qwen3:4b 约 2.5 GB;想换别的模型,到 ollama.com/library 查模型名。

终端 / PowerShell
ollama pull qwen3:4b
ollama list
03

在 Shhield AI 里连接

打开「设置」→「模型与提供商」→ Ollama,保留地址 http://localhost:11434,点「验证连接」。

04

开始对话

在对话里选择这个本地模型。脱敏和屏幕上的自动还原与使用云端模型时完全一样。

改用 LM Studio 或内置模型

从 lmstudio.ai/download 下载 LM Studio 并打开一次,之后才能使用 lms 命令。在终端里列出已下载的模型并启动服务器,或者在 LM Studio 的 Developer 标签页里打开 Start server 开关。然后在 Shhield AI 里选 LM Studio,保留地址 http://localhost:1234。

终端 / PowerShell
lms ls
lms server start

没有 Ollama 或 LM Studio?在同一个设置页里选「内置本地模型」,直接在应用里从 Hugging Face 下载模型。其他兼容 OpenAI 或 Ollama 接口的服务,用「添加自定义提供商」。

本地模型与云端模型的隐私差异:哪些数据在哪里处理

两种模型的脱敏方式完全一样,区别在于对话里的其余内容去了哪里。

数据云端模型本机运行的本地模型
识别出的敏感信息,例如邮箱、银行卡号、API 密钥发送前在本机换成占位符,服务商只收到占位符同样换成占位符,而且不离开这台电脑
你输入的其他内容原样发到服务商的服务器,受其保存和审核政策约束留在这台电脑上
回答在服务商的服务器上生成,再在你的屏幕上还原由你运行的模型在本机生成,再在屏幕上还原
占位符对照表和聊天记录保存在本机;有系统钥匙串时,对照表用其中的密钥加密同样保存在本机
API 密钥默认存放在系统钥匙串或凭据管理器里,只发给对应的服务商Ollama 和 LM Studio 通常不需要
你启用的工具和 MCP 服务器拿到的是真实内容而不是占位符,可能访问互联网同样拿到真实内容,可能访问互联网

这里的「本地」指模型服务运行在这台电脑上。如果 Ollama 或 LM Studio 跑在另一台机器上,或者用 LiteLLM 把请求转发到云端模型,那台机器或那家服务商会收到你输入的其他内容,识别出的敏感信息已经换成占位符。

无论用哪种模型,Shhield AI 本身仍会联网:启动时从 models.dev 加载模型目录、检查更新、向 shhield.ai 校验授权(发送的是这次安装和授权的标识,不含对话内容),以及在你下载内置模型时访问 Hugging Face。应用没有统计分析,你的对话也从不经过 Shhield 的服务器。

常见问题

用本地模型时,Shhield AI 能完全离线吗?

和本地模型的对话不会发给云端 AI 服务商,但 Shhield AI 不是纯离线应用:它仍会联网加载模型目录、检查更新、校验授权和下载模型,你启用的工具或扩展也可能访问互联网。

应该选哪个本地模型?

先选能放进你内存的模型,下载可能超出内存时应用会提醒。小模型回答更快,大模型更擅长复杂任务,但需要更多内存。

能连接另一台电脑上的 Ollama 吗?

可以。把 http://localhost:11434 换成那台电脑的地址,并在那台电脑上设置 Ollama 允许局域网连接。这样你的文本会传到那台电脑,请只在可信的网络里使用。

收费吗?

不收费。Shhield AI 和它的本地模型功能都是免费的。Ollama 和 LM Studio 是独立的应用,有各自的条款,每个模型也有自己的许可证。

用本地模型时还会脱敏吗?

会。无论选哪个提供商,每次请求前都会脱敏,回答在屏幕上自动还原。当服务器在另一台机器上,或者会转发到云端模型时,这一点最有用。