本地模型

入口是左侧导航「本地模型」（路由 /foundry-local）。Hetu 通过调用微软官方的 Foundry Local CLI 在本地跑开源模型：浏览目录、下载、加载，并直接接入 Hetu 的对话与知识库。Hetu 自身不内置任何模型运行时。

是什么

Foundry Local 是微软的本地推理运行时，提供一个 OpenAI 兼容的 HTTP 服务。Hetu 把它的能力包装成一个管理页：

不联网、不上传：模型下载完后，推理完全在本机完成。
无需 API Key：本地服务没有鉴权，Hetu 也不要求填。
Hetu 只做壳：所有重活（下载、加载、执行提供程序注册）都由 CLI 负责，Hetu 通过命令行调用它并解析 JSON 输出。这让 Hetu 的安装包小了 40 MB 以上，也不再受原生库兼容性问题困扰。

安装 CLI

首次打开页面时，如果没检测到 foundry 命令，整页会显示安装引导而不是报错。安装方式（需要 Windows 10 / 11）：

winget install Microsoft.FoundryLocal

装完刷新页面即可，Hetu 会自动识别。CLI 首次运行时会自行下载并注册本机可用的执行提供程序（CPU / WebGPU / AMD MIGraphX 等）。

运行状态

项	说明
服务开关	启动 / 停止 / 重启本地服务。端口由 CLI 动态分配，Hetu 每次现问，不写死
端点	OpenAI 兼容服务根地址，如 `http://127.0.0.1:62645`；Provider 工厂会自动补上 `/v1`
CLI 版本	当前安装的 `foundry` 版本
已加载 / 已下载	常驻内存的模型数 / 本地已缓存的模型数
CLI 警告	CLI 自己报的问题（如某个执行提供程序注册失败）原样展示，不吞掉

本机硬件

状态卡会列出 CPU 型号、检测到的 GPU / NPU、可用内存与磁盘剩余空间。哪些模型能跑、跑哪个设备变体，取决于这里——没有 NVIDIA 显卡的机器上下载 CUDA 变体是跑不起来的。

模型缓存路径

默认在 ~/.foundry/cache/models，可改成空间充足的磁盘。
修改后立即生效，不需要重启 Hetu；已下载的模型不会自动迁移。
「恢复默认」一键改回 CLI 的初始值。

模型目录

目录把同一模型的每个设备变体各列一行（CPU / GPU / NPU），并标注每个变体的执行提供程序、体积、授权协议。支持按任务、设备、状态筛选，以及关键词搜索和按体积 / 名称排序；已下载的始终排在最前。

行内操作

操作	说明
下载	首次下载需要联网；进度条由 CLI 的输出实时解析而来
加载 / 卸载	把模型载入内存或释放；加载后才能被对话使用
接入 Hetu	注册为大模型服务商下的对话模型，之后就能在对话里选它
删除	清除本地文件，下次使用需重新下载

加载失败怎么办

最常见的失败原因是该变体需要本机没有的执行提供程序。例如 AMD 显卡的机器上没有 CUDA，下载了 CUDA 变体必然加载失败。CLI 会把原始错误透出来，照着它换同一模型的其他设备变体（通常是 CPU 或 WebGPU）即可。另外，目录里个别条目的元数据与实际二进制不一致（例如标注 CPU 实际是 CUDA 模型），这是上游目录的问题，Hetu 无法代为修正。

接入 Hetu 大模型

在目录行点「接入 Hetu」，会把该变体注册成 Foundry Local 服务商下的对话模型。
之后在「设置 → 大模型」里可把它设为默认模型，对话、知识库索引、Wiki 生成等都能用它。
发送消息时若服务没起或模型没加载，Hetu 会先自动拉起服务和加载模型，再发请求。

平台支持

Windows：完整支持，CLI 官方提供 Windows 版本。
Linux / macOS：CLI 未提供，本地模型页会提示不支持。你仍可以在「大模型」里手动添加一个 OpenAI 兼容服务商，指向另一台 Windows 机器上的 Foundry Local 端点。

数据与接口

模型缓存由 CLI 自己管理，位于 ~/.foundry/cache/models，不在 Hetu 的数据目录里。
Hetu 侧只保存「哪个变体被接入了」这条记录（AiModel），卸载 Hetu 不会删除已下载的模型。
接口都在 /api/foundry-local 下：status、models、models/{id}/download（SSE 推进度）、load / unload / register、service/start / stop / restart、cache-dir。