Apple Silicon · 本地优先

Mac 本机模型服务

在 Apple Silicon Mac 上运行本机模型,由 DeepSeek Harness 统一发起任务:日常会话优先使用 oMLX 本地推理,超出上下文预算时自动切换至 tarogo.com 云端模型;Token HUD 负责安装配置与用量可视。

本地推理与云端模型并存会话级本地优先路由一键完成工具配置本地与云端用量可见
关系架构

一张图看懂五个角色如何协作

DeepSeek Harness 是任务入口,oMLX 与 tarogo.com 是两条模型服务路径;Token HUD 位于管理面,自动路由与用量监控。

你的 Mac 本机

Apple Silicon · 数据与工具运行在本地环境

Tarogo 云端

DeepSeek Harness

本机 Agent 工作入口

发起任务、执行工具循环,并在本地与云端供应商之间进行会话级路由。

Token HUD

桌面配置与用量助手

安装检测、模型下载、工具配置与用量展示;不代理任何推理流量。

自动切换云端

Tarogo.com

云端模型与治理中枢

提供云端模型接入、Key、配额、路由与用量治理能力。

本地推理

oMLX

本机模型服务

基于 MLX 的 macOS 本地推理服务,提供 OpenAI / Anthropic 兼容接口,接管约 70% 的会话。

请求路径

本地优先,需要时自动切换云端大模型

路由以整段会话为边界,而不是在每一步之间来回切换,既保留本地前缀缓存,也避免云端上下文被反复重读。

01

在本机发起任务

用户在 DeepSeek Harness 中开始新会话,工具、任务循环与对话上下文都从这里产生。

02

优先调用 oMLX

已配置本机模型时,会话先走 oMLX 本地供应商,模型推理在 Mac 上完成。

03

持续评估上下文预算

DeepSeek Harness 的会话路由根据当前会话的 Token 压力与本地预算决定是否继续使用本机模型。

04

必要时自动切换

超出预算后,整段会话切换至 tarogo.com 云端供应商,之后不再在本地与云端之间反复切换。

组件职责

每个组件只做自己擅长的事

本地服务、桌面助手、Agent 入口与云端网关边界清晰,组合后形成完整的使用链路。

AGENT RUNTIME

DeepSeek Harness

用户直接使用的本机 AI 助手与 Agent 运行入口,承载对话和工具执行。

  • 统一接入本地与云端模型供应商
  • 会话优先本地,超预算自动切换
  • 保留插件化 Agent 与工具循环能力

DESKTOP COMPANION

Token HUD

连接本机工具与 Tarogo 账号的桌面助手,简化安装、配置和日常查看。

  • 检测并引导安装、启动 oMLX
  • 自动配置本地优先、超预算切换云端的路由策略
  • 一键写入 DSH 双供应商配置并展示用量

LOCAL INFERENCE

oMLX 本机模型服务

面向 Apple Silicon Mac 的本地 LLM 推理服务,以 macOS 菜单栏应用运行。

  • 基于 MLX,模型与服务均在本机
  • 默认提供 localhost 本地服务
  • 兼容 OpenAI / Anthropic 接口

CLOUD GATEWAY

tarogo.com 网关

本地能力之外的云端模型与治理中枢,为更大上下文和更多模型提供补充。

  • 统一接入多种云端模型
  • 提供 Key、配额、路由与安全控制
  • 归集云端调用用量并支持审计分析
方案价值

不是本地或云端二选一,而是各取所长

一套配置同时获得本地推理的掌控感与云端模型的弹性。

本地任务更可控

适合本地处理的会话留在 Mac 上,模型、服务与数据边界清晰,便于个人和团队管理。

云端能力按需接续

当会话超出本地上下文预算时,自动接续到 tarogo.com 云端模型,无需手工重新配置。

安装配置更简单

Token HUD 将服务检测、模型下载和 DSH 供应商配置串成一条路径,减少手工填写地址与 Key。

使用情况始终可见

桌面端可查看账号用量与额度状态,oMLX 仪表盘可查看本地服务运行状态与统计。

安装手册

从安装到第一次本地会话,按步骤完成

安装手册将提供 macOS 版本选择、oMLX 服务启动、模型下载加载以及 DeepSeek Harness 配置的图文说明。

1安装并登录 Token HUD
2安装 oMLX 并下载本机模型
3一键配置 DeepSeek Harness
进入安装手册

手册包含 Token HUD、oMLX 与 DeepSeek Harness 的完整图文安装步骤。