显存有限。
模型,不必。
MoE4All 协调 VRAM、RAM 与 SSD,让活跃专家靠近 GPU。用分层存储与按需加载,运行远超显存容量的 MoE 模型。
- 自动规划资源,少一点手动折腾
- OpenAI 兼容 API,接入你已有的客户端
- 并发会话、长上下文与可选 MTP 加速
逻辑冷热队列与模拟 token,非实时推理或模型真实分词。缓存回收不将权重写回 SSD。
性能,拿结果说话。
×N 为并发会话数;Decode 预热后三轮平均,Prefill 为无缓存冷请求。
记得你的昨天,
陪你安排明天。
找回上周的约定,安排下一步,换到手机接着聊。把本地模型、记忆与日常工具放进自己的工作台,让每段对话都有下文。
试用 Agent 整合包一句话,从头接上。
“上周说的那个会,到底是哪天?”从留下的记忆里找回约定,不必翻遍聊天记录。
说件事,安排个时间。
“每周一早上,提醒我准备读书会邮件。”把日常安排变成工作台里的定时任务。
换个屏幕,接着聊。
配对手机,在外面也能接着聊。模型仍在自己的电脑上,记忆和话题不用重来。
有些话,留在自己电脑里就好。
选择本地模型,AI、对话和记忆都留在本机。自己的计划、工作材料和私人想法,可以在自己的电脑里整理。云端模型与联网工具,由你决定是否连接。
能力,继续生长。
用我们维护的插件,把需要的能力连接起来。
已经在用 DSH?从 MoE4All Provider 开始。
MoE4All Provider
在 DSH 内管理本地引擎、选择模型与下载模型。
本地推理Mneme
跨会话记忆、对话提炼与自动整理,延续项目上下文。
长期记忆Remote Web UI
配对手机或其他电脑,访问你的工作台。
远程访问Cron
通过自然语言或侧栏创建任务,让 Agent 按时执行。
定时任务Voice / TTS
朗读回复,提供 Edge TTS 与可选 RVC 自定义声音。
语音朗读EasyRewrite
编辑、撤回与切换消息版本,把对话调整到位。
对话编辑Brave Search
用自己的 Brave API key,为 Agent 接入联网搜索。
联网搜索Plugin Market
浏览与发现 DSH 社区插件,按需要扩展工作环境。
社区生态MoE4All 维护版本,各仓库保留上游来源与署名。第三方服务需按各插件要求配置。
让声音,
留下线索。
面向长录音的本地分析:中英转写、说话人活动、跨录音声纹关联,以及可恢复的增量上传。
后端仍在开发,尚无正式 release,整体质量待验收。Android 录音端目前处于设计阶段。
了解长音频项目让 AI,运行在你这边。
从已有的硬件出发,做下一件有意思的事。