实战 SOP
实战 SOP

开源语音模型五连发:蚂蚁 MIT 协议四卡起步

蚂蚁集团 inclusionAI 2026-10-19/20 以 MIT 协议开源 Ming-3.0 语音系列五款模型(多源确认,可自部署可微调可商用),覆盖语音合成、音频理解与对话、语音识别三方向:Ming-3.0-tts-0.5B(0.5B dense,最轻量四卡可部署)、Ming-3.0-tts-tiny(7.9B 总/1.3B 激活 MoE,长篇多说话人播客)、Ming-3.0-audio-flash(126B 总/6.5B 激活 MoE,音频理解与对话、可文字可语音作答)、Ming-3.0-audio-tiny(9.3B/2.7B,效率向)、Ming-3.0-asr-tiny(8.6B/2B,上下文感知转写)。能力:TTS 文字描述音色、导演模式自然语言控情绪/重音/节奏、声音克隆、七种语言+两种方言;音频理解长音频直接输入、结构化输出、保留情绪与说话人身份、工具调用生成;ASR 方言识别、热词注入、上下文感知。接入步骤(kie.ai 与 README 核实):TTS 路线 git clone github.com/inclusionAI/Ming-3.0-tts → conda 环境(0.5B:python 3.10 + pip install -r requirements.txt + conda install -c conda-forge pynini==2.1.6)→ 按 README 跑推理;tts-tiny 需独立环境 Python 3.10.15 + PyTorch/Torchaudio 2.7.1(cu118)+ Transformers 4.46.3;audio-flash 可下载权重或走 Ling Studio Chat(ling.tbox.cn),128K 上下文,语音输出走 Chat Completions 的 audio.voice 字段(modalities=["text","audio"])。硬件口径:官方主要在数据中心卡测试,推荐 NVIDIA H800(80GB)/H20(96GB),0.5B 四卡为最低门槛,消费级卡可行性未验证;day-0 生态 vLLM-Omni、SGLang-Omni 已适配。蚂蚁内部应用(官方稿口径):asr-tiny 用于阿福医生助手、支付宝搜索、蚁小保实时语音对话、安全核身。局限四条如实写:无量化文件(GGUF/AWQ/EXL2 均无)、流式存疑(SGLang-Omni 传 stream=true 仍返回整段波形,真实首音频延迟未确立)、控制模式互斥(Voice Design/情绪调制/方言选择不能单次推理组合)、训练语料未公布。榜单背书(二手口径):Artificial Analysis TTS 榜(Provider Voices)Ming-3.0-tts 1244 分居前列。与站内分工:voice-cloning-toolkit-comparison-review(2026-10-15)是横评栏选型文(五强怎么选),本篇是 SOP 栏接入实操(五款全栈怎么装怎么调),不同栏不同角度。

发布于 2026年10月21日9 分钟阅读
<!-- ming-3-0-speech-opensource-sop | sop | 开源语音模型五连发:蚂蚁 MIT 协议四卡起步 -->

先把分工说清楚,免得你把两篇文章当一篇读。站内 2026-10-15 的《语音克隆五强横评:谁替你把嗓子留在本地》是横评栏的选型文,回答的是「VoiceStudio、GPT-SoVITS、fish-speech、IndexTTS、CosyVoice 这五个工具箱怎么挑」;本文是实战 SOP 栏的接入实操,回答的是另一件事——蚂蚁集团 inclusionAI 在 2026 年 10 月 19 日到 20 日放出的五款 Ming-3.0 语音模型,怎么装、怎么跑、坑在哪。一篇横向比货,一篇纵向装机,角度不同,可以互相接力:先去横评篇想清楚你要什么,再回这篇动手装。另外提一句背景,站内 ming-image 系列写的是 Ming 家族的图像模型,与这批语音模型只是同一个家族、不同模态,别混为一谈。

五款模型先把牌面摊开

动手之前先把五张牌认全,规格全部按官方模型卡口径:

模型规格方向
Ming-3.0-tts-0.5B0.5B dense轻量语音合成,最轻量,四卡可部署
Ming-3.0-tts-tiny7.9B total / 1.3B active MoE长篇多说话人播客
Ming-3.0-audio-flash126B total / 6.5B active MoE音频理解与对话,可文字可语音作答
Ming-3.0-audio-tiny9.3B total / 2.7B active MoE推理效率向的音频理解
Ming-3.0-asr-tiny8.6B total / 2B active MoE上下文感知转写

先说最要紧的一条:五款全部采用 MIT 协议,这一点经腾讯新闻、IT之家、官方模型卡、kie.ai 多源确认。翻译成工程语言就是:可自部署、可微调、可商用,没有 PolyForm 那种「权重公开但禁商用」的附加条件。对一个想自建语音能力的团队来说,这是全部五个模型里价值最高的一行字。

分发渠道有三条:Hugging Face 的 inclusionAI 组织页下 Ming-3.0 全系可下,明文地址 https://huggingface.co/inclusionAI ;ModelScope 有同名镜像,国内下载速度友好;实现仓库是 inclusionAI/Ming-3.0-tts,明文地址 https://github.com/inclusionAI/Ming-3.0-tts 。如果只想先听个响再决定要不要折腾本地部署,Ling Studio(ling.tbox.cn)在线选 Ming-3.0-audio-flash 体验音频理解;官方 API 服务目前提供 tts-0.5B、audio-flash、asr-tiny 三款。

能力面按三个方向说,都是 README 与官方口径:

TTS 方向:支持用文字描述音色,不需要参考音频就能指定「一个低沉的男声」;有导演模式,用自然语言控情绪、重音、节奏,比如直接在文本里写「这里加重音、语速放慢」;自带声音克隆;覆盖七种语言加两种方言。

音频理解与对话方向:长音频直接输入,结构化输出;输出里保留情绪、说话人身份、环境信息;支持音频推理与工具调用生成。audio-flash 的特别之处是答案可以用文字也可以用语音给出,这个能力对语音 Agent 的出口设计很关键。

ASR 方向:方言识别;热词注入,你可以传一个人名、术语的候选列表来提升专有名词的识别率;上下文感知,靠普通话与英文的高质量语料打底。

三个方向彼此独立可用,也可以组合成一条语音 Agent 全流程——这一点后文展开。

硬件与前置:先把期望值调准

这一节是全文最需要冷静阅读的部分。官方口径:这批模型主要在数据中心卡上测试,推荐配置是 NVIDIA H800(80GB)或 H20(96GB)。最低门槛是 Ming-3.0-tts-0.5B,四卡可部署。注意,是四卡,不是一张消费级卡。

消费级显卡(4090、5090 这类)的可行性,目前未验证——这不是我保守,是事实清单式的未验证:仓库里没有 GGUF、AWQ、EXL2 任何一种量化文件,你想在单张 24GB 卡上跑,现阶段没有现成路径,自己动手做量化属于另一个工程量级的课题。手里只有消费级卡又想今天就玩起来的,Ling Studio 在线体验和官方 API 是过渡方案。

好消息是 day-0 生态没有缺席:vLLM-Omni 与 SGLang-Omni 在发布当天就宣布适配,推理框架这条路是通的。如果你的生产环境已经在用 vLLM 或 SGLang 跑 LLM,往 Omni 分支迁移的阻力会比从零搭小得多。

顺便解释规格表里 total 与 active 的差别对装机意味着什么:MoE 模型的显存占用看 total——所有专家都要驻留显存;算力压力看 active——每次推理只激活其中一部分。所以 tts-tiny 要按 7.9B total 规划显存,不能按 1.3B active 想当然地砍预算;audio-flash 的 126B total 同理,这也解释了为什么官方推荐口径直接落在 H800/H20 这一档。选 audio-tiny(9.3B total / 2.7B active)省的也是算力与延迟,不是显存。

三条接入路线,逐条走

路线一:TTS,从 0.5B 起步

按 kie.ai 与 README 核实过的步骤:

第一步克隆仓库:

bash
git clone https://github.com/inclusionAI/Ming-3.0-tts.git

第二步建 conda 环境。0.5B 版本要求 Python 3.10,装依赖两条命令:

bash
pip install -r requirements.txt
conda install -c conda-forge pynini==2.1.6

第三步按仓库 README 跑推理脚本,出第一段音频。

这里必须强调 pynini==2.1.6 这个版本号不能省。pynini 是文本正则化到音素转换链条上的关键依赖,版本不匹配在部分环境下直接编译失败,是这类 TTS 项目最常见的安装卡点。照抄版本号,别自由发挥。

路线二:tts-tiny,一个更讲究的独立环境

tts-tiny(7.9B total / 1.3B active MoE)是长篇多说话人播客的主力,但它要求的依赖组合与 0.5B 不同,官方建议单独开一个环境:Python 3.10.15,PyTorch 与 Torchaudio 均为 2.7.1(cu118),Transformers 4.46.3。三个版本号全部写死是有原因的——MoE 模型对新版 Transformers 的兼容性经常踩坑,4.46.3 是官方验证过的组合。经验之谈:给这一款单独建 conda 环境,别与 0.5B 共用,否则版本打架的时间成本远高于多建一个环境的磁盘成本。

路线三:audio-flash 与音频理解

audio-flash(126B total / 6.5B active MoE)有两条路:正经部署就走权重下载,走本地推理;只想体验能力,Ling Studio 的 Chat 界面直接上传音频即可。它的上下文窗口是 128K,长音频、长会议记录都是直接喂的思路。

要在自己的应用里让它开口说话,关键点是 Talker 语音输出走 Chat Completions 协议的 audio.voice 字段,请求参数里带 modalities=["text","audio"]。也就是说它对齐的是主流多模态对话接口的调用习惯,前后端改造量不大。如果只需要转写,asr-tiny 走 ASR 路线接入,热词列表作为参数传入,识别专有名词的准确率会有可见提升。

装完之后:把三个方向串成一条流水线

五款模型真正的想象空间在组合。一条最小可用的语音 Agent 流水线是这样的:asr-tiny 做入口,把用户语音转成带说话人标识与上下文的文本;audio-tiny 或 audio-flash 做中段,理解意图、做音频推理、决定要不要调用外部工具;tts 系做出口,把回复合成为带情绪的语音。三段各自独立进程、独立显存预算,中间用普通消息队列连接即可,不需要共享一个推理实例。

按这个架构走,还有两个实务好处:其一,三段可以分开升级,比如入口从 asr-tiny 换更强的小模型时,中段与出口完全不动;其二,MIT 协议允许你对每一段单独微调,客服场景微调出口音色、医疗场景微调入口热词,互不牵连。

验收环节同样不能省:上线前拿自己的真实业务音频跑一轮回归,重点看三个指标——专有名词的转写准确率(热词列表调到位没有)、合成语音的情绪是否贴场景、长音频输入下结构化输出的字段稳定性。三个指标都过关,这条流水线才算真正立住;有短板,优先回到对应段落的模型选择上找原因,而不是急着改代码。

蚂蚁自己怎么用的

背书部分照官方稿口径记录:蚂蚁内部已经把 asr-tiny 用在阿福医生助手、支付宝搜索、蚁小保实时语音对话与安全核身四处。这些是厂商自报的应用案例,参考价值在于说明模型至少撑得住生产流量,不在于你可以直接复刻同样的效果。

第三方口碑方面,Artificial Analysis 的 TTS 榜单(Provider Voices 一项)里,Ming-3.0-tts 以 1244 分位居前列。注意这是第三方榜单的二手口径,榜单的评测集与你的业务文本分布未必一致,看个档位即可,别当采购依据。

四条局限,动手前先掂量

以下四条均经 kie.ai 核实,逐条如实写,一条不藏:

第一,无量化文件。GGUF、AWQ、EXL2 一个都没有,消费级 GPU(4090/5090)可行性未验证。想在非数据中心硬件上跑,今天没有低成本路径。

第二,流式存疑。这是做实时语音 Agent 的读者最关心的一条:实测口径下,即便通过 SGLang-Omni 传 stream=true,返回的仍是整段波形,而不是边生成边出的音频块,真实的首音频延迟没有确立。如果你的场景是实时对话、电话语音、同声传译,立项前必须先把这个验证清楚——流式是这类场景的生死线,不是锦上添花。

第三,控制模式互斥。Voice Design(文字描述音色)、情绪调制、方言选择这三种控制方式,不能在同一次推理内自由组合。想要「指定音色 + 带情绪 + 带方言」的输出,得拆成多次调用或在工程层做折中,脚本设计时要把这个约束算进去。

第四,训练语料未公布。token 总量、音频小时数、语料许可构成,三项都没有公开数字。对绝大多数使用者这是可接受的透明度,但如果你所在的行业要做合规审计或数据溯源,这一项只能自己补课。

上手顺序建议

按人群给一条最短路径:只想评估能力的,先去 Ling Studio 上传一段音频,五分钟出结论;确定要本地部署的,从 tts-0.5B 开始,四卡门槛最低,先跑通 pynini 环境再谈别的;要播客与多说话人内容的,直接上 tts-tiny,单独环境照抄版本号;要音频理解与对话的,算力充足选 audio-flash,预算敏感选 audio-tiny;核心需求是转写的,asr-tiny 加热词列表就是为这个场景设计的。

最后把红线重复一遍:官方推荐的硬件口径是 H800/H20,0.5B 四卡是最低门槛,消费级卡未验证;MIT 协议可商用;流式能力存疑,实时场景先验证再立项。这批开源语音家族的五张牌已经摆上桌,怎么打看你的场景。

常见问题

Q1:消费级显卡(比如 4090)能不能跑这批模型? A1:目前没有可信结论。官方主要在数据中心卡上测试,推荐口径是 H800(80GB)或 H20(96GB);0.5B 版本四卡是公开可查的最低部署门槛。仓库没有 GGUF/AWQ/EXL2 等量化文件,单张 24GB 消费级卡上跑,现阶段没有现成路径。急用可以用 Ling Studio 在线体验或官方 API 过渡。

Q2:支持流式输出吗?做实时语音应用要注意什么? A2:存疑,这是当前最大的不确定点。实测口径:即便通过 SGLang-Omni 传 stream=true,返回的仍是整段波形,真实首音频延迟未确立。实时对话、电话语音这类对流式有硬需求的场景,务必先做这项验证再立项,否则架构可能要推倒重来。

Q3:商用有没有法律障碍? A3:五款模型均为 MIT 协议(多源确认),允许自部署、微调与商用。唯一要留心的是训练语料的许可构成未公布,涉及强合规行业的审计要求时,这一项需要自行评估并留存结论。

Q4:能用它克隆自己的声音吗? A4:TTS 方向自带声音克隆,另有文字描述音色与导演模式——用自然语言写「这里加重音、语速放慢」即可控制情绪、重音与节奏。但注意控制模式互斥:Voice Design、情绪调制、方言选择不能在同一次推理内自由组合,工程上要预留多次调用的设计。

Q5:五款模型该从哪一款开始装? A5:按需求倒推。只要语音合成,从 Ming-3.0-tts-0.5B 起步,四卡门槛最低;要长篇多说话人播客,上 tts-tiny(7.9B total / 1.3B active MoE),单独环境并照抄 Python 3.10.15、PyTorch 2.7.1 cu118、Transformers 4.46.3 三个版本号;要音频理解与对话,算力充足选 audio-flash、预算敏感选 audio-tiny;核心是转写就装 asr-tiny。安装命令见上文,pynini==2.1.6 这个版本号尤其不能省。

延伸阅读

本文由 AI 辅助生成,经人工审核编辑。最后更新:2026-10-21

常见问题

消费级显卡(比如 4090)能不能跑这批模型?
目前没有可信结论。官方主要在数据中心卡上测试,推荐口径是 H800(80GB)或 H20(96GB);0.5B 版本四卡是公开可查的最低部署门槛。仓库没有 GGUF/AWQ/EXL2 等量化文件,单张 24GB 消费级卡上跑,现阶段没有现成路径。急用可以用 Ling Studio 在线体验或官方 API 过渡。
支持流式输出吗?做实时语音应用要注意什么?
存疑,这是当前最大的不确定点。实测口径:即便通过 SGLang-Omni 传 stream=true,返回的仍是整段波形,真实首音频延迟未确立。实时对话、电话语音这类对流式有硬需求的场景,务必先做这项验证再立项,否则架构可能要推倒重来。
商用有没有法律障碍?
五款模型均为 MIT 协议(多源确认),允许自部署、微调与商用。唯一要留心的是训练语料的许可构成未公布,涉及强合规行业的审计要求时,这一项需要自行评估并留存结论。
能用它克隆自己的声音吗?
TTS 方向自带声音克隆,另有文字描述音色与导演模式——用自然语言写「这里加重音、语速放慢」即可控制情绪、重音与节奏。但注意控制模式互斥:Voice Design、情绪调制、方言选择不能在同一次推理内自由组合,工程上要预留多次调用的设计。
五款模型该从哪一款开始装?
按需求倒推。只要语音合成,从 Ming-3.0-tts-0.5B 起步,四卡门槛最低;要长篇多说话人播客,上 tts-tiny(7.9B total / 1.3B active MoE),单独环境并照抄 Python 3.10.15、PyTorch 2.7.1 cu118、Transformers 4.46.3 三个版本号;要音频理解与对话,算力充足选 audio-flash、预算敏感选 audio-tiny;核心是转写就装 asr-tiny。安装命令见上文,pynini==2.1.6 这个版本号尤其不能省。

相关文章

实战 SOP

蚂蚁百灵免费两周:Ling-3.1-flash这样用才不亏

Ling-3.1-flash 免费两周体验 SOP(口径截至 2026-10-07):蚂蚁百灵 10-06 发布,560B 总参/25B 激活/上下文上限 1M,7 层 KDA+1 层 Gated MLA、512 路由专家选 8+1 共享;前代 Ling-3.0-flash 为 124B/5.1B。开篇防踩坑:体验期服务长度仅 256K,与宣传的 1M 有差距——预期先摆正。三入口怎么选:chat.ant-ling.com 网页对话零门槛;蚂蚁数科 MaaS 平台(maas.antdigital.com)取 API key;Vercel AI Gateway 面向海外开发者(免费至 10 月 13 日,changelog 明示);另有 Novita AI。免费窗口该测什么:长文档整合、办公任务生成 Excel/PPT(官方称 GDPval-AA V2.1 与 HealthBench Professional 表现突出,分数未公布不编)、代码长任务(17h 编译器 178/182、20h Rust 移植 8.015x,官方自报口径)。256K 窗口喂法三步实操:分段摘要+末段全文,附滚动窗口与预留提示。API 用 OpenAI 兼容端点通用接法(base_url 等参数以 MaaS 平台文档为准,不编造)。窗口关闭前:数据导出、盯两条公告线(转付费开放 1M、计划同步开源——时间未定不编)。合规红线:只走官方入口正常注册调用,不涉绕过与共享账号。

2026年10月7日9 分钟阅读
实战 SOP

AI 跨会话记忆怎么实现?混元 MemHub 十分钟跑通

用腾讯混元现成方案给 AI agent 装跨会话记忆的接入 SOP,全部命令取自 MemHub README 与 PyPI 实测。安装三层:SDK 层 pip install hy-memory==2.0.3(写作时最新版);CLI 层 npm 装 memhub-cli 引导器(约 384KB),再跑 memhub install 下载 Runtime;数据目录 ~/.one-memory。v1.0.3 平台支持:Linux x64/arm64 Runtime、macOS arm64/x64 App——Windows 不支持(README 明确,正文加粗提醒+FAQ 双提醒,本站 Windows 读者多)。十条 CLI 命令逐条展开:serve/start/stop/restart/status/doctor/install/upgrade/uninstall/delete-data,含首跑流程示例(install 装完先 status 验证、doctor 体检、serve 起服务再接 agent)。隐私边界五条照写:不采集屏幕、不 OCR、不采集键盘鼠标事件、不读剪贴板、不录音。工具数两口径并写:MemHub README 列 5 种工具,腾讯官方公众号稿称 10 种,正文不选边、以实际 CLI 输出为准。preview 警示独立成节:Hy Memory 2.0 与 MemHub 均处 preview 阶段,命令与 API 可能变动,生产慎用。常见坑:Windows 读者给出的替代路线(WSL2 或等官方支持)、版本号必须带 ==2.0.3 保证可复现、数据目录备份即拷 ~/.one-memory。分工声明:ai-agent-long-term-memory-sop(2026-08-08)讲 mem0/Letta 自建长期记忆(向量库+文件),本篇讲腾讯混元现成开箱方案,面向想当天跑通的读者。主攻搜索词「AI 跨会话记忆」(S1=2/S2=1/S3=2/S4=3,约 8 分强采线)只进标题与本摘要,不进正文。

2026年10月20日9 分钟阅读
实战 SOP

Claude Code 接 DeepSeek:官方九变量,别抄旧教程

Claude Code 接 DeepSeek 的官方直连 SOP,全部命令与变量取自 DeepSeek 官方指南(api-docs.deepseek.com/quick_start/agent_integrations/claude_code),对应 1017 checkpoint 上线后的现役配置。主攻搜索词「Claude Code 接 DeepSeek」(S1=3/S2=1/S3=2/S4=3)。迁移路径九项环境变量:ANTHROPIC_BASE_URL 指向 https://api.deepseek.com/anthropic、ANTHROPIC_AUTH_TOKEN 填 DeepSeek API Key、ANTHROPIC_MODEL=deepseek-flash[1m]、DEFAULT_OPUS/SONNET 同为 deepseek-flash[1m]、DEFAULT_HAIKU=deepseek-flash、CLAUDE_CODE_SUBAGENT_MODEL=deepseek-flash、CLAUDE_CODE_EFFORT_LEVEL=max、CLAUDE_CODE_AUTO_COMPACT_WINDOW=786432;Windows PowerShell 与 Linux/Mac 两版写法都给。从零安装四步:Node.js 18+(Windows 另装 Git for Windows)、npm install -g @anthropic-ai/claude-code、claude --version 验证、配变量后进项目目录运行。模型映射:claude-opus 开头的请求映射到 deepseek-v4-pro(按 V4 Pro 价计费,比 Flash 贵,必读提醒)、claude-haiku/sonnet 映射到 deepseek-flash。Web Search 原生可用但两条计费线:搜索请求按 Search API 计费,对检索内容的摘要另产生 token 费。价格口径(官方定价页):off-peak 每百万输入 0.15 美元(cache miss)、0.003 cache hit(约为 miss 的五十分之一)、输出 0.60 美元,peak(工作日 UTC 01:00-04:00 与 06:00-10:00)双倍,周末与中国法定节假日算 off-peak。常见坑五条:AUTH_TOKEN 与 API_KEY 不是一回事(混用等于白配)、新旧变量并存可能鉴权冲突(只留新变量,社区教程口径)、密钥不进 settings.json 不入 git(固化用 ~/.bashrc、~/.zshrc 或系统环境变量)、接好后先跑「读一个文件再改一个文件」最小任务验证工具调用链路、/status 查当前生效模型。市面旧教程多残留 deepseek-chat 等已退休模型名。与站内分工:deepseek-v4-pro-claude-code-sop 是 V4-Pro-0813 时代「2 个环境变量」最小配置(2026-09),本篇是 1017 后官方现役全量配置;Harness 本体入门见 deepseek-harness-quickstart-sop。

2026年10月19日10 分钟阅读