这个 AI 是什么,为什么火
10 月 19 日,Inception 发布了 Mercury 3。它最特别的地方不是参数多大,而是「怎么生成文字」。我们习惯的大模型(比如 GPT、Claude 那一类)是一个字一个字往外吐,业内叫自回归。Mercury 3 走的是另一条路——扩散。简单说,它像「修图」一样,先给一整段带噪声的文字,再反复把它擦干净、改成通顺的句子,词语是成片成片一起定下来的。官方宣称在 NVIDIA GPU 上能到每秒 1000 多个 token,价格也比不少旗舰模型低。对普通想学 AI 的人来说,最值得关心的是:它到底能干嘛、怎么用、踩不踩坑。
要点一:先搞清楚它适合什么场景
扩散模型的强项是「快」和「实时」。因为它不用等前一个字出来再决定下一个字,所以很适合做需要低延迟的事:实时对话的语音助手、在浏览器里跑的 Agent、要一边想一边回应的交互界面。如果你只是让 AI 写篇长文、做总结,普通自回归模型也够用,不必为了「新」强行换。判断标准很简单:你的应用卡不卡延迟?卡,就值得试 Mercury 3;不卡,先用顺手的。
也要看清它的边界。扩散思路在「一次性产出一大段」时很顺,但在需要超长、强逻辑推演的任务上,目前还追不上深耕多年的自回归旗舰。所以选型时别走极端:把 Mercury 3 放在「要速度」的那一类活上,把「要深度」的活留给别的模型,往往比单押一个更稳。先用它解决延迟痛点,再谈替代,是不容易翻车的心态。
要点二:怎么用——不用本地装,先走 API
个人电脑基本跑不动这种体量的模型,但好消息是它有现成的接入方式。Inception 自己提供 API,同时上架了 OpenRouter、Baseten、Vercel 等平台。对入门者最友好的是 OpenRouter:注册后拿一个 key,用和 OpenAI 几乎一样的请求格式就能调用,很多现成脚本改个 base_url 和模型名就能跑。它支持 100 万 token 的上下文,意味着你可以把很长的文档、整本项目代码一次性塞进去问。新用户通常有免费额度可以先试,别一上来就充钱。
调用时建议把「超时、重试、出错兜底」一起写好。扩散模型对并发和硬件更敏感,同样的请求在不同平台返回的耗时可能差不少。先用一个小 prompt 跑通,观察延迟和输出质量,再决定要不要接进正式项目。也建议把每次调用的输入输出留个日志,方便后面排查「为什么这次回答怪怪的」。
要点三:两个要注意的坑
第一,它是公司发布的模型,官方公布的性能数字还没被第三方大规模独立复测,实际速度会受你用的平台、硬件、并发影响,别把宣传值当成你一定拿到的速度。第二,不同平台的单价和额度不一样,写代码时建议把 API key、用量上限、出错重试都先规划好,避免测试阶段就把额度烧光。另外,扩散模型生成特别长的、强逻辑链的内容时,表现和老牌自回归模型还有差距,关键任务记得人工核对。
上手前的小练习
别只看不动手。给你一个低门槛起点:去 OpenRouter 注册,搜 Mercury 3,复制它的示例代码,把提问换成「用一句话解释扩散模型为什么快」。跑通后,再试着把同一个问题丢给一个普通自回归模型,对比两者的回答速度和你是否满意。这个对照实验花不了十分钟,却能帮你建立最直观的判断:什么时候该换模型,什么时候不必。记住,工具是手段,解决你的问题才是目的。
小结
Mercury 3 不是「取代谁」,而是给你多一种选型:要实时、要便宜、要快,就试试扩散思路的大模型;要稳、要长逻辑,先用你熟悉的工具。先把 API 跑通一个小 demo,比纠结参数更有用。下次看到「某模型又快又便宜」的宣传,先问一句:在我的场景里,快和便宜哪个更值钱?想清楚再上车。