结论先说:微软把一款叫 Aion Instruct 的 2.3B 小模型装进 Edge 浏览器,替换原来的 Phi-4-mini,并把 Prompt API 放进 origin trial(源试用)。对普通用户,这意味着浏览器里多了一个可离线跑的小模型;对开发者,意味着网页能直接调用本机模型,不必自己下载权重、也不必按 token 付费。它采用 MIT 许可,可商用可修改。
你的真实问题是什么:把大家在搜索框和问答社区里的完整问句摊开,通常是"浏览器里怎么跑 AI""不用 API key 能不能调用模型""本地小模型能干哪些活""Prompt API 怎么接入""会不会很吃配置""数据会不会上传"。这是一条从是什么→怎么办→怎么选→避坑→验证的决策链。本文只讲透其中一个:开发者怎么用浏览器内置的本地模型,给网页加上 AI 能力。
Aion Instruct 是什么,为什么值得关注
据 Neural Daily 2026-11-22 报道(ai.dosa.dev AI 简报汇总),Aion Instruct 是微软发布的小型语言模型,参数量约 23 亿,采用 MIT 许可,取代 Phi-4-mini 成为 Edge 的内置小模型。同期微软把 Prompt API 推进到 origin trial,让真实站点可以测试调用这个本地模型。
关键在"内置"和"标准 API"这两件事:过去网页要用 AI,要么调用云端 API 按量付费,要么自己塞一堆权重文件;现在浏览器把模型备好,网页通过统一接口调用,素材不出本机。品牌与合规信息以微软官方发布为准,本文只谈可复现的用法。
三步上手 Prompt API
- 确认环境:用支持 origin trial 的 Edge 版本,站点按浏览器提供的源试用规则注册参与。
- 调用接口:通过浏览器暴露的 Prompt API 发送提示词,典型场景是给页面加一个本地问答框,输入内容留在设备侧。
- 验证结果:先做一问一答的可用性测试,确认返回稳定后再逐步接入摘要、改写等轻量场景。
适合谁:做内容网站、内部工具、教育产品的前端开发者;对数据不出设备有要求的企业内网应用;想低成本试验 AI 功能的小团队。
FAQ 与取舍
| 对比项 | 浏览器本地模型 | 云端大模型 API |
|---|---|---|
| 费用 | 无按 token 费用 | 按量计费 |
| 数据 | 留在本机 | 上传到服务端 |
| 能力 | 轻量任务为主 | 复杂推理更强 |
| 集成 | 标准 Prompt API | 各厂接口不一 |
问:能替代大模型吗? 不能。2.3B 级模型适合分类、改写、短摘要这类轻活,复杂推理仍要交给云端。
问:有什么限制? origin trial 意味着能力还在测试,接口和行为可能调整,不宜直接押注生产环境;MIT 许可针对模型本身,浏览器集成规则另算,商用前请核对官方文档。此外,小模型在事实性问答和多轮上下文上不如大模型稳,涉及金额、医疗、法律的建议不要直接照抄它的输出。
问:和直接用 Ollama 本地模型比呢? Ollama 要自己安装运行时、下载模型、管理服务进程;浏览器内置模型的优势是"零部署"——用户装上支持的新版 Edge 就具备条件,网站只要按规范调用接口。代价是可选模型与可调参数由浏览器决定,灵活性不如自己搭一套。两条路按场景选:需要可控和深度定制走 Ollama,想要轻量嵌入网页走 Prompt API。
问:开发者接入要注意什么? 源试用通常有参与注册和有效期限制,正式上线前要确认接口是否已转为稳定可用;同时为不支持的浏览器准备降级方案,避免页面在老版本上直接报错。
小结:Aion Instruct + Prompt API 的意义,是把"本地推理"变成网页开发的默认选项之一——先用一个小功能验证,再决定是否深入。对想低成本给网站加 AI 能力的人,这是值得跟踪的一条路线;对追求强推理的场景,仍应把云端大模型作为主方案。
资料来源:Neural Daily 模型板块报道;ai.dosa.dev 2026-11-22 AI 简报。