浏览器内置 AI:Chrome 的 Prompt API 来了
Google Chrome 正在搞一件大事:把 AI 模型直接塞进浏览器。
Prompt API 是 Chrome 团队正在实验的新功能,让网页 JavaScript 可以直接调用浏览器内置的语言模型。不需要调用 OpenAI API,不需要自建服务器,甚至连网络请求都不用发。
这到底是什么
Prompt API 的核心是一个 ai.languageModel 接口:
const session = await ai.languageModel.create();
const result = await session.prompt("写一篇关于猫的小短文");
console.log(result);
就这几行代码,完全离线运行。
浏览器内部集成了一个基于 Gemini Nano 的轻量模型(约 3.2B 参数),专门针对设备端推理优化。虽然比不上 GPT-4,但处理日常文本任务完全够用。
为什么是浏览器内置
Google 的算盘很清楚:
隐私 - 敏感数据不出设备,从根本上解决隐私顾虑
延迟 - 本地推理,响应速度比网络请求快一个数量级
离线 - 没网也能用,适合移动场景
成本 - 开发者不用为 AI 调用付费,用户也不用
这对某些场景是颠覆性的。想象一下:一个写邮件的网页应用,可以实时提供语法建议,但你的邮件内容永远不会离开浏览器。
现在的限制
Prompt API 还在早期预览阶段,门槛不少:
- Chrome 版本:需要 Chrome 128+,且要开实验 flag
- 模型大小:Gemini Nano 约 3.2GB,首次下载需要时间
- 硬件要求:需要 4GB+ 显存/内存的设备
- 能力边界:适合总结、改写、简单生成,复杂推理还是得上云端模型
目前模型支持 128K token 上下文,中英文都没问题。输出速度在高端设备上接近实时,中端设备会慢一些。
实际能做什么
几个 Prompt API 特别适合的场景:
实时写作辅助 - 邮件、文档、社交媒体内容的即时润色
本地内容总结 - 网页、PDF、长文的离线摘要
智能表单 - 根据简短输入自动扩展完整内容
客户端过滤 - 在数据发送到服务器之前做本地分类/打标
Google 官方文档里有个例子:用户在电商网站写退货理由,Prompt API 实时检查理由是否充分,给出建议——全程不离开浏览器。
和其他方案对比
| 方案 | 隐私 | 延迟 | 成本 | 能力 |
|---|---|---|---|---|
| Prompt API | ⭐⭐⭐ | ⭐⭐⭐ | ⭐⭐⭐ | ⭐⭐ |
| OpenAI API | ⭐ | ⭐ | ⭐ | ⭐⭐⭐ |
| 自建后端 | ⭐⭐ | ⭐ | ⭐ | ⭐⭐⭐ |
Prompt API 的定位很明确:不是替代云端大模型,而是填补”不需要太强能力,但要求隐私和速度”的空白地带。
值得关注吗
值得。
这是浏览器生态的一次重要演进。Chrome 占据 65%+ 的市场份额,一旦 Prompt API 稳定下来,Web 应用的 AI 能力基线会被整体抬高。
短期内,它不会让后端 AI 服务消失。但长期来看,越来越多的基础 AI 功能会变成浏览器标配,就像今天的自动填充、拼写检查一样。
对于前端开发者来说,这意味着需要重新思考产品架构:哪些 AI 能力可以下放到客户端?如何设计离线优先的 AI 体验?Prompt API 只是开始,浏览器 AI 的时代正在到来。
Chrome 官方文档:https://developer.chrome.com/docs/ai/prompt-api
Gemini Nano 详情:https://developer.chrome.com/docs/ai/built-in