浏览器变身AI推理引擎：Google开源LiteRT.js正式发布的意义

7月9日，Google通过npm正式发布了LiteRT.js开源工具。这不是一次常规的技术迭代——它把Google在Android和iOS端打磨多年的AI推理引擎，用WebAssembly技术移植到了浏览器端。开发者只需要一行npm安装命令，就能让网页直接运行AI模型，无需API调用，无需服务器中转，数据也不必离开用户设备。

理解LiteRT.js的定位，需要先搞清楚它和上一代TensorFlow.js的区别。TensorFlow.js的计算核心由JavaScript编写，性能上限受制于JS引擎的执行效率。LiteRT.js则将C++原生运行时直接编译为WebAssembly，保留了移动端积累的全部优化技术和硬件调校方案。在M4 MacBook Pro上的实测数据显示，CPU和GPU推理速度达到TensorFlow.js的3倍。

三种硬件加速模式覆盖全平台

LiteRT.js提供了三档硬件加速方案。第一档是CPU模式，基于XNNPACK后端，任何浏览器都能直接运行，零硬件门槛。第二档是GPU模式，走WebGPU通道，适合需要实时视觉处理和音频分析的场景，在支持WebGPU的浏览器上可以拉满性能。第三档是实验性的WebNN接口，直接调用Apple Neural Engine或Intel、高通的专用AI芯片，在特定硬件上能实现5到60倍的性能飞跃。

这三档加速模式的设计思路，本质上是把移动端AI的硬件适配经验平移到了Web端。手机上的AI加速能力——GPU推理、NPU调用——现在原封不动地搬进了Chrome、Edge和Safari。

模型转换流程大幅简化

对开发者来说，LiteRT.js最直接的改进在于模型转换流程。以往想把训练好的模型部署到浏览器，需要手动处理量化、格式转换等一系列操作。LiteRT.js内置了从PyTorch、TensorFlow到WebAssembly的完整转换管线，支持主流的模型格式直接导入。量化后的模型体积更小、推理更快，适合Web端对加载速度和内存占用的严格要求。

这意味着隐私敏感型应用获得了新的技术选项。医疗影像分析、个人文档处理、本地语音识别等场景，过去因为数据安全顾虑不得不依赖服务端推理，现在可以在浏览器端完成全部计算，用户数据从头到尾不离开设备。

Web端AI的产品竞争刚刚开始

LiteRT.js的发布，标志着浏览器端AI推理从实验性质正式进入生产级可用阶段。引擎层面的竞争已经告一段落，接下来的焦点在于产品层面——谁能基于这个基础设施，做出用户真正离不开的本地AI体验。离线可用的AI翻译、零延迟的实时图像处理、完全私密的文档分析，这些过去只有原生应用才能胜任的场景，正在向Web端迁移。

对于前端开发者而言，AI能力正在从”需要后端配合的重型功能”变成”npm install一下就能用的标准组件”。这个转变的速度，可能比大多数人预想的更快。