Chrome 瀏覽器內建免費 AI,以為撿到寶,用了才發現是坑
今天又來介紹一個可悲的網頁瀏覽器功能
它在 2024 年開發者公測的時候,像是全村的希望

到了2026年,大家都在研究要如何把它刪掉。
它就是 Chrome built-in AI(Chrome 瀏覽器內建 AI),顧名思義,它就是瀏覽器內建的 AI 模型,不用連線上網、無須部署、管理或自行代管模型,就能用 AI 輔助完成各種工作。
聽起來很棒,但實際用起來就像個玩具,畢竟現在還在實驗階段,很多功能都一再調整,而且這只是地端的小模型,想要有比擬 Fable 之類的高貴商業模型的強大成果,簡直是作夢。
Chrome built-in AI 範例展示
下面放一個範例給大家試玩:
1.使用 Prompt API 來判斷文字隱含的情緒
2.上傳圖片,然後讓 AI 說圖片裡面是什麼
3.用 Translator API 翻譯
4.講話或是上傳語音檔,辨識在講什麼
Prompt API 未檢測
通用本機 LLM(Chrome = Gemini Nano)。預設示範:分析語句的情緒、語氣與言外之意。
輸入語句 → 分析情緒
Image Prompt 未檢測
圖片與問題
提示詞(可改)
Translator API 未檢測
Expert Model(較小,通常沒有 22GB foundation 門檻)。預設 zh → en。
語言清單依 Chrome Translator 官方支援表 (會隨版本變動;實際以 availability() 為準)。
輸入 → 翻譯
Web Speech API 未檢測
語音辨識 API (SpeechRecognition)。支援麥克風即時辨識與 MP3 檔案前端解析。
語音辨識與檔案解析
模式 1:麥克風即時辨識
模式 2:MP3 檔案解析 (限制 10 MB)
環境
執行訊息
我以為這玩意就這樣了,直到前幾天看到 Chrome for Developers 發慘業成功案例,介紹台灣 Yahoo 拍賣利用這個 Chrome built-in AI 來強化產品,有興趣的可以去查看全文:How Yahoo Taiwan Ecommerce cut listing times from 20 minutes to 2 and elevated discovery with on-device AI,搞不好連 Y 拍賣家自己都沒發現這些新功能。
可以來探討一下,人家 Yahoo 拍賣為什麼可以用 Chrome built-in AI 成為有功的猴子。
然後像我這種基層勞工,要是在產品裡加入這 AI 功能,下場絕對只有死得很難看。
瀏覽器內建 AI...哪個瀏覽器?
我們再說一次這功能的名字
Chrome built-in AI
Chrome built-in AI
Chrome built-in AI
名稱很重要,要說三次
那手機平板上的 Chrome 瀏覽器呢? 無法使用此功能。
iOS Chrome 跟 Android 手機的 Chrome 瀏覽器在Prompt API 的系統需求條件就有寫:
Chrome for Android, iOS, and ChromeOS on non-Chromebook Plus devices are not yet supported by the APIs which use foundation models.(使用基礎模型的 API 目前不支援 Android 版、iOS 版和非 Chromebook Plus 裝置上的 ChromeOS 版 Chrome。)
其他 Chromium 套殼的瀏覽器也不見得能用,很多都把功能閹割或是預設停用(本文後面會再詳談)。
然後文章開頭的圖片大家也看到了,還有一些 3C 部落客會教大家把這功能停用、把模型刪掉,說這樣可以節省寶貴的硬碟空間、讓電腦變快什麼的,網頁前端開發人員看了那種文章真是傻眼。
只要使用者的瀏覽器或裝置有任何不對勁,Yahoo 拍賣的那些 AI 功能,接下來整篇討論的瀏覽器內建 AI 功能,基本上就武功全廢。
AI的鍋或瀏覽器的鍋,Y拍不背
這個網頁瀏覽器不能用,那個網頁瀏覽器也不能用,AI 生成的內容可能還會有錯誤和幻覺,那Y拍是如何應對的?
免責聲明大法
自然是把免責聲明好加滿

本 AI 服務採用 XXX 技術,所生成的內容僅供參考。Yahoo 台灣電子商務不保證該內容的完整性或準確性。亦不承擔任何責任。在使用或發布前請務必先行查核確認。
AI 警語是直接顯示在生成結果底下,不是第一次使用前要先閱讀一大串條款,並點選我同意。這種寬鬆的作法,公司法務可能晚上都睡不著覺。
反正 Y 拍是一點虧都不吃、什麼 AI 的鍋都不背。
反觀如果是自己做個雲端 AI 模型生成資料的服務:
圖片生成得不好看?
生成的圖片,裡面的中文字筆畫錯誤?
文案生成得不理想?
生成的文字裡面有幻覺,杜撰不存在的法條?
圖片辨識錯誤,導致結果出錯?
使用 AI 生成的文案之後,感覺行銷成效變差了?
唉呀完了完了(抖音音效)
線上客服又準備被敲爆,客人說要免費。
OpenAI 跟 Gemini 都不可能退錢了,反倒我成了被 AI 大廠和使用者兩邊剝削的了?
此功能不存在大法
放上 Y 拍網頁前後台操作畫面的對比,會發現不符合使用條件的裝置,根本沒有出現 AI 按鈕。
(後台商品上架)
(前台瀏覽商品)
電腦不支援此功能?
用的瀏覽器不對?
那使用者就是自已該死。
那些 AI 功能按鈕,沒有就是沒有。
Y拍沒有提供其他替代方案(例如雲端API)。
沒有 AI 幫忙上架商品,沒有生產力?
哭啊喊啊 叫老闆去更新電腦啊!
(點播一首草東沒有派對的《大風吹》)
Yahoo 自己的新賣家活動頁還敢拿這個 AI 功能打廣告

「極簡快速上架 ! 天天免運 AI上架 大量搬家 1:1輔導」
對於有些賣家來說根本就是一場空,因為設備不支援。
在網頁慘業,當使用者拿著最新的 Samsung 手機或 iPhone,卻發現有功能他不能用,工程開發端的任何說法都是不被接受的。但 Yahoo 拍賣就是有本事壓過這些使用者,不爽不要用,右轉蝦皮,直走MOMO,不送。
反觀如果自己的產品也這樣搞,宣傳說有 AI 上架助手、AI 產品摘要、AI 產品評論摘要、AI 購物建議,然後使用者進來一看,根本沒得用,還有一大堆限定瀏覽器和設備的但書?
哇靠,你他X的廣告不實、虛假宣傳啊?
會在社群上被罵得多難聽,退貨率有多高,我都不敢想像了。
其他瀏覽器對 built-in AI 的政策
Chrome built-in AI 只是一個大總稱,實際上包含非常多功能,像是:
- 瀏覽器內建離線 AI 模型(例如 Chrome 是 Gemini Nano,Microsoft Edge 是 Phi-4-mini 或其他的)
- 瀏覽器提供 Web API,網頁工程師可以去呼叫這些 API 偷偷給網頁程式使用,目前已經有 Summarizer API、Writer API、Rewriter API、Prompt API、Translator API、Language Detector API、Proofreader API、Embedding API 等等。
另外還有 WebNN(Web Neural Network API),但是 Chrome built-in AI 的網頁沒把他放上去,先跳過不談。
既然是web前端的東西,該有的問題一個都少不了,跨瀏覽器的前端相容性基本就是一坨💩:
- 有些瀏覽器對上面那幾支 API 的支援度不完整,同一套前端程式碼只能在 Chrome 跑得起來,其他的看運氣。
- 有些瀏覽器的開發團隊根本不打算支援這套標準,有自己的理由。
- 有些瀏覽器用自己的 AI 模型,跑出來的效果跟 Chrome 那邊的有差異,要嘛網頁開發者針對各瀏覽器客製調整,要嘛使用者自己接受。
- 不是文件開出來就能用,有些 API 需要另外申請加入 Early Preview Program,看得到吃不到。
以下來稍微統整一下各方瀏覽器陣營對瀏覽器內建離線AI的說法:
Safari(Webkit)
在前文Safari 27:AI 幫我寫瀏覽器套件,還會自動監測網頁更新有介紹過 WWDC2026 發表的一些新功能,但這純粹是屬於 Safari 自己的新功能,還有給 App 開發者使用(例如在iOS/iPad App 裡呼叫 on-device AI),而不是直接出 Web API 給網頁程式用。
在2026年5月,Apple 的 Web Standards team 的 manager 在回應關於 Prompt API 的提案討論,我隨便挑一點:
Once a model is available on the device, any top-level page can run inference silently, consuming the user's battery, CPU, and GPU resources without their knowledge.(一旦模型可在裝置上使用,任何頂層頁面都能在未經使用者知情的情況下執行推理,消耗使用者的電池、CPU 和 GPU 資源)
綜合種種原因,他們最後是站在反對提案的那邊(position: oppose)。
Mozilla Firefox
他們在 2025 年收到 Prompt API 的 intent-to-prototype之後,在 2025~2026 間各做了幾次回應,理由像是過早標準化、開發者需要針對不同模型去最佳化 prompt、瀏覽器不應該自己幫使用者決定模型......之類的。
現階段的回應是不建議(position: negative)。
Microsoft Edge
微軟的進度是走得比較接近 Chrome 的,自己還有一套AI web APIs for sites的文件,而且在瀏覽器裡面內建的又是微軟自己的模型。

但是這瀏覽器 AI 功能,目前只有在 Edge 的開發預覽版本(Canary 或 Dev)才用得到,安裝之後還要自己啟用 edge://flags/ 裡面的設定。

不過我在 Edge 這邊弄了老半天,on-device-internals 這邊都是顯示 Install Not Complete,那些 API 也都無法使用。


其他 chromium 套殼的瀏覽器
在 Windows 環境上測試其他 chromium 套殼的瀏覽器
- Arc
- Perplexity Comet
- Brave
- Opera
- DuckDuckGO
明明就是同一台電腦,Chromium 都在版本 150 左右,在 Google Chrome 可以正常使用,但其他瀏覽器什麼情況都有,總之非常不順,沒一個能穩定使用的:
- 有時候可以用,隔幾天又不能用了,await LanguageModel.availability() 卡在各種奇怪的狀態。
chrome://on-device-internals/裡面的 Device performance class 顯示 GPU blocked,Foundational model criteria 的 Detected VRAM (MiB) 顯示 Not Available。chrome://on-device-internals/裡面的 Device performance class 永遠顯示 Device performance class: Loading...- flags 裡面的相關功能預設都是停用的,Enable+重啟後,又是不知所云的 Unable to create a text session because the service is not running.
- 有的 flags 裡面有相關功能,但啟用後無法使用,console 沒有任何 warning 訊息,連 on-device-internals 頁面都進不去
- 不只 on-device-internals,有的連 flags 頁面都沒開放
以前俗語是說如果想害人,就叫他去開出版社。
現在是說如果想害人,就叫他去做前端開發工作,然後工作中大半時間都是在幫使用者排除瀏覽器問題、檢查電腦。
現在我們知道,除了技術問題之外,還有開發團隊的政治問題,要讓世界上主流裝置的瀏覽器都能使用這內建 AI 功能,簡直是做白日夢。
離線模型,但需要先線上下載
在談論 AI 的時候,在某些使用情境,我們會大吹特吹本地模型的好,什麼隱私性啊、資料保密啊、美國或中國的 AI 會拿大家的對話資訊去訓練啊,真是太可怕了(轉頭繼續使用 ChatGPT 和 Claude)。
本文介紹的這種瀏覽器內建 AI,完全解決了各種信任問題,想想實際應用場景:
律師事務所要審閱合約和專利,卻不敢把內容貼進來路不明的雲端 AI?
醫院要把病歷做一些文書處理,但法規一大堆,
銀行工作人員需要整理客戶資料,卻連外網都連不上?
這些行業的共通點就是——資料極度敏感,但只要 AI 是在瀏覽器本地執行,所有資料從頭到尾不離開裝置,合規問題直接少一大半。
企業 MIS 難題
雖說這個是離線模型,但首次取得模型,安裝過程需要瀏覽器連上網路,on-demand 下載 AI 模型。
那問題就來了,有些地方的電腦是完全不連公網的,但是今天又希望一些 web 版本的內部系統可以調用瀏覽器 AI 來提升生產力,MIS/IT人員要怎麼幫這些公司電腦「下載並安裝」瀏覽器的模型呢?
目前完全沒找到 Google Chrome 提供 SCCM 套件或離線安裝媒體之類的東西,但如果我們到chrome://on-device-internals/可以發現各瀏覽器的模型位置:
C:\Users\使用者名稱\AppData\Local\Packages\TheBrowserCompany.Arc_ttt1ap7aakyb4\LocalCache\Local\Arc\User Data\OptGuideOnDeviceModel\2025.8.21.1028
C:\Users\使用者名稱\AppData\Local\Perplexity\Comet\User Data\OptGuideOnDeviceModel\2025.8.21.1028
C:\Users\使用者名稱\AppData\Local\Google\Chrome\User Data\OptGuideOnDeviceModel\2025.8.21.1028
資料夾裡面可以看到一個好幾GB的 weights.bin 檔案跟一些其他檔案,至於把這些檔案複製到其他裝置,能不能馬上啟用? 這我就沒去嘗試了,不想浪費生命。
官方目前有一篇 Understand built-in model management in Chrome,裡面有提到各種瀏覽器自動幫人管模型的條件,摘錄幾點出來:
- 如果裝置不符合 硬體需求,則不會下載模型。
- 如果瀏覽器關閉,下載將在下次重新啟動後繼續,前提是瀏覽器在 30 天內開啟。
- Gemini Nano 模型會定期發布更新。 Chrome 瀏覽器會在啟動時檢查這些更新。
- Chrome 會主動管理磁碟空間,以確保使用者不會耗盡空間。如果裝置的可用磁碟空間低於特定閾值,Gemini Nano 模型將自動刪除
- 如果企業策略停用此功能,或使用者連續 30 天未符合其他資格標準,則該模型也會被清除。
碰到這種參數這麼小的本地模型,還會說很好用? 那邊還有缺人嗎? 工作事務是不是都很簡單?
Google 還很好心提醒大家:充分了解內建 AI 模型的生命週期是確保使用者體驗的關鍵。模型下載完成後,您還需要注意模型可能會因磁碟空間不足而突然消失,或在新版本發佈時需要更新。這些都會由瀏覽器自動處理。
這段總結一下,現實總是比理想骨感:
| 理想 | 現實 |
|---|---|
| 模型直接在本地端執行,對話資料完全不需要離開電腦,非常有隱私,非常安全 | 但資料在進出模型之前,還是得先經過網頁程式和瀏覽器那層專屬 API...你要怎麼確認 Google Chrome 在中間沒有多做其他事? 網頁程式有沒有其他段會直通內網其他電腦? |
| 不需要註冊任何帳號就能使用,真正的開箱即用,不會被商業模型綁架 | 說實話也不差這一點了,大家已經有夠多東西在 Google 上面了 |
| 首次取得模型只需要連網下載一次,之後完全離線使用,兼顧隱私與便利 | 前提是我們相信 Google 瀏覽器不會偷偷回傳這功能的使用資料......這不還是回到原本我們想解決的那個 AI 信任問題嗎? |
| 只有在合格的裝置上才會啟用 | 不能用就是不能用,瀏覽器說了算 |
| 瀏覽器會自動更新到最新版本的模型,確保永遠使用最先進的技術 | 這些體貼的機制,結果不是我們不需要選擇,而是沒得選擇 |
不禁想到黑神話:悟空中,楊戩的那句台詞:

硬體需求限制
這段詳談剛剛提到的磁碟空間限制什麼的,在官方的系統Get started with built-in AI就有列出一堆系統需求:
- Windows 10 or 11; macOS 13+ (Ventura and onwards); Linux; or ChromeOS(但 ChromeOS 只支援 Chromebook Plus 機種)
- Chrome profile 的那槽至少要有 22 GB 的剩餘磁碟空間,如果下載完成後可用空間低於 10 GB,Chrome 會自動刪除模型,等到空間足夠後再重新下載。
- 要有 16 GB RAM 或 4 核以上 CPU(CPU: 16 GB of RAM or more and 4 CPU cores or more.)
- GPU 的 VRAM 要有 4GB 以上;Prompt API 若要處理音訊輸入則強制需要 GPU
- 首次下載模型建議使用非計量網路(unmetered connection),行動網路這類算流量的連線可能無法觸發下載。模型下載完成後完全離線執行,後續使用不需要網路。
- 模型大小不是固定的:Gemini Nano 會隨著瀏覽器更新而改變實際大小,可在
chrome://on-device-internals查看目前版本

像我有一台電腦就是因為 C 槽空間不足,直接報錯,瀏覽器根本無法正常下載安裝模型。
The device does not have enough space for downloading the on-device model
然後那個 CPU 和 GPU 規格限制,我手邊沒有那種低規格的迷你電腦,不確定有些人拿來跑 Homelab 的那種機器能不能用?
在 AI 浪潮下,某些關鍵零組件漲價漲到爆,黃仁勳,這就是你要的世界嗎?
祝看這篇文章的人,都不是用著那種很差的電腦設備,還被人指揮說要剪影片、跑AI、做特效,然後電腦跑不動還被嫌工作效率不佳、在偷懶,最後還得扛自己的筆電去上班。
使用 API 非常麻煩
我們剛剛說 Chrome built-in AI 只是一個大總稱,實際要整合在自己的程式裡,要先了解每支 API 是幹什麼用的,要如何呼叫、又各有什麼限制。

以 Prompt API 為例,還是會面臨各種 contextWindow 工程難題,也是有role: 'system'之類的,但是最討厭的是整個 API 又是一個特殊的格式,跟一般常見的 OpenAI Chat Completion 格式或 Gemini 格式略有差異,寫起來就像操作 JS 物件,然後也不需要指定模型。
一些本地 LLM 工具會在本地起一組 server,有個 HTTP API 通道可以直接讓我們呼叫,但它不是這樣的機制,所以不能一上來就直接組 payload、打 API、等待回應,要先:
- 做各種檢查,看看裝置是否有資格使用 AI,會不會跑出 The device does not have enough space for downloading the on-device model、Unable to create a text session because the service is not running 等各種千奇百怪的錯誤訊息。
- 在 UI 上還要引導使用者下載模型,而不是一進網頁,大家的電腦跟網路瞬間卡死。
- 下載好幾GB的模型檔案,需要很長一段時間,要做一個下載進度 UI 給使用者看,官方甚至做了一套範例程式碼教學Inform users of model download。
- 不是下載完就能用了,還要繼續監聽 downloadprogress,做一個模型載入記憶體的 loading 狀態。
- 然後要建立 session 和 initialPrompts,並在出現各種問題時,結束 session,以免下次要再執行時就會報錯。
Polyfill
碰到裝置不支援的情況怎麼辦? 除了自己寫一堆 ((await LanguageModel.availability()) === 'unavailable') 之類的判斷式、顯示各種提示訊息、在某些情況改跑雲端 API,官方另外有提供一個實驗性質的 Prompt API polyfill。
在碰到不支援的環境時,可以切換成其他相容的方式,來繼續提供 AI 功能:
- Firebase AI Logic (cloud)
- Google Gemini API (cloud)
- OpenAI API (cloud)
- Transformers.js (local after initial model download, default backend)
- WebLLM (local after initial model download)
減少模型在頻繁切換頁面時反覆載入
然後還有個問題,如果網頁系統不是 SPA 架構,而是有一個一個分開的頁面,當使用者編輯完一筆資料,回到列表,再點進第二筆資料,AI 模型需要反覆載入,使用體驗非常差。
Yahoo 拍賣當然也碰到同樣的問題,為了解決這個問題,那篇成功案例文章有分享,他們特地自幹了一套 SharedWorker 機制,將一些作業資訊塞在一個瀏覽器分頁和 Web Storage,來盡可能提供多頁面應用程式的運作效率。
看完後一邊佩服 Yahoo 的網頁前端工程團隊,一邊只覺得瀏覽器的這個功能設計還有改進空間,DX 體驗只能給ㄦ級分,開發者得自己處理環境檢測、模型下載、進度條、session 生命週期、多頁面狀態同步等等一大堆東西,一個標榜瀏覽器「內建 AI」的功能,結果最累的是應付瀏覽器本身帶來的各種限制。
做下去之後發現坑實在太多了,對實作有興趣的,可以參考 GoogleChromeLabs 的 web-ai-demos,裡面有40幾種範例。
瀏覽器內建 AI 的功能有限
像開頭做的 Prompt API 判斷情緒的範例,會發現有些陰陽怪氣或是人情世故的語句,Gemini Nano 這種小模型不一定能正確判斷,但主流的商業模型的高階型號,或參數很大的開源模型,都能判斷得很好。
現在 ChatGPT、Claude、Gemini 三本柱隨便一個多模態模型,都能聽懂中英文夾雜的語音、生成圖片、解讀圖片、進行大量的文字型作業,現代使用者對 AI 模型的期待和標準就擺在那,但這個 Chrome built-in AI 就是沒這麼強。
不要幻想這種本地小模型可以左踢 Seedance、右打 Claude Fable、上槌 Whisper、下揍 gpt-image-2。在模型能力本身就不怎樣的情況下,免費使用? 不用網路也能用? 不怕遇到敏感詞被封? 就算送給我也不想用。
也不要奢望這種 AI 有 tool calling 的功能,回答問題前會自己去搜尋,或是做其他前置作業,而是我們要自己想辦法先去搜尋,然後把資料拋給 AI 去整理。
要做總結摘要功能,另外還可以直接用個 Summarizer API 可以用,但不支援中文回應,目前只接受 "en"、"ja"、"es"、"de" 和 "fr" 幾種語系,丟中文內容給它總結,它只會回覆出英文,不太適用中文使用環境。
Chrome 內建 AI 噁心的地方就在這邊,看似放出一大堆 API,但每個都有一些令人難受的限制。畢竟產品定位本來就不是「全能聊天機器人」,而是「瀏覽器裡的本機推論引擎」。它擅長的是摘要、改寫、分類、翻譯、語言偵測這類短任務;不擅長的是長鏈推理、複雜多步驟規劃、跨網頁查證,以及任何需要即時外部資料的工作。
給它一段產品說明+適當的 prompt,它能幫忙縮成三點重點,但叫它「先去查最新匯率,再幫我規劃出國預算」,它就會爆炸。
這也是為什麼它看起來很酷,但實際落地時常常變成「半成品」。
真正好用的 AI 產品,不只是模型自己什麼都會,而且模型後面還接了一整套工具鏈:搜尋、資料庫、瀏覽器自動化、檔案讀取、檔案解析、API 呼叫。
Chrome 內建 AI 能在一些小地方派上用場,但不多。我們拿到的是一顆能在本機跑的小頭腦,不是一個會自己出門辦事的 AI 代理人。
Translator API 和其他專家特化功能
在前述一些 LanguageModel.availability() 環境檢測階段就錯誤滿天飛的電腦,卻通常都能順利使用 Translator API,這是另一套瀏覽器內建 AI 的 API,雖然功能很有限,但是使用門檻低很多。
這也正好點出 Chrome 內建 AI 的另一個設計思路:
不只是只給一顆什麼都能做、結果什麼都普通的通用模型,而是另外準備了一批「功能特化」的 Expert model。
Translator、Language Detector 就是這類代表。它們不做聊天,不搞推理,不假裝自己是全能助理;它們只把自己那一件事做好。
可以把它理解成兩條產品線:
1.通用路線:Prompt API / LanguageModel
比較彈性,理論上什麼文字任務都能試,但門檻高、硬體挑、可用性不穩定。
當我們需要AI的時候,他的大多數能力也明顯比不上雲端大模型。
2.專家特化模型路線:Translator、Language Detector 這類 API
功能很窄,但啟動容易、行為可預期、整合成本低,很多機器上反而比通用模型更「開箱即用」。
Translator API 的價值不在於取代 Google 翻譯的全部能力,而在於它把「翻譯」這件事變成瀏覽器原生能力。
網頁不需要自己接翻譯服務、不需要先申請金鑰、也不一定要把使用者內容送到自己的後端,就能做基本語言轉換。
當然,限制也很明顯,Translator 就是翻譯,Language Detector 就是偵測語言;不要指望它們像 ChatGPT 一樣什麼都會做,處理時順便改寫文案、判斷情緒、整理知識點,或是邊翻譯邊查專有名詞背景。
雲端 AI 可以用 Chrome 裝置端 AI 完美替代嗎?
有做過 AI 相關產品的人大概都有這種症狀:每天打開雲端 AI 供應商的後台,看到那個 API 用量,心跳就會漏一拍。
用量漲了,怕月底帳單爆炸;用量跌了,又開始懷疑是不是系統壞了、使用者跑了、新鮮衝動期過了正準備在填退款表單、OpenAI/Claude/Gemini 昨晚又發佈了什麼新功能來當新創殺手。
所以在聽到 Chrome 內建 AI 免費、離線、不用金鑰、沒有額度上限的那一刻,任何開發者都會浮現同一個念頭:是不是可以把雲端 API 都換掉,直接用它當替代方案?
先講結論:不能。
Chrome 裝置端 AI 可以省下一部分雲端 AI 的 API 費用,但無法完美替代雲端 AI,因為兩者的定位、能力和適用場景從根本上就不同。
首先依照上文中提過的,兩者的初始化作業、API 內的物件請求格式、回應格式,都跟一般的常見的 OpenAI Chat Completion 格式或 Gemini 格式略有差異,為了同時對應兩套格式,程式需要寫一大坨,或是寫一堆亂七八糟改A壞B的格式轉換機制。
這題的答案不是「免費 vs 付費」二選一,而是「每一種 AI 任務該在哪裡執行」。
直接比較:雲端 AI vs Chrome 裝置端 AI
| 比較項目 | 雲端 AI API(OpenAI / Gemini / Claude) | Chrome 裝置端 AI |
|---|---|---|
| 費用 | 按 token / 用量計費,有額度上限 | 免費,但需要使用者硬體符合門檻 |
| 硬體需求 | 使用者只要有瀏覽器,重型運算在後端 GPU | 22GB 磁碟、16GB RAM、4GB VRAM,一堆人無法使用 |
| 支援範圍 | 所有平台、所有瀏覽器 | 只有特定版本 Chrome + 特定裝置,手機與 iOS 不支援 |
| 模型能力 | 多模態、長鏈推理、tool calling、可搜尋 | 小模型,適合摘要、分類、翻譯等短任務 |
| 模型品質 | 參數大、持續更新、表現穩定 | 參數小,遇到人情世故或複雜推理就爆炸 |
| 資料隱私 | 內容會送第三方 | 資料不離開裝置 |
| 開發成本 | 串接簡單,但成本可控性差 | 要處理模型下載、session 管理、跨瀏覽器相容 |
| 維護責任 | 供應商負責模型更新 | 瀏覽器自動管理,模型可能無預警消失 |
看完表格就知道,這根本不是在比「誰比較好」,而是在比「誰適合做什麼事」。
對一些產品的 AI 功能來說,「替代雲端AI」的正確打開方式:把功能分層,便宜的任務在地端跑,困難的任務再花錢上雲,雲端 API 的額度就能留給真正需要大型模型的工作。
Chrome 內建 AI 當雲端 AI 替代品,最吸引人的三件事
先說它為什麼會讓人心動,不然對它不公平:
- 零 API 費用:不按 token 計費、沒有 Rate Limit、沒有額度上限,這對天天看帳單的開發者來說根本是聖旨。
- 使用者資料不離開裝置:不用把使用者內容送到世界上不知何方的機房,法務和客服都鬆一口氣,雲端 AI 最容易踩的隱私地雷直接消失。
- 免註冊、免金鑰、免後端:不需要管理 API key、不需要串後端轉發,前端程式碼直接呼叫,整合成本低到不行。
聽起來是不是很完美? 可惜,現實世界總是有個但書。
什麼情況絕對不要想用 Chrome 內建 AI 替代?
反過來說,只要符合下面任何一條,就乖乖回去買雲端 API,不要拿使用者當實驗品:
- 任務需要長鏈推理或複雜多步驟規劃,例如「先查最新匯率,再幫我規劃出國預算」。
- 需要 tool calling 或即時外部資料,例如讓 AI 自己去搜尋、呼叫 API、操作系統。
- 需要多模態能力,例如生成圖片、生成語音、製作 AI 短劇、解讀超級複雜資料,Chrome 內建 AI 不行。
- 產品的使用者涵蓋手機、平板、各種瀏覽器,Chrome 內建 AI 直接武功全廢。
- 輸出不準確的代價很高,例如醫療、金融、法律相關的生成內容,小模型的幻覺扛不起、管不動(指令遵循性差)。
如果看完還是硬要做全面替代,不會像 Y 拍這麼成功,後果大概是結果使用者用 iPhone、iPad、Safari、Chrome for Android 通通不能用,客服被打爆、被罵廣告不實。省下來的 API 錢,連付客服加班費都不夠。
給想用 Chrome 內建 AI 省雲端費用的開發者
最後給認真想把雲端 API 費用降下來的開發者一個務實建議:
- 先分析用量,找出哪幾種呼叫占掉最大宗的成本? 圖片生成? cache 失效? 同樣的內容被反覆重新呼叫摘要?
- 從任務最單一、可容忍品質波動的功能開始試,用 Prompt API 的 polyfill 串接,把地端能做的先切過去,雲端當 fallback。
- 一定要做環境檢測和降級路徑,環境檢查、模型下載與載入狀態、無法使用時自動退回雲端 API,我們不是Y拍,使用者沒有什麼信仰。
- 使用者根本不在乎廠商省了多少 API 費用,他們只在乎功能好不好用,沒事不要把這東西當賣點。
Chrome 裝置端 AI 不是雲端 AI 的替代品,而是「降低成本、保護隱私」的另一種選項。想拿它完全取代雲端 AI,就像想用一台玩具車代替每天通勤的代步工具,在家上廁所時開著繞繞還行,要上高速公路? 還是算了吧。
閱讀測驗
(___):1.請問在產品中製作此功能,可能碰到哪些情況?
(A).製作前提到這些功能限制,主管或客戶什麼都說OK沒關係。當真的做出來,又變成這種東西怎麼推出去? 怎麼這麼難用? 全部都是基層開發人員的問題。
(B).主管或客戶把這個瀏覽器內建 AI 誤以為是其他功能,頒布聖旨,說下個月就不用付費訂閱 ChatGPT 了,等一下 FB 粉專發文需要幾張圖片,就用這個 AI 來做。再用這個功能把官網直接變成多國語系,以後不用自己建資料。以後要開會就用 Google Chrome 的 AI 做會議記錄......
(C).使用者覺得銷售狀況不好、SEO成效下跌、ChatGPT 的回答沒有顯示品牌資訊、公司馬桶不通、租金漲價、開車容易遇到紅燈,通通都是我們產品中的這個 AI 功能害的。
(D).Google Chrome 更新後功能突然又壞了,不管什麼 API 改版還是個人電腦問題,反正要終身免費保固。
(E).以上皆是。
(___):2.以下哪一個功能是瀏覽器內建AI無法做到的?
(A).輸入中文 prompt,生成中文字沒有破碎的圖片。
(B).跟主流的商業 LLM 一模一樣的 tool calling 功能。
(C).依照範例語音和指定的文案,重新生成使用該語音念稿的聲音素材。
(D).以上皆是。
(___):3.以下哪一個環境,可以使用這個網頁瀏覽器內建 AI?
(A).Apple 最新的 Macbook Pro,搭載 M幾 MAX 的晶片和 128GB的 RAM,使用 Safari 瀏覽器。
(B).Microsoft Edge 穩定版。
(C).Microsoft Edge Canary 裝起來後完全不改設定。
(D).搭載 macOS 12 Monterey 的 Apple Mac Pro,使用 Google Chrome 瀏覽器。
(E).以上皆無法使用。
相關連結
- Chrome built-in AI 總覽
- Chrome 裝置端 AI 功能說明
- Get started with built-in AI
- Built-in AI APIs 列表
- Understand built-in model management
- Prompt API 硬體需求
- Prompt API polyfill
- Prompt API Polyfill - npm
- Inform users of model download
- Translator API
- Translator 語系支援表
- How Yahoo Taiwan Ecommerce cut listing times from 20 minutes to 2 and elevated discovery with on-device AI
- WebKit 對 Prompt API 的回應(standards-positions #495)
- Mozilla 對 Prompt API 的回應(standards-positions #1213)
- Microsoft Edge AI web APIs
- WebNN (Web Neural Network API)
- GoogleChromeLabs / web-ai-demos
文章封面團:海濤法師迷因圖。
本以為這些瀏覽器 API 可以降本增效,研究試用之後,我只想說海濤法師的知名台詞:「假的!哎呀,我的眼睛業障重啊!」