這些人專門生產 AI 瞎掰的產品，結果賣爆了。AI 幻覺成就商機

前陣子在臉書社團看到一篇貼文，民眾發文附上 ChatGPT 的聊天對話截圖，說某些連鎖披薩店的烤爐葷素不分，請吃素的人小心。

大家看到這篇文章，紛紛嘲笑發文者不會用 AI，發文者也筆戰群雄，例如要大家拿出證據證明 ChatGPT 是錯的? 過幾天再去看，文章已經不見了，我不知道發文者最後有沒有更認識 ChatGPT 是什麼，還是覺得眾人皆醉他獨醒?

本文的主題不是來討論 ChatGPT 怎麼用才正確，是來分享一些有趣的案例，軟體公司、SEO 專家、科學家們，如何利用 AI 的幻覺來變成產品或服務的一個機會。

樂譜軟體公司把 ChatGPT 瞎掰的功能做出來

Soundslice 是一個線上樂譜服務，有一些上傳樂譜照片轉換成電子檔、線上編輯樂譜之類的工具。

開發人員在調閱系統紀錄，檢查圖片辨識的結果時，發現兩個大問題:

1.使用者會上傳 ChatGPT 的截圖，裡面包含一種 ASCII 的樂譜(大家肯定遇過，就是 ChatGPT 有時候會用一些符號拼湊出圖形來回答問題，但不是 Markdown/MerMaid 之類的正經格式)，但他們的系統功能根本沒設計去辨識這種 ASCII 格式的「樂譜」。

2.甚至 ChatGPT 還會列出步驟，請使用者前往 Soundslice 網站，把符號上傳，然後就可以把樂譜變成音樂播放出來。上傳樂譜然後播放的功能是 Soundslice 本來就有的，但是這種 ASCII 樂譜他們無法處理。

他們也不可能告訴 ChatGPT 他們沒有這功能，但最後他們決定，就把這個功能開發出來，誕生了 Importing ASCII tablature into Soundslice。所以大家覺得 ChatGPT 沒騙人的背後，是另一個團隊默默地幫 ChatGPT 圓謊。

Soundslice 的線上樂譜工具是免費使用的，但是付費方案還有更多的功能，他們推出的匯入 ASCII 樂譜功能也是免費就能用的，新功能不能幫他們發大財。但他們還做了一篇說明頁面，介紹這種 ASCII 樂譜不夠完整，缺少了很多東西，建議使用他們的工具來把樂譜做得更完整，算是很有行銷和 SEO 概念了。

線上樂譜工具的人員在接受 404 Media 專訪時提到，雖然他們的樂譜辨識系統也仰賴機器學習等相關技術，但他們並沒有要特別吹捧這些 AI 技術，他們嘗試過用 AI 來寫程式，發現造成更多問題。

而且他意識到 ChatGPT 對於消費者行為的大問題，AI 向大量使用者推薦產品，根本毫無透明度，無論產品是否真的有那些功能，別人也沒有任何申訴或反駁的機會。

當然我覺得反過來說，這類 AI 服務也很難去保證真實性，也許曾經有這功能，隔天拿掉了，AI 服務怎麼會知道? 這也凸顯了 AI 推薦系統或自動程式的本質侷限......難以即時掌握現實世界的變動，更無法為錯誤資訊負責。

購買 AI 繪圖生成的居家飾品或首飾

如果我說有個家具飾品和珠寶首飾購物網站:

1. 網站一打開，商品圖清一色看起來就是 AI 生成的圖片
2. 不僅沒有實體店面可以看商品，甚至商品根本都沒有實際做出來，下單後才會製作

這網站的東西你敢買嗎?

有人可能會覺得...現在搞募資團購詐騙還有人會上當嗎? AI 生成的那種亂七八糟、毫無結構和材料邏輯的商品圖?

這是一個國外的平台，名字叫 Arcade，已經獲得上千萬美金的投資，換算台幣超過 10 億。

Arcade 提供了一個平台，一般老百姓(平台上稱為 Dreamer)可以用平台的 AI，輸入文字或上傳圖片，就能生成 AI 商品圖，然後可以找平台上的廠商(平台上稱為 Maker)把東西實際做出來，在這個電商網站上可以逛到各種外面絕對找不到的首飾或居家飾品，就是大家用 AI 生成出來的商品圖。

2024 年創立時，先從珠寶首飾設計開始做起，後來品項種類越變越多，現在(2025年9月)還有枕頭套、餐墊、餐巾、地毯、圍巾、陶瓷藝術品等等。

如果 prompt 給得很簡單，平台也會推薦其他人先想到的類似商品，我們還可以修改別人的創作，然後下單製作。

創作出來的商品被別人購買，創作者會獲得分潤，被購買次數多了，還會變成平台上的簽約藝術家(Artists)，聽起來不錯吧?

傳統的文創商品平台、藝術家平台、製造服務端，可能不會想到這種奇葩的商業模式，做了也會被罵死，用 AI 憑空生成商品圖片，這他 X 的什麼跟什麼? 但創辦人之前創業過其他媒合設計師作品和民眾的設計平台 minted，很了解創作者經濟的玩法。Arcade 上的一些藝術家也是從之前的 minted 來的。

不過我還沒去研究平台跟作品之間，有沒有不平等條約? 反正貨出得去...喔，平台基本不用壓貨(但是找供應商、讓大家跑 AI 也很花錢)，錢進得來，大家發大財。

ChatGPT 虛構頁面，成為 SEO 內容創意來源

大家肯定都遇過 ChatGPT 回答問題時，煞有其事的附上一堆來源網址，但點進去後發現都是找不到內容的 404 錯誤頁面吧?

如果是使用者碰到這狀況，可能相當生氣，要是有付錢訂閱的就更不得了，產品發表會上 CEO 不是都說 AI 模型有博士級(PhD-level)的專業能力，怎麼花一個月 600 台幣「高薪聘請」的博士這麼落漆? 但也有時候使用者完全不檢查，把資料通通附上，有問題就甩鍋給 ChatGPT。

如果是網頁工程師遇到這問題也會相當生氣，有些網站背後使用的 CDN/負載平衡器/系統架構會依照 request 數量計算費用，這些 AI 爬蟲存取、AI 產生錯誤連結帶來無效的流量，都造成系統資源負載增加、網站營運成本增加、但網站的各項成效指標數沒有隨之上升，非常可惡。

有一位英國的 SEO 專家想了不一樣的東西，他整理近幾個月的紀錄，發現 ChatGPT 帶來了一些錯誤連結，有些連結甚至超過了 20 次。

然後他們決定:

• 把這些錯誤連結做轉址設定，導向到站內相關的文章。
• 為這些不存在的頁面，撰寫真的內容。

下次有訪客被 ChatGPT 給的連結「騙進來」網站的時候，訪客看到的不再是找不到頁面的錯誤，而是有真實內容的頁面。

我在寫這段內容時，距離 SEO 專家做這件事(How to fix ChatGPT's 404 pages and find new ideas。)已經過了 3 個月，她後續並沒有分享什麼成果。

但還是值得大家一試，將無效流量變成一個商機和靈感來源......講是這樣講，但在網路技術實務上有很多問題，光是「從 ChatGPT 來的」「404錯誤頁面」這一句話就有很多可以探討的，依照網站使用的套裝軟體/平台、技術架構、資安設定、log 保留時間等各種因素，系統可能會對於 404 error，或是對 referer 資訊有一些特殊的設計或處理方式，該文的方法並不適合所有網站。

先查 GA

• 有許多各種設計在程式開發上都算合理，但在本文的情境需求，會讓人無法 GA4 撈出從 AI 網站的來源訪客&出現 404 錯誤的頁面，例如 404 頁面沒有放 GA4 追蹤碼，或是在 server side 控制直接把 404 轉址到首頁之類的。
• 用 GA4 撈報表可能也是一個門檻，例如 404 頁面有特別的網頁 head title，搭配相關的維度和篩選器來查，隨著每個網站的程式設計不同要客製化查詢方式，這不只是會不會用 GA4 而已，有些算是網頁程式概念問題。外國專家的原文只放了一個 Excel 檔案截圖，他是怎麼整理得我們不得而知。

取得 access log 有各種困難

GA4 這種一般人能用的工具查不到，那可以嘗試查網站的 access log。

• 但有些網站的服務模式(例如用開店平台的)，絕對沒有要讓店家碰這些系統 log，除此之外還有 N 百種原因碰不到，平台端的技術人員也不可能整天免費幫人撈 log。
• 有人可能想到自己租的虛擬主機，主機商有提供一個網頁控制台，然後以為世界上所有的網站都有這種網頁控制台? 但有些網站的服務模式是找網頁公司做的，網頁公司的一些管理人員也是透過這類網頁控制台面板來管理，但那個面板不一定有開放多人登入(要額外付費給面板廠商)，網頁公司當然會有各種話術去減少額外的工作，有人覺得只是登入一個網頁後台然後下載報表而已，但裡面的水又有點深，這也導致撈 log 這件事窒礙難行。
• 有人可能想隨便叫 AI 寫一支 PHP 程式，定時把網站的 access log 打包寄到 email，或是做個程式直接瀏覽，好像就是幾行程式碼的事?
  實際上這又是一個依照網站運作環境不同，開發上就有不同坑的事情，不管是額外開放權限讓網站程式可以直接讀取到，還是跑排程把檔案複製到可以讓程式使用/僅憑一個 URL 就能公開存取的地方，都容易造成安全性問題。
• 網站放在一些雲端 PaaS/Serverless 平台(例如 Vercel)，撈 log 這件事也是要看平台商的臉色，平台商的系統設計可能有 deploy&build 紀錄或 runtime 錯誤紀錄，但沒有本文這種用途意義上的 access log。或是 log 只有近幾天，要再啟用額外的付費服務去長期保存 log...至於把 log 下載出來傳給別人，就是另一回事。

拿到 access log 又發現不能用

好不容易拿到一份某個時間段的 access log，還有可能發現不能用。

• CDN 或一些第三方服務有設定過濾 Header、Referer，或直接把敏感紀錄移除，武功全廢。
• 或是為了某些需求，log 的紀錄設定調整得很精簡，可能要為了本文的用途再另外調整設定。政治問題就是幹這堆事會增加人力時間和系統資源的消耗，而工程師沒有功勞只有苦勞。
• 使用不同的 web server 技術，例如 Nginx/Apache、Caddy、IIS，各家的預設 access log 格式都長不一樣。手上有多種不同網站的，如果我要針對本文用途做個檢視工具，就必須相容常見的多種格式。

解讀 access log 有難度

如何正確判讀 log，避免過度解讀，這又是另一個問題。以 Combined Log Format 為例，以下何者為從 AI 對話中「點擊連結進站」的人類訪客?

• (A)XX.XXX.XXX.XXX - - [31/Aug/2025:00:19:54 -0800] "GET /xxx/ HTTP/1.0" 200 27453 "-" "Mozilla/5.0 AppleWebKit/537.36 (KHTML, like Gecko); compatible; ChatGPT-User/1.0; +https://openai.com/bot"
• (B) XX.XXX.XX.XX - - [09/Sep/2025:00:28:34 -0800] "GET /yyy/ HTTP/1.0" 200 35817 "https://claude.ai/" "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/139.0.0.0 Safari/537.36""
• (C) XXX.XXX.XX.XX - - [11/Sep/2025:01:13:12 -0800] "GET /zzz/ HTTP/1.1" 200 1477 "-" "Mozilla/5.0 AppleWebKit/537.36 (KHTML, like Gecko; compatible; Perplexity-User/1.0; +https://perplexity.ai/perplexity-user)
• (D) X.XXX.XX.XXX - - [07/Sep/2025:20:41:47 -0800] "GET /kkk/ HTTP/1.0" 200 32986 "-" "Mozilla/5.0 (Macintosh; Intel Mac OS X 10_15_7) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/131.0.0.0 Safari/537.36; compatible; OAI-SearchBot/1.0; +https://openai.com/searchbot"

只有 B 是，其他有些是貼網頁連結請 AI 去看，有些是 AI 主動來爬網站，有些是抓網站資料回去訓練。關於 OpenAI 一家的可見官方說明:Overview of OpenAI Crawlers。

AI 服務百百種，從 ChatGPT 點擊進站的是會帶個 utm tag ?utm_source=chatgpt.com，從 Perplexity 點擊進站的是 referer 有 https://www.perplexity.ai/，其他 Claude、Felo、Monica、Copilot、Google AI Mode、Manus 呢......請自己慢慢測試每個網站的規則，然後慢慢查 log 吧，我先失賠了。

最後再來開大絕，AI 工具的回答來自網路中具價值的資訊，有些網站被引用的內容有限，網站可能根本沒在 ChatGPT 等 AI 工具出現過。如果想按照本文的方式找出潛在的商機，花時間動員一堆人搞老半天? 可能最後什麼有用的資訊都沒撈到。

我就是那個大笨蛋，
把每個網站的 log 抓回來，
針對不同格式做 log 分析工具，
最後拿到這種從 ChatGPT 來的 404 錯誤頁面連結......一隻手就數得出來。

以網站經營實務來說，404 錯誤過多，不管是不是 ChatGPT 來源的訪客，要檢查是否 sitemap 或哪一頁裡面有錯誤連結，還要查看看是不是哪個外部網站把連結放錯，要做的雜務多如牛毛。

但我想以 ChatGPT 的系統設計，在回覆訊息前，直接把內文一些 404 錯誤或回應時間過長的連結清掉，理論上是有可能做到的，但會拉長 AI 吐出回覆的時間，或是看到 AI 回覆到一半突然訊息不見，造成使用者體驗可能不佳。等哪一天 OpenAI 實作這功能改掉，這整件事就成為空談了。

為 vibe-coding 量身打造的虛假病毒套件

用 LLM 輔助程式開發，從 2022 年開始收費的 GitHub Copilot，到現在的各種 Claude CLI 之類的工具，一再顛覆本該嚴謹的程式開發現場。

一些本來不會寫程式的人也加入使用，使用者甚至會給予這類工具很大的權限，可以任意更動專案中的程式碼，可以變更資料庫結構，可以執行 php artisan migrate:fresh 這類重大操作。

當然 AI 程式助手基於 LLM 的原理來開發，也經常有幻覺發生，例如串接 API 時會憑空生出 API 不存在的參數，或是在專案中安裝不存在的套件工具。

有心人士就看上這點，例如有人做了一個 ccxt-mexc-futures，假裝是 PyPI 上知名的加密貨幣交易套件 CCXT 的相關工具，用於竊取加密貨幣，套件被下載了上千次。

還有人做了實驗，像是利用一些知名服務的關鍵字，例如 huggingface-cli ，這個套件名稱是他在 ChatGPT 的回答中看到的，但實際上 huggingface 官方沒有做出這個套件，於是他做了假的上傳上去，三個月內被下載了幾萬次，還有一些開發文件煞有其事地寫說要安裝這個套件，但就沒人想到去 PyPI 查一下作者資訊。

一些資安研究機構也測試市面上這些 Claude 之類的 LLM 或是 Cursor 之類的工具，看有多常出現幻覺，並歸類出容易發生此類問題的情況:

• LLM 針對使用情境玩文字接龍，把常見的單字 graph, webSocket, ORM, financial_analytics, dataframe-utils 之類的胡亂拼湊，但沒有其他機制去驗證是否存在於套件庫。
• 有些套件只存在某個生態系統，例如 npm install xxx，但 AI 在開發其他語言的專案時，卻有機會把同樣的名稱帶入其他生態系統，例如執行 pip install xxx，如果碰到 ERROR: No matching distribution found，那人類稍加查證通常很快能發覺 AI 的錯誤，但有時候還就真碰巧有東西可以安裝，至於裡面是駭客程式，還是功能完全不同，讓人 debug 老半天越寫錯越多的程式，就看施主的造化了。

甚至加上 Context7 之類的各種 MCP，也不能保證完全不會出錯。而且開源模型出錯的機率更高。

對於這項測試有興趣的可以參考:

• Slopsquatting: When AI Agents Hallucinate Malicious Packages | Trend Micro (US)，測試大概是 2025 年上半做的，有 gpt-4.1, Gemini 2.5 Pro 和 Claude 3.7 等等。
• arXiv:2406.10279 - We Have a Package for You! A Comprehensive Analysis of Package Hallucinations by Code Generating LLMs 2024 年的，測試使用 16 種 LLM 進行程式碼生成。

失敗案例

這個題目非常刁鑽，一般比較容易找到企業導入 AI 之後，被 LLM「陷害」、被消費者告的失敗案例，例如航空公司的 chatbot 亂說話: What Air Canada Lost In Remarkable Lying AI Chatbot Case 這種。只是因為剛好有在蒐集，然後感覺太久沒更新，整理一下把文章發出來。

之前還有在社群網站上逛到一個案例，店家抱怨常常有人打電話來預訂，但講的是別家店的資訊。

上網搜尋發現，網路上有一篇就介紹了多家餐廳的媒體文章，然後 Google AI overview 就在特定關鍵字時，會把兩家餐廳的資訊東拚西湊起來，但實際上這個餐廳根本沒有提供電話預訂...。上方截圖是 2025/6 月底，現在 2025/9 去搜尋，Google AI overview 已經會顯示「沒有公開提供的訂位電話」

有許有人會想到要用一些話術，把打錯電話的客人拐去他們的店? 但兩間是完全不同屬性的餐廳，而且一般基層人員應該不會想多費口舌跟客人推銷。

至於文章開頭的披薩素食案例，當然這其中牽涉很多層問題，例如:

• LLM 本身的機制，可能把不相干的幾篇內容張冠李戴拼湊在一起，最後迎合發文者的問題，做出各種餐飲業有問題的結論。
• AI 的預訓練資料可能包含一些來路不明品質低落的內容，回答問題時可能又去找了一堆內容農場文，最後披薩店的烤爐裡面什麼事都有可能發生。
• 使用者如何使用 ChatGPT 產品本身的功能，旁人不得而知，例如可能開啟記憶或專案功能，然後裡面包含錯誤的資訊，或是系統自動切換成低等模型，最後導致低落的回答品質。

這幾天(2025/9) OpenAI 剛好也發布一篇 Why language models hallucinate 的研究報告，裡面的內容已經被各種自媒體用千百種方式科普過了，這邊就不再贅述。

還有找到一些，與其說是案例，不如更像是一些充滿宣傳風味的臨時玩具，我就不放細節上來了。

有些是在正常作業流程中，每個階段硬是 讓 AI 生成一些什麼出來，然後把這件事包裝成一個工具? 例如刻意使用一些與目標方向或原始製作方向完全相反的 prompt，創造一些超現實的內容來刺激創意，甚至把這些素材進行 A/B test 測試?

但如果我們挑一下去年或更早的文章，去查詢這些「成功案例」的品牌，有的網站跟社群看似已經好一陣子沒更新，Meta & Google 廣告檔案庫也沒東西，就像找行銷公司來進行短期任務，合約到期又不續簽，整個數位品牌形象又回到那個死氣沉沉的樣子。

利用 AI 生成網頁用於 SEO 用途?
例如用 AI 生成大量的商品列表，頁面開頭可能是 AI 毫無根據掰出來的熱門關鍵字和文案，下半部是可能跟這個主題相關的商品或文章。
時至今日網站可能已經消失，或是使用一些第三方工具查詢，發現在 Google 搜尋引擎更新 December 2024 spam update 期間出現下跌曲線圖。

下跌曲線也不見得是被懲罰，也有可能是自己把頁面刪掉一堆，網站架構調整之類的，要搭配其他指標來看。

總結

跟本文類似的正向成功用途，還有一些材料科學和生技藥物領域的案例，例如其中一篇: How Hallucinatory A.I. Helps Science Dream Up Big Breakthroughs - The New York Times，但我不懂那個領域的東西，搞不好身處該產業中的人，反倒覺得此舉是專利蟑螂或學術毒瘤? 就不多加評論了。

各種正面案例跟失敗案例每天都在發生，絕對不止一例。AI 工具有很多問題，但有時候商機也許剛好躲在危機之中。