流量密碼不是一切！真假難辨的AI生成內容，揭網路治理盲點

文／曾子軒／遠見雜誌

社群平台的上內容正悄悄出現變化。有大量看起來專業的內容，如白袍醫師講解健康資訊、資深空服員提醒登機注意事項。只是，它們沒有出處、真假難辨，而且沒人能為正確性負責。 

這套由AI生成內容、追求點閱與廣告分潤的機制，也正被企業用來降低成本、加快產出，解放原先受限的創作力，改寫既有代理商與客戶的合作關係，甚至顛覆原有職能分工。 

AI並非問題本身。它能成為情緒操弄與錯假資訊的利器，也可激發公司白領的生產效率。如何與AI共舞，與時俱進地修整制度、治理平台並增進公民素養，已成為無可迴避的關鍵課題。

打開社群平台，忠犬在天災前狂吠預警、老鼠試圖逃過陷阱偷食等有趣短影片，依舊引人點擊。但只要細看就能發現，並非自電影中剪輯。 

宣傳吃高麗菜抗癌、提醒刷牙影響壽命的健康資訊仍充斥，但已從原先的文字訊息，轉變為由身披白袍的醫師主講。 

甚至，還有警告銀行將面臨倒閉潮、存款不再安全，或是告訴觀眾政府普發福利、拿駕照就能換現金等，與時事、政策相關的內容。 

它們高度鎖定長者，全都看似專業、包裝完整，卻隱約透著違和感。 

內容從療癒到恐嚇，真假界線模糊

智慧之泉、頤養之道、康樂年華、健康養生堂、晚年智語……，同樣都是近一年竄出的新頻道。但稍微細究就能發現，健康建議似是而非、政治評論缺乏脈絡、療癒內容複製貼上，聲音、影像與腳本更高度雷同。 

這些內容並非來自專業創作者，而是由生成式AI大量生產、以流量與廣告收益為目標產製的內容工廠。正因AI生成內容品質不斷提升，除了文字和圖像，由AI模型產出的影像與聲音，變得更加氾濫。 

美國權威英文字典《韋氏字典》將指稱垃圾或餿水的「slop」，選為2025年度代表字，也讓人們開始習慣用「AI垃圾」（AI slop），指稱由AI量產的低品質內容。其實，AI本身並不是問題所在。它就像槓桿，使用者能藉其放大意志。 

AI能用來產製垃圾內容，迎合整套以演算法、點閱率與廣告分潤為核心的產製邏輯。也因此，相較正確性，力求吸睛獵奇、最大化觀看時間才是重點。 

於是，我們看到迎合情緒、操弄感受、卻缺乏真實性的內容，以前所未有的速度擴散。 

另一方面，AI也能用在正途。例如，沛星科技（Appier）開發出的生成式AI平台，就能幫助客戶生成電商廣告素材、社群貼文配圖，甚至產品宣傳影片；又如，光禾感知科技替旅遊業客戶生成行前說明影音，省下導遊舉辦線上講座與電話通知的時間。 

也有缺乏專業領域能力的受訪者，憑藉AI產製影像與音樂，例如，工作用輕音樂、搖滾、抒情流行歌。它無涉道德，也是不錯的第二收入來源。 

AI放大敘事者的聲音，也讓虛與實的界線愈發模糊。當真假難辨成為這個時代的常態，我們的制度、平台與公民意識，是否真的已準備好應對？ 

延伸閱讀

AI哲學辯證／當臉書上滿滿AI文，你仍在乎創作者的真誠？
AI全面席捲遊戲業，2026台北電玩展業者如何應對？
AI 代理轉骨年！從「談願景」轉向「談回報」