文章目錄
以上爲原文（2024年2月27日）。
以下中文由 Claude AI 翻譯，roro 稍作修飾。
插圖由 Nano Banana Pro 生成。
無所不在的內容污染
生成式 AI 產生的內容正在淹沒整個網路,或者更精確地說,是在污染網路。從搜尋結果、網頁內容到社群媒體動態,你目光所及之處都能看到這種污染。作者 Erik Hoel早在 2019 年就預測生成式 AI 會對文化產生有害影響,當時稱之為即將到來的「語義末日」。如今這個末日已經降臨,即使你沒有察覺,也正在受到影響。
作者 Erik Hoel 舉了個人經歷為例:去年出版了一本非虛構作品《The World Behind the World》後,現在在 Amazon 上發現有許多所謂的「工作手冊」。這些都是 AI 污染的產物,就像漂浮在網路海洋中的合成垃圾堆。這些作者並非真人,只是有人把原稿餵給 AI,連 AI 產出的荒謬摘要都不檢查就直接發布。但這無關緊要,因為總會有倒霉的人點下 9.99 美元的購買鍵,而這個騙局就能獲利,因為整個過程完全自動化且成本只需幾美分。幾乎所有出版作者都受到或即將受到類似詐騙的影響。
網路生態的全面崩壞
現在生成式 AI 已經將製造廢話的成本降到接近零,我們清楚看到了網路的未來:一個垃圾場。Google 搜尋結果中經常出現假的 AI 生成圖片混在真實內容中。在 Twitter 發文?你會收到販售色情內容的機器人回覆。但這只是顯而易見的部分。仔細看任何熱門推文的回覆,你會發現數十則 AI 撰寫的摘要,就像維基百科風格般愉快地重複原始貼文內容,全都只是為了收割互動率。
Instagram 上的 AI 模特兒累積了數十萬訂閱者,人們公開兜售創建這些帳號的服務。AI 音樂人充斥 YouTube 和 Spotify。科學論文也開始用 AI 生成。AI 圖片混入歷史研究中。更別提個人層面的影響:從現在開始,每一位公眾人物女性都必須面對可能有人製作她的 deepfake 色情內容的事實。這簡直瘋狂。
主流媒體也加入污染行列
That’s not hardball capitalism.
That’s polluting our culture for your own minor profit.
不只是單純的詐騙行為,許多人和機構都願意擁抱低品質的 AI 生成內容,試圖改變社會接受度的界線。這不是硬核資本主義,而是為了微薄利潤污染我們的文化。這在道德上不正當,就像為了競爭優勢而污染河流一樣不正當。然而知名媒體和 SEO 垃圾製造者一樣,基於相同理由擁抱生成式 AI。
《Futurism》的調查工作揭露《Sports Illustrated》被當場抓到使用假作者撰寫的 AI 生成文章。例如 Drew Ortiz 這個人根本不存在,那張臉是 AI 生成的肖像,之前還在某個網站上出售。正如《Futurism》描述的,Ortiz 不是唯一被《Sports Illustrated》發表的 AI 生成作者。這些頁面底部會有一張人物照片和假的描述,像是「John 住在德州休士頓,他喜歡院子遊戲和跟他的狗 Sam 玩耍」之類的內容。
這不是大家擔心的 AI 因為更優秀而取代人類,而是因為 AI 便宜太多而取代人類。《Sports Illustrated》用這些方法並沒有產出人類品質水準的內容,但仍然有利可圖。這些 AI 作者的寫作聽起來像外星人寫的,例如 Ortiz 的一篇文章警告說,排球「可能有點難入門,尤其是在沒有真正的球可以練習的情況下」。
兒童 YouTube 內容的地獄景象
生成式 AI 影響最深的是那些無法保護自己的人,因為他們甚至不知道 AI 是什麼。我們卻放任他們在污染的資訊洪流中游泳。不幸的是,這些人就是幼兒。
YouTube 兒童頻道正迅速變成合成內容的串流。現在大部分內容由呆板的數位角色組成,在沒有連貫性或目的的短片中互動。幼兒被迫坐著觀看這些廢料,因為沒人注意。幼兒本身無法辨別角色來來去去、情節不合理、一切都只是不連貫的夢境殘渣。標題與實際內容不符, 而標題可能是家長唯一會檢查的東西,因為他們成長的文化中,如果 YouTube 影片標示「嬰兒學習影片」並有百萬觀看次數,大概就沒問題 。現在,一些針對幼兒的荒謬 AI 生成影片有數千萬次觀看。
有個幕後影片展示單一頻道透過針對幼兒的 AI 生成「教育內容」賺了 120 萬美元。影片中說:「這些孩子看這類影片時,會一遍又一遍地重複觀看。」他們不是在懺悔,而是在炫耀。
有些頻道更糟。例如一個擁有 1170 萬訂閱者的「兒童教育」頻道明顯是 AI 生成的。他們使用不正確的英文,在快速瀏覽一些形狀(雖然以讓你感覺快要發瘋的方式)後,影片剩餘部分就淪為隨機生成的機械任務、詭異的互動、更多錯誤的文法,以及只為填充時間而毫無目的的詭異音樂插曲。這是外星心智的創造物。
下一個前沿是完全從頭到尾 AI 生成的幼兒音樂影片。結果?有著扭曲雙喙和四隻變異眼睛的噩夢鸚鵡,唱著來自異界的人造嚎叫。
全國各地有幼兒被放在 iPad 前,被迫接受合成廢料。用「反烏托邦」來形容再貼切不過。真正由人類生成的文化內容通常包含認知微量營養素(如連貫的情節和句子、複雜性),這些可能是人類心智實際需要的。我們正在進行這個實驗。史上第一次,發展中的大腦被餵食由生成式 AI 大量生產的零碎低級廉價合成數據,而不是被真正的人類文化滋養。沒人知道會有什麼影響,似乎也沒人在乎。
OpenAI 樂於容忍污染
為什麼特別責怪他們?首先因為他們的巨大影響力,例如大多數兒童影片都是用 ChatGPT 生成的腳本建構的。更廣泛地說,什麼 AI 能力被認為可以部署,長期以來一直是由 OpenAI 設定的標準。儘管他們聲稱重視安全,OpenAI 未能預見其創造物會徹底污染所有平台和服務的網路。
2019 年 GPT-2 發布時,他們在部落格上評估潛在負面結果時,關注的具體問題包括:生成誤導性新聞文章、在線冒充他人、自動化產生濫用或偽造內容發布到社群媒體、自動化產生垃圾郵件或釣魚內容等。這聽起來似乎與實際發生的情況一致,但進一步閱讀會發現,他們所謂的「偽造內容」主要指惡意行為者推廣錯誤資訊,或同樣的陰暗惡意行為者使用 AI 進行釣魚等。
這些與 AI 的文化污染相比只是小問題。OpenAI 一直在談論「行為者」,而他們應該談論的是「用戶」。因為事實證明,所有 AI 生成的內容都是假的!或者說都有點假。現在像不可阻擋的入侵物種般冒出的 AI 撰寫網站,不一定有意誤導,只是 AI 內容是花幾美分生成的低努力陳腔濫調,所以你可以進行 SEO 垃圾郵件和各種操縱搜尋的遊戲來吸引眼球和廣告收入。
也就是說,OpenAI 團隊沒有停下來思考,普通用戶只是在網路上生成大量 AI 生成內容,就會產生與惡意使用非常相似的負面效果。因為沒有明確區別!OpenAI 既真誠地擔心負面影響,同時又沒有預測到他們帶頭造成的網路「劣質化」,這應該讓我們極度擔心他們會繼續錯過日益智能模型的負面下游效應。
公地悲劇的現代版本
「公地悲劇」(tragedy of the commons)這個詞源於 20 世紀興起的環保主義,並促成許多讓城市免於煙霧、河流保持清潔的法規。生態學家和生物學家 Garrett Hardin 在 1968 年《科學》期刊的文章中創造了這個詞。
Hardin 指出,專業和半通俗科學期刊發表的討論中,有一個隱含且幾乎普遍的假設:所討論的問題都有技術解決方案。但他認為有些問題沒有技術解決方案,因為理性行為者會透過競爭將系統推向毀滅。
他用牧場的例子說明公地悲劇如何發生:設想一片對所有人開放的牧場。可以預期每個牧人都會試圖在公地上養盡可能多的牛。這種安排可能運作得相當好幾個世紀,因為部落戰爭、偷獵和疾病使人和獸的數量遠低於土地的承載能力。然而,最終會到來清算的日子。此時,公地的內在邏輯會無情地產生悲劇——每個人都想多養牛來獲利,但當所有人都這麼做時,牧場就會被過度使用而毀壞。
Hardin 的一個核心例子後來對環保運動產生了重要影響,那就是污染問題。他寫道:「公地悲劇在污染問題上重現。這裡的問題不是從公地拿走什麼,而是往裡面放什麼——將污水、化學廢料、放射性廢料和熱廢料排入水中;將有毒和危險的煙霧排入空氣;將令人分心和不愉快的廣告標誌放入視線範圍。效用計算與之前大致相同。理性的人發現,他排放到公地的廢物,自己承擔的成本份額,少於在釋放前淨化廢物的成本。既然這對每個人都是如此,我們就被鎖定在『污染自己巢穴』的系統中——只要我們都只作為獨立、理性、追求利益的個體行事。」
我們現在正在污染自己的巢穴。網路經濟依賴眼球和點擊,而 AI 讓任何人都能輕鬆生成無限低品質內容,成本接近零。就像當年每個牧人都想在公地多養牛一樣,現在每個內容創作者、每個網站經營者都想用 AI 生成大量內容來吸引流量、賺取廣告收入。對個人來說,用 AI 生成內容的成本遠低於創作高品質人類內容的成本,所以理性選擇就是用 AI。但當所有人都這麼做時,整個網路就被 AI 垃圾內容淹沒了。
正如 Hardin 指出的,解決方案不是技術性的。你無論如何都無法可靠地檢測 AI 輸出(這是 OpenAI 放棄的另一個最初承諾)。考慮到巨大的財務誘因,公司也不會自我監管。我們需要像當年制定《清潔空氣法》來對付工業污染一樣,現在需要一部《清潔網路法》來管制 AI 內容污染。我們不能只是坐視人類文化最終被 AI 生成的垃圾埋葬。
文章最後以諷刺的語氣作結: 幸運的是,我們正處於 AI 承諾所有令人難以置信、未來科技的前緣。很快我們就會治癒所有疾病、擁有機器人管家和全民基本收入。誰在乎幼兒必須觀看數十億小時的 AI 垃圾內容，來實現這個美好未來?這一切都是值得的,對吧?讓我們再等一會兒,烏托邦肯定會到來。