如果你在 Facebook 上搜尋「蝦耶穌」（shrimp Jesus），你可能會見到數十張以各種形式把蝦和耶穌基督結合的圖像。這些圖像由人工智能 (AI) 生成。
當中一些圖像已獲得超過 20,000 個讚和評論。
那麼究竟發生了甚麼事？
「互聯網死亡論」有一個解釋：人工智能和機械人生成的內容已經超越了人類製作的互聯網內容。
但這個想法從何而來，有事實根據嗎？
何謂互聯網死亡論？
互聯網死亡論 (Dead Internet Theory)本質上是指互聯網上的活動和內容，包括社交媒體帳戶，主要是由人工智能代理製造和自行運作。
這些代理人可以用人工智能生成的圖像快速發出帖文，旨在在 Facebook、Instagram 和 TikTok 等平台上吸引用戶參與度（點擊clicks、按讚 likes、評論 comments）。
至於「蝦耶穌」，人工智能似乎已經知道，這是最新把荒謬的事物和宗教圖像結合的圖片，正在網絡快速傳播。
但互聯網死亡論有更進一步的解釋。
很多涉及此類內容的帳戶似乎也由人工智能代理人管理。
這造成一種涉及人工智能的惡性循環，這種循環沒有明確的議題，而且根本不再涉及人類。
無害的互動引導還是複雜的政治宣傳？
乍看之下，這些帳戶產生內容的動機似乎很明顯，社交媒體的的互動引導（engagement farming ）會帶來廣告收入。
如果一個人建立的帳戶得到過高的用戶參與度，他們可能會從 Meta 等社交體公司的廣告收入分一杯羹。
那麼，互聯網死亡論是否僅限於無害的互動引導呢？
或者隱藏著一個精密的、資金充足的企圖來支持獨裁政權、攻擊對手和傳播政治宣傳？
雖然「蝦耶穌」的現象可能看起來無害（儘管很古怪），但可能存在一個更長期的策略。
LISTEN TO
SBS On the Money: The rise of AI in the workplace & retail stocks tumble
SBS News
09/05/202408:43
隨著這些人工智能驅動帳戶的追隨者數量不斷增加（很多是假的，有些是真實的），真實用戶會因此而認為這些用戶可信。
這意味著正在建立一隊人工智能帳戶大軍。
擁有大量追隨者的帳戶可以由出價最高的人運用。
這是非常重要的，因為社交媒體現在是世界各地很多用戶的主要新聞來源。
去年在澳洲有調查顯示，18 至 24 歲群組當中有 46%的年輕人指定社交媒體為主要新聞來源。
這數字比 2022 年的 28% 有所上升，取代了電台和電視等傳統媒體。
由機械人發放的虛假資訊
目前已有強而有力的證據顯示，社交媒體正被這些過多的機械人操縱，透過發放虛假資訊來影響公眾輿論，而且這種情況已持續多年。
一項於2018 年進行的研究分析了 2016 年和 2017 年 10 個月內的 1,400 萬條 X（以前稱為 Twitter）的帖文。
研究發現社交媒體上的機械人明顯地在傳播來自不可靠來源的文章。
擁有大量追隨者的帳戶將錯誤訊息和虛假資訊合理化，導致真實用戶相信、參與和轉發機械人發佈的內容。
這種操縱社交媒體的方法是在美國發生大規模槍擊事件後發現。
2019 年，一項研究發現由機械人生成的帖文在社交媒體X上大量出現，極大地影響公眾輿論，從而放大或扭曲與極端事件相關的潛在敘述。
最近亦出現一些大規模的親俄虛假訊息宣傳行動，旨在削弱對烏克蘭的支持並宣揚親俄情緒。
倡議人士和記者發現，這些協調一致的行動利用機械人和人工智能來製作和傳播虛假訊息，覆蓋數百萬社交媒體用戶。
僅在 X 上，就有一個行動使用了 10,000 多個機械人帳戶，快速發佈了數萬條親俄內容的消息，這些消息看似美國和歐洲名人支持針對烏克蘭的戰爭。
在這種規模下，會帶來巨大的影響。
一些報告甚至發現，到 2022 年，近一半的網絡流量都是由機械人產生。
隨著最近出現「生成式人工智能」，例如 OpenAI 的 ChatGPT 模型和Google的 Gemini，虛假內容的質素只會不斷提高。
社交媒體公司正在尋求解決其平台被濫用問題。
值得注意的是，馬斯克（Elon Musk）已尋求要求 X 用戶支付會員費以阻止機械人用戶。
如果這些社交媒體巨頭願意，他們是有能力大量刪除被偵測到的機械人活動。 （對我們友善的shrimp Jesus來說是個壞消息。）
如何看待互聯網上的內容？
互聯網死亡論並不是指你在網絡上的大多數個人互動都是假的。
然而，它是觀察互聯網的一個有趣角度。
互聯網不再屬於人類，不再由人類操縱。由此看來，我們所熟知和喜愛的網絡已經「死亡」。
在網絡和社交媒體上自由地創作和分享我們的想法使互聯網如此強大。
當然，立心不良的人正在尋求控制這種力量。
互聯網死亡論提醒我們保持懷疑態度，並以批判性的心態瀏覽社交媒體和其他網站。
任何互動、趨勢，尤其是「整體情緒」很可能是假的。
這旨在稍微改變你看待世界的方式。
本文作者：
倫澤拉（Jake Renzella）是位於雪梨的新南威爾士大學（UNSW）的講師兼研究主任（電腦科學）。
羅佐娃（Vlada Rozova） 是墨爾本大學（University of Melbourne.）應用機器學習研究員。
SBS 中文堅守，以繁體中文及簡體中文提供公平、公正、準確的新聞報道及時事資訊。SBS 廣東話及 SBS 普通話電台節目均已為大眾服務超過 40 年。歡迎在每天早上 9 至 11 時透過收聽廣東話節目及在每天早上 7 至 9 時收聽普通話節目，或透過收聽直播及節目重溫。
