跳转到内容

AI垃圾

维基百科，自由的百科全书
A statue of a man, waist up, submerged underwater and covered in bright orange shrimp. There is a halo of shrimp above his head.
A statue of a man floating high over the ocean. Aside from the head and some of his torso, he is made up of shrimp and ocean plants that blend and meld with each other.
A crustacean man underwater, with a stone head, neck, and hands. His body and arms are a sort of lobster-crab shell, and he has a dozen long crab legs sprouting from his sides.
大量由 AI 生成的“虾子耶稣”图像常被用作粗制滥造的典型例子[1][2][3]

AI垃圾(英语：AI slop，其中“slop”原指废弃液体) 是指由生成式人工智能技术大量产出的低品质内容，其含意类似于“垃圾邮件”。[4]其形式包含文字、图像、影片及内容农场网站等多个媒介。[4][5][6][1]

该词最早出现于2020年代，它被定义为“数位杂乱”(英语：digital clutter)[7] ，“由 AI 工具生成但着重于速度与数量而非内容与品质”[7] ，以及“在社群媒体、艺术、书籍甚至搜寻结果中粗制滥造和不受欢迎的人工智能内容”。[8]纽约市立大学哲学教授乔纳森·吉尔摩 (英语：Jonathan Gilmore) 描述 AI垃圾所呈现的“极其平凡、写实的风格”为“非常容易处理”[9]

术语起源

[编辑]

由于大型语言模型(LLM) 和图像扩散模型加速了大量低品质文字内容与图像的产出，人们开始讨论如何恰当地称呼此现象。提出的词汇包括“AI garbage”、“AI污染”(英语：AI pollution)以及“AI生成的渣滓”(英语：AI-generated dross)。 [6]最初使用“slop”这个词来形容劣质AI材料，显然是针对 2022年 AI 图像生成器问世而产生的反应[8]此外，有评论指出，该词在4chan 、Hacker News和YouTube的评论中已成为一种内部圈子俚语。[8]

英国计算机程序设计师西门·威利森（英语：Simon Willison）被认为是将“slop”这一词推向主流的早期倡导者之一，[1][8]他于2024年5月在他的个人博客中采用了该词。[10]但他表示，该词在他开始推广之前就已经使用了。[8]

2024年第二季度，该词随着Google使用其Gemini AI 模型生成的搜寻结果而人气提升，[8]到 2024年第四季度时，该词已广泛出现在媒体标题中。[1][4]

研究发现，使用 AI 垃圾来训练大型语言模型会导致模型崩溃（英语：Model collapse）：也就是说，在连续多次迭代中，模型输出的词汇、句法与语义多样性持续下降，这一现象在要求高度创造力的任务中尤为明显。[11]

社群媒体

[编辑]
A white man wearing military fatigues looks sad while sitting in a wheelchair holding a cardboard sign saying "Today's my birthday, please like." His right leg is wrapped in bandages and his wheelchair is in front of an American flag with missing stars.
一个旨在吸引美国观众的垃圾提示生成的图像，来自印地语：“美国退伍军人手持一块写着‘今天是我的生日，请点赞’的纸板标语，战斗中受伤的退伍军人，背后有美国国旗” [4]

人工智能生成的AI垃圾图像和影片在社交媒体上大量流传，部分原因在于这些内容能为Facebook和TikTok上的创作者带来收入。进而激励了来自发展中国家的使用者创作出迎合美国观众的图像，以获得更高的广告收入。[12][13][14]

记者杰森·科布勒（Jason Koebler）推测，部分内容之所以怪异，可能是因为创作者使用印地语、乌尔都语和越南语等提示语（这些语言在模型的训练数据中代表性不足），或者采用了不稳定的语音转文字技术，将原意翻译成英语而造成的。[12]

在接受《纽约杂志》采访时，一位来自肯亚的AI垃圾图像创作者描述了他如何向ChatGPT输入诸如“为我生成 10 个关于耶稣的图片提示，能在Facebook上带来高互动率。”(英语：WRITE ME 10 PROMPT picture OF JESUS WHICH WILLING BRING HIGH ENGAGEMENT ON FACEBOOK)这样的提示，然后再将这些生成的提示交由如Midjourney这类文字转图像的AI处理。[4]

政治

[编辑]
2025年2月26日，唐纳德·特朗普在社交媒体上发布的一段视频展示了他所构想的“特朗普加萨”，该视频将其描绘成一个拥有金色特朗普雕像、伊隆·马斯克随意挥金的度假村 [15]

2024年8月，《大西洋月刊》指出，AI垃圾内容正逐渐与美国右翼政治势力挂钩，这些势力利用这类内容在社交媒体上发布废文及愤怒诱饵（英语：Rage-baiting），该技术提供“廉价、快速、随需应变的内容原料”。[16]

在美国飓风海伦妮过后，共和党员散布了一张由人工智能生成的图片，该图片显示一名年轻女孩在洪水中抱着一只小狗，并借此指责总统乔·拜登未能妥善应对灾情。[17][3]即使有人如艾米·克雷默(Amy Kremer)，承认该图片并不真实，但仍在社群媒体上分享了该图片。[18][19]

2025年2月，美国总统川普在极右翼社群媒体平台Truth Social和Instagram上分享了一段由人工智能生成的影片，影片中展示了将加萨地带转变为豪华度假村的影像。视频中包含了“川普加萨终于来了！”及“唐纳德将来解放你们”等字句。这段低品质的由AI生成的影片被批评为支持对巴勒斯坦人进行种族清洗的宣传工具而引起争议。[20][21]

活动列表

[编辑]

2024 年威利的巧克力体验活动的宣传图被形容为“人工智能生成的垃圾内容”[22]，误导观众参加一个只有廉价装饰的仓库举办的活动。该活动的门票则透过Facebook广告进行推广，而广告中展示的是人工智能生成的图像，没有该场地的真实照片。[23]

2024年10月，有报导指出，由于聚合活动列表网站 MySpiritHalloween.com 使用了 AI 生成的内容，数千人因此在都柏林集结参加一场并不存在的万圣节游行[24][25]。该活动讯息在 TikTok 和 Instagram 上迅速走红[26]。尽管戈尔韦曾举办过类似的游行，而且都柏林在往年也曾举办过游行，但2024年都柏林并未举行游行[25]。一位分析师认为，该网站看似使用 AI 生成员工照片，很可能是利用人工智能“迅速且廉价地创造出内容以抓住机会”[27]。该网站所有者表示：“我们请ChatGPT帮忙撰写文章，但并不是完全由ChatGPT自己完成的。”过去，当场地联络该网站时，网站会删除不存在的活动，但在都柏林游行的情况下，该网站所有者表示“没有人反映这个活动不会发生”。当 MySpiritHalloween.com发现这个问题后，他们更新了页面，说明该游行已被“取消”。[28]

广告

[编辑]

2024年11月，可口可乐使用人工智能创作了三支广告片，作为其年度节日宣传活动的一部分。这些影片发布后，便立即遭到普通观众和艺术家的负面评价，[29]《神秘小镇大冒险》创作者、动画师亚历克斯·赫希（英语：Alex Hirsch）批评该公司未聘请人类艺术家来参与制作广告。[30]

针对外界的负面反应，可口可乐为其使用生成式人工智能的决定进行辩护，并表示：“可口可乐始终致力于在人工智能与人类创意的交汇点上，打造最高水准的作品。”[31]

在2025年3月，派拉蒙影业因在Instagram影片中使用AI编剧与旁白来宣传电影《无痛先生》而受到批评。[32]该广告采用了机器人般的AI语音，其风格类似于内容农场生产的低品质AI垃圾影片。A24也因2024年电影《帝国浩劫：美国内战》发布一系列AI生成的海报而遭受类似的批评。其中一张海报似乎描绘了一群士兵乘坐类似坦克的木筏准备向一只巨大的天鹅开火，这幅画面与电影内容毫无关联。[33]意大利式脑腐（英语：Italian brainrot）AI风潮被广泛采用于广告中，以更好地迎合年轻族群。[34]

同月，动视在Facebook和Instagram等平台上发布了多款虚构游戏的广告与海报，例如《吉他英雄》、《袋狼大进击：大乱斗》和《决胜时刻：僵尸捍卫者》，这些全都是利用生成式AI制作的，许多人将其称为AI垃圾。[35] 其目的是调查市场对这些游戏是否有兴趣，从而决定是否将其开发为真正的游戏。[36]

书籍

[编辑]

现今，许多线上书商与图书馆供应商会提供由AI撰写的书籍，而这些书籍并未经过图书馆员的筛选与整理。为图书馆提供电子书与可下载内容的数位媒体供应商Hoopla（英语：Hoopla）也包含由生成式 AI 创作的书籍，这些书籍不仅由虚构作者署名，品质也存疑，当不知情的读者借阅时，可能会为图书馆带来额外成本。[37]

电子游戏

[编辑]

2024年推出的电子游戏《决胜时刻：黑色行动6》包含由人工智能生成的游戏资源。自该游戏首次发布以来，许多玩家指控Treyarch与Raven Software利用人工智能来制作游戏内的资源，包括载入画面、徽章和称号卡。其中一个具体例子为，僵尸模式中的一个载入画面展示了“Necroclaus”，这是一个僵尸化的圣诞老人，其一只手有六根手指，该图像还存在其他不规则之处。[38]此外，《使命召唤》系列的前作也曾被指控贩售由人工智能生成的虚拟装饰品。[39]

2025年2月，动视为遵守维尔福在Steam平台上对AI生成或协助产品的政策，公开了《黑色行动6》中使用生成式人工智能的情况。动视在该游戏的Steam产品页上声明：“我们的团队使用生成性 AI 工具来协助开发部分游戏内资源。”[40]

参见

[编辑]

参考资料

[编辑]
  1. ^ 1.0 1.1 1.2 1.3 Hern, Alex; Milmo, Dan. Spam, junk … slop? The latest wave of AI behind the 'zombie internet'. The Guardian. 2024-05-19 [2024-09-28]. ISSN 0261-3077 （英国英语）. 
  2. ^ Notopoulos, Katie. Why doesn't Facebook just ban AI slop like Shrimp Jesus?. Business Insider. [4 October 2024]. 
  3. ^ 3.0 3.1 Field, Matthew. Why the internet is filling up with nonsense ‘AI slop’. The Telegraph. 1 January 2025 [3 January 2025]. 
  4. ^ 4.0 4.1 4.2 4.3 4.4 Read, Max. Drowning in Slop. Intelligencer. 2024-09-25 [2024-09-28] （英语）. 
  5. ^ 庄舒闵. 什麼是AI Slop？寫作平台Medium「AI廢文逼近40%」：它們該如何數位淨灘？. 数位时代. 2025-03-02 [2025-03-12] （中文（台湾））. 
  6. ^ 6.0 6.1 How Long Will A.I.'s 'Slop' Era Last?. The New York Times. July 24, 2024. 
  7. ^ 7.0 7.1 Hughes, Johnny. How Businesses Can Avoid AI Slop. Entrepreneur. 2024-09-03 [2024-09-28] （英语）. 
  8. ^ 8.0 8.1 8.2 8.3 8.4 8.5 First Came 'Spam.' Now, With A.I., We've Got 'Slop'. The New York Times. June 11, 2024. 
  9. ^ The deluge of bonkers AI art is literally surreal. Washington Post. 2024-06-30 [2024-09-29] （英语）. 
  10. ^ Slop is the new name for unwanted AI-generated content. simonwillison.net. [2024-10-04] （英国英语）. 
  11. ^ Guo, Yanzhu; Shang, Guokan. The Curious Decline of Linguistic Diversity: Training Language Models on Synthetic Text. 2024-04-16. arXiv:2311.09807 可免费查阅 [cs.CL]. 
  12. ^ 12.0 12.1 Koebler, Jason. Where Facebook's AI Slop Comes From. 404 Media. 2024-08-06 [2024-09-29] （英语）. 
  13. ^ Tang, Jiaru; Wikström, Patrik. 'Side job, self-employed, high-paid': behind the AI slop flooding TikTok and Facebook. The Conversation. 2024-09-19 [2024-09-29] （美国英语）. 
  14. ^ Gault, Matthew. Facebook's Twisted Incentives Created Its AI Slop Era. Gizmodo. 2024-08-07 [2024-09-29] （美国英语）. 
  15. ^ Holmes, Oliver; Owen, Paul. Trump faces Truth Social backlash over AI video of Gaza with topless Netanyahu and bearded bellydancers. The Guardian. 2025-02-26 [2025-02-26]. ISSN 0261-3077 （英国英语）. 
  16. ^ Warzel, Charlie. The MAGA Aesthetic Is AI Slop. The Atlantic. 2024-08-21 [2024-09-29] （英语）. 
  17. ^ Gullible Trump Cronies Losing Their Minds Over Fake AI Slop on Twitter. Yahoo News. 2024-10-04 [2024-10-06] （美国英语）. 
  18. ^ Koebler, Jason. Hurricane Helene and the 'Fuck It' Era of AI-Generated Slop. 404 Media. October 8, 2024 [October 15, 2024]. 
  19. ^ Warzel, Charlie. I'M RUNNING OUT OF WAYS TO EXPLAIN HOW BAD THIS IS. The Atlantic. October 10, 2024 [October 15, 2024]. 
  20. ^ Hall, Richard. Trump shares AI video of him relaxing in Gaza. It’s a nightmare look inside his mind. The Independent. 27 February 2025 [2 March 2025] （英语）. 
  21. ^ Lanard, Noah. Trump posts AI video of ethnically cleansed Gaza. Mother Jones. [2 March 2025]. 
  22. ^ Currie, Richard. Willy Wonka event leaves bitter taste with artificially sweetened promises. The Register. 2024-02-28 [2024-11-04]. 
  23. ^ Murphy, Chris. "Willy's Chocolate Experience" Nightmare: What Went Wrong?. Vanity Fair. 2024-02-29 [2024-11-04]. 
  24. ^ Davis, Barney. Chaos in Dublin as thousands turn up for AI 'hoax' Halloween parade that didn't exist. The Independent. 2024-11-01 [2024-11-01] （英语）. 
  25. ^ 25.0 25.1 All Trick, No Treat: Dublin Crowds Turn Up for Halloween Parade That Wasn't. The New York Times. 2024-11-01. 
  26. ^ Fleck, Holly. Dublin: Halloween parade listing 'mistake' says website owner. BBC News. 2 November 2024 [2024-11-14]. 
  27. ^ O'Shea, Kerry. All trick no treat - "Hoax" Halloween parade draws big crowds to Dublin's O'Connell St. IrishCentral.com. 2024-10-31 [2024-11-01] （英语）. 
  28. ^ Knibbs, Kate. The Guy Behind the Fake AI Halloween Parade Listing Says You've Got It All Wrong. Wired. [2024-11-03]. ISSN 1059-1028 （美国英语）. 
  29. ^ Stedman, Alex. Coca-Cola's New AI-Generated Holiday Ad Slammed as 'Soulless' and 'Embarrassing': 'This Is Such Slop'. IGN. 2024-11-16 [2025-01-05] （英语）. 
  30. ^ Coca-Cola causes controversy with AI-generated ad. NBC News. 2024-11-18 [2025-01-05] （英语）. 
  31. ^ Vadukul, Alex. Coca-Cola’s Holiday Ads Trade the ‘Real Thing’ for Generative A.I.. The New York Times. 2024-11-20 [2025-01-05]. ISSN 0362-4331 （美国英语）. 
  32. ^ Paramount skips voice actors, opting for shockingly bad AI slop in 'Novocaine' film promo. TweakTown. 2025-03-10 [2025-03-24] （美国英语）. 
  33. ^ Maker, Paul. AI slop: what Labour, Spotify and Coca-Cola can teach us in 2025. Raconteur. 2025-01-09 [2025-03-24] （英国英语）. 
  34. ^ Why Brands Are Embracing 'Italian Brainrot' to Go Viral on TikTok and Win Over Gen Z. News 10 ABC. 15 April 2025. 
  35. ^ Editor-in-Chief, Tom Phillips. Activision accused of "AI slop" yet again, this time for new Guitar Hero. Eurogamer.net. 2025-03-03 [2025-03-27] （英语）. 
  36. ^ Editor-in-Chief, Tom Phillips. Activision "AI slop" Guitar Hero advert is market research for a fake game that doesn't exist and maybe never will. Eurogamer.net. 2025-03-04 [2025-03-27] （英语）. 
  37. ^ Maiberg, Emanuel. AI-Generated Slop Is Already In Your Public Library. 404 Media. 2025-02-04 [2025-02-06] （英语）. 
  38. ^ Yin-Poole, Wesley. Call of Duty Fans Give Black Ops 6's Zombie Santa Loading Screen the Finger Amid 'AI Slop' Backlash. IGN. 2024-12-09 [2025-02-26] （英语）. 
  39. ^ Yin-Poole, Wesley. Activision Reportedly Sold an AI-Generated Call of Duty: Modern Warfare 3 Cosmetic. IGN. 2024-07-24 [2025-02-26] （英语）. 
  40. ^ Call Of Duty Discloses AI Slop After Months Of Players Complaining. Kotaku. 2025-02-25 [2025-02-26] （英语）. 

外部链接

[编辑]
检索自“https://zh.wikipedia.org/w/index.php?title=AI垃圾&oldid=87161522”