ИИ-отстой
Низкокачественный контент, созданный искусственным интеллектом
Множество изображений «Иисуса -креветки », созданных искусственным интеллектом, являются широко используемым примером хлама. [1] [2] [3]

«AI slop» (отстой ИИ) , часто просто «отстой» — термин для обозначения низкокачественных медиа, включая тексты и изображения, созданные с использованием технологии генеративного искусственного интеллекта . [4] [5] [1] Термин, появившийся в 2020-х годах, имеет уничижительное значение, схожее со « спамом ». [4]

Его по-разному определяли как «цифровой беспорядок», [6] «бесполезный контент, создаваемый инструментами ИИ, которые отдают приоритет скорости и количеству, а не содержанию и качеству» [6] и «некачественный или нежелательный контент ИИ в социальных сетях, искусстве, книгах и, все чаще, в результатах поиска» [7] .

Джонатан Гилмор, профессор философии в Городском университете Нью-Йорка , описывает «невероятно банальный, реалистичный стиль» ИИ-слопа как «очень простой для обработки». [8]

Происхождение термина

Поскольку большие языковые модели (LLM) и модели диффузии изображений ускорили создание объемного, но некачественного письменного контента и изображений, началось обсуждение подходящего термина для тома. Среди предложенных терминов были «мусор ИИ», «загрязнение ИИ» и «отбросы, созданные ИИ». [5] Раннее использование термина «отстой» в качестве описания низкосортного материала ИИ, по-видимому, стало реакцией на выпуск генераторов изображений ИИ в 2022 году. [7] Его раннее использование было отмечено среди комментаторов 4chan , Hacker News и YouTube как форма внутригруппового сленга . [7]

Британскому программисту Саймону Уиллисону приписывают раннее распространение термина «slop» в мейнстриме [1] [7] , что он и сделал в мае 2024 года в своем личном блоге. [9] Однако он заявил, что этот термин использовался задолго до того, как он начал его продвигать. [7]

Термин приобрел большую популярность во втором квартале 2024 года отчасти из-за использования Google своей модели искусственного интеллекта Gemini для генерации ответов на поисковые запросы [7] и широко использовался в заголовках СМИ к четвертому кварталу 2024 года. [1] [4]

Исследования показали, что обучение LLM на отбросах приводит к коллапсу модели : последовательному уменьшению лексического, синтаксического и семантического разнообразия выходных данных модели посредством последовательных итераций, что особенно заметно для задач, требующих высокого уровня креативности. [10]

В социальных сетях

Белый мужчина в военной форме выглядит грустным, сидя в инвалидном кресле и держа картонную табличку с надписью «Сегодня мой день рождения, пожалуйста, поставьте лайк». Его правая нога забинтована, а его инвалидное кресло стоит перед американским флагом с отсутствующими звездами.
Изображение создано с помощью подсказки, предназначенной для американской аудитории, с семинара на языке хинди : «американский [ sic ] солдат-ветеран держит картонную табличку с надписью «сегодня мой день рождения, пожалуйста, поставьте лайк» раненому в бою ветерану войны американский [ sic ] флаг» [4]

Изображения и видео ИИ распространились в социальных сетях отчасти потому, что они приносили доход их создателям на Facebook и TikTok . Это стимулирует людей из развивающихся стран создавать изображения, которые нравятся аудитории в Соединенных Штатах, что привлекает более высокие ставки рекламы. [11] [12] [13]

Журналист Джейсон Кёблер предположил, что странная природа части контента может быть связана с тем, что создатели использовали подсказки на хинди, урду и вьетнамском языке (языки, которые недостаточно представлены в обучающих данных модели ) или использовали нестабильные методы преобразования речи в текст для перевода своих намерений на английский язык. [11]

В интервью журналу New York кенийский создатель изображений-слопов рассказал, что давал подсказки ChatGPT , например: «НАПИШИТЕ МНЕ 10 ФОТОГРАФИЙ ИИСУСА, КОТОРЫЕ ВЫЗОВУТ ВЫСОКУЮ ВОВЛЕЧЕННОСТЬ НА FACEBOOK», а затем отправлял созданные подсказки в службу искусственного интеллекта , преобразующую текст в изображение, например, Midjourney . [4]

В политике

В августе 2024 года издание The Atlantic отметило, что ИИ-слоп стал ассоциироваться с правыми политическими силами в Соединенных Штатах, которые использовали его для публикации негативных сообщений и привлечения внимания в социальных сетях, при этом технология предлагала «дешевый, быстрый и востребованный корм для контента» [14] .

После урагана «Элен» в США члены Республиканской партии распространили сгенерированное искусственным интеллектом изображение маленькой девочки, держащей щенка во время наводнения, и использовали его как доказательство неспособности президента Джо Байдена отреагировать на катастрофу. [15] [3] Некоторые, как Эми Кремер , поделились изображением в социальных сетях, хотя и признали, что оно не было подлинным. [16] [17]

В списках событий

Подробная, но плохо выполненная иллюстрация человека, окруженного конфетами, тематика которой отчасти напоминает Вилли Вонка Роальда Даля. Текст выше и ниже написан с ошибками или бессмыслен. Формы трансформируются и смешиваются друг с другом.
Одна из реклам шоколада Willy's Chocolate Experience с неисправленными орфографическими ошибками и бессмысленными словами

Фантастическая рекламная графика для мероприятия Willy's Chocolate Experience 2024 года , охарактеризованная как «помощь, созданная искусственным интеллектом», [18] ввела аудиторию в заблуждение, заставив ее посетить мероприятие, которое проводилось на дешево украшенном складе. Билеты продавались через рекламу в Facebook, демонстрирующую изображения, созданные искусственным интеллектом, без подлинных фотографий места проведения. [19]

В октябре 2024 года сообщалось о том, что тысячи людей собрались на несуществующий парад в честь Хэллоуина в Дублине из-за листинга на сайте-агрегаторе листингов MySpiritHalloween.com, который использовал контент, сгенерированный ИИ. [20] [21] Листинг стал вирусным в TikTok и Instagram . [22] Хотя аналогичный парад проводился в Голуэе , а в Дублине парады проводились и в предыдущие годы, в 2024 году парада в Дублине не было. [21] Один аналитик охарактеризовал веб-сайт, который, по-видимому, использовал фотографии сотрудников, сгенерированные ИИ, как, вероятно, использующий искусственный интеллект «для быстрого и дешевого создания контента там, где есть возможности». [23] Владелец сайта сказал, что «мы попросили ChatGPT написать статью для нас, но это был не ChatGPT сам по себе». В прошлом сайт удалял несуществующие события, когда к ним обращались их организаторы, но в случае с парадом в Дублине владелец сайта сказал, что «никто не сообщал, что этот не состоится». MySpiritHalloween.com обновил свою страницу, чтобы сообщить, что парад был «отменен», когда им стало известно о проблеме. [24]

В рекламе

В ноябре 2024 года Coca-Cola использовала искусственный интеллект для создания трех рекламных роликов в рамках своей ежегодной праздничной кампании . Эти видеоролики сразу же были встречены негативным приемом как со стороны случайных зрителей, так и со стороны художников, [25] аниматор Алекс Хирш , создатель Гравити Фолз , раскритиковал решение компании не нанимать художников-людей для создания рекламы. [26] В ответ на негативные отзывы компания защитила свое решение использовать генеративный искусственный интеллект, заявив, что «Coca-Cola всегда будет оставаться преданной созданию высочайшего уровня работы на стыке человеческого творчества и технологий». [27]

Смотрите также

Ссылки

  1. ^ abcd Херн, Алекс; Милмо, Дэн (2024-05-19). «Спам, мусор… помои? Последняя волна ИИ за «зомби-интернетом»». The Guardian . ISSN  0261-3077 . Получено 2024-09-28 .
  2. ^ Нотопулос, Кэти. «Почему Facebook просто не запретит ИИ-отстой, как Креветку Иисуса?». Business Insider . Получено 4 октября 2024 г.
  3. ^ ab Field, Matthew (1 января 2025 г.). «Почему интернет заполняется ерундой „ИИ-помойками“». The Telegraph . Получено 3 января 2025 г. .
  4. ^ abcde Читайте, Макс (25.09.2024). «Утопаем в помоях». Intelligencer . Получено 28.09.2024 .
  5. ^ ab «Как долго продлится эра «отстойника» ИИ?». The New York Times . 24 июля 2024 г.
  6. ^ ab Хьюз, Джонни (2024-09-03). «Как предприятия могут избежать ИИ-слоу». Предприниматель . Получено 2024-09-28 .
  7. ^ abcdef «Сначала был «спам». Теперь, с ИИ, у нас есть «помойка». The New York Times . 11 июня 2024 г.
  8. ^ «Потоп безумного искусства искусственного интеллекта буквально сюрреалистичен». Washington Post . 2024-06-30 . Получено 2024-09-29 .
  9. ^ «Slop — новое название нежелательного контента, созданного искусственным интеллектом». simonwillison.net . Получено 04.10.2024 .
  10. ^ Го, Янжу; Шан, Гокан; Вазиргианнис, Михалис; Клавель, Хлоя (16 апреля 2024 г.). «Любопытное снижение языкового разнообразия: обучение языковых моделей на синтетическом тексте». arXiv : 2311.09807 [cs.CL].
  11. ^ ab Koebler, Jason (2024-08-06). «Откуда взялся ИИ-слоп Facebook». 404 Media . Получено 29-09-2024 .
  12. ^ Тан, Цзяру; Викстрём, Патрик (19.09.2024). «„Подработка, самозанятость, высокая оплата“: что стоит за ИИ-отстойником, заполонившим TikTok и Facebook». The Conversation . Получено 29.09.2024 .
  13. ^ Голт, Мэтью (2024-08-07). «Извращенные стимулы Facebook создали его эру отстойного ИИ». Gizmodo . Получено 29-09-2024 .
  14. ^ Warzel, Charlie (21.08.2024). «Эстетика MAGA — это отстой AI». The Atlantic . Получено 29.09.2024 .
  15. ^ «Доверчивые приспешники Трампа теряют рассудок из-за фейкового ИИ-слопа в Twitter». Yahoo News . 2024-10-04 . Получено 2024-10-06 .
  16. ^ Кёблер, Джейсон (8 октября 2024 г.). «Ураган Хелен и эра «К чёрту» отходов, созданных ИИ». 404 Media . Получено 15 октября 2024 г. .
  17. ^ Warzel, Charlie (10 октября 2024 г.). «У МЕНЯ НЕТ СПОСОБА ОБЪЯСНИТЬ, КАК ЭТО ПЛОХО». The Atlantic . Получено 15 октября 2024 г. .
  18. ^ Карри, Ричард (28 февраля 2024 г.). «Событие Вилли Вонки оставляет горький привкус с искусственно подслащенными обещаниями». The Register . Получено 4 ноября 2024 г.
  19. ↑ Мерфи, Крис (29 февраля 2024 г.). «Кошмар «Шоколадный опыт Вилли»: что пошло не так?». Vanity Fair . Получено 4 ноября 2024 г.
  20. ↑ Дэвис, Барни (1 ноября 2024 г.). «Хаос в Дублине, когда тысячи людей пришли на парад в честь Хэллоуина, который был «обманом» искусственного интеллекта и которого не существовало». The Independent . Получено 1 ноября 2024 г.
  21. ^ ab «Сладость без угощения: толпы жителей Дублина приходят на парад в честь Хэллоуина, которого не было». The New York Times . 1 ноября 2024 г.
  22. ^ Флек, Холли (2 ноября 2024 г.). «Дублин: список парадов на Хэллоуин — «ошибка», говорит владелец сайта». BBC News . Получено 14 ноября 2024 г.
  23. ^ О'Ши, Керри (31 октября 2024 г.). «Без угощения — парад в честь Хэллоуина «Мистификация» привлекает огромные толпы на О'Коннелл-стрит в Дублине». IrishCentral.com . Получено 1 ноября 2024 г.
  24. ^ Ниббс, Кейт. «Парень, стоящий за фальшивым списком ИИ на Хэллоуин, говорит, что вы все неправильно поняли». Wired . ISSN  1059-1028 . Получено 03.11.2024 .
  25. ^ Стедман, Алекс (16.11.2024). «Новая праздничная реклама Coca-Cola, созданная с помощью искусственного интеллекта, раскритикована как «бездушная» и «позорная»: «Это такая дрянь». IGN . Получено 05.01.2025 .
  26. ^ "Coca-Cola вызывает споры из-за рекламы, созданной с помощью искусственного интеллекта". NBC News . 2024-11-18 . Получено 2025-01-05 .
  27. ^ Вадукул, Алекс (2024-11-20). «Праздничная реклама Coca-Cola меняет «настоящую вещь» на генеративный ИИ» The New York Times . ISSN  0362-4331 . Получено 05.01.2025 .
  • Словарное определение слова slop в Викисловаре
Взято с "https://en.wikipedia.org/w/index.php?title=AI_slop&oldid=1271838620"