Издатель инди-игр Finji обвинил TikTok в использовании генеративного ИИ для создания оскорбительных версий рекламы своей игры Usual June без разрешения студии. По словам генерального директора Ребекки Салтсман, алгоритмы платформы автоматически модифицировали официальную рекламу, превратив главную героиню в сексуализированный стереотипный образ, что вызвало гнев разработчиков и возмущение игрового сообщества.
Проблема вскрылась благодаря бдительности игроков: они начали оставлять тревожные комментарии под постами студии, заметив странную рекламу, которая транслировалась от имени Finji. Как оказалось, TikTok использовал функции "Smart Creative" и "Automate Creative", которые с помощью ИИ автоматически "улучшают" рекламные материалы для повышения их эффективности.
На полученных скриншотах видно, что произошло с обложкой игры: главная героиня Джун оказалась в бикини, с непропорционально большими бедрами и в высоких сапогах. Этот образ кардинально отличается от оригинального дизайна персонажа и, по мнению студии, является сексуализированным и опирается на вредные стереотипы. Сама Finji не имеет доступа к этим "улучшенным" версиям, не может их отслеживать или удалять.
Переписка с техподдержкой TikTok, которая длилась несколько недель, лишь усугубила ситуацию. Сначала в платформе отрицали использование ИИ, а когда получили неопровержимые доказательства, признали серьезность проблемы, но затем выдали формальную отписку об "эффективности рекламы". На возмущенный запрос студии, почему ее работу превратили в "сексуализированное сексистское изображение", TikTok ответил, что это "окончательное решение" службы поддержки.
Я просто в бешенстве. Это моя работа, работа моей команды, моя репутация и репутация моей компании, которую я выстраивала более десяти лет. Вместо извинений и пересмотра своих расистских и сексистских алгоритмов, мы получили полное безразличие, — заявила Ребекка Салтсман.
Единственным способом остановить распространение оскорбительной рекламы для студии стало полное завершение рекламных кампаний. TikTok от комментариев отказался.