Компания Disney вступила в конфликт с одной из ведущих платформ генеративного искусственного интеллекта Character.AI, потребовав немедленно прекратить использование своих персонажей. Основной причиной, помимо нарушения авторских прав, стала возможность ведения с ботами неприемлемых, в том числе сексуализированных бесед. В документе сказано:
Чат-боты Character.ai, нарушающие наши права, в некоторых случаях используются для сексуальной эксплуатации и несут вред и опасность для детей. Это оскорбляет потребителей Disney и наносит огромный ущерб репутации и доброму имени компании.
Для Disney, чей бизнес тесно связан с доверием семейной аудитории, подобные риски являются абсолютно неприемлемыми. Возможность вести неподобающие беседы с такими персонажами, как Эльза из "Холодного сердца" или Человек-Паук, представляет собой прямую угрозу их многомиллиардному бренду.
Character.AI уже не первый раз сталкивается с обвинениями в недостаточной защите пользователей. Ранее платформа оказывалась в центре скандалов, связанных с тем, что ее алгоритмы подталкивали подростков к суицидальным мыслям. На данный момент Character.AI, судя по всему, пошла на уступки. Представитель компании заявил:
Правообладатели всегда вправе решать, как люди могут взаимодействовать с их интеллектуальной собственностью, и мы оперативно реагируем на запросы об удалении контента, о которых нам сообщают правообладатели. Эти персонажи были удалены.