Спустя месяц после дропа нового инструмента для генерации ИИ-людей в TikTok, в CNN случайно обнаружили ошибку в модерации выпущенных видео. Из-за косяка разработчиков пользователи смогли озвучивать речи Гитлера и Бен Ладена, а также давать людям советы пить отбеливатель от имени врачей.
«Техническая ошибка, которую мы уже устранили, позволила критически малому количеству пользователей создавать контент, используя внутреннюю тестовую версию инструмента в течение нескольких дней. Если бы CNN попробовал загрузить вредоносный контент, его бы запретили из-за нарушение политики платформы», — прокомментировал ситуацию представитель TikTok.
Однако на деле журналист агентства Джон Сарлин смог беспрепятственно загрузить неотслеживаемые и немаркированные видео, в том числе и ролик с чтением отрывков из «Майн Кампфа» Гитлера.
Изначально новый инструмент для генерации видео с людьми — Symphony Digital Avatars — был предназначен только для рекламных аккаунтов, но почему-то стал доступен для всех пользователей.
Фичу быстро свернули после публикации обвинений в некачественной модерации. При этом вопрос маркировки контента, созданного искусственным интеллектом, так и остался открытым.
ИИ-инструменты все прочнее входят в обиход пользователей, поднимая все больше этических вопросов. Так, в начале июня Илон Маск озаботился проблемой утечки данных из-за встраивания ChatGPT в новую версию iOS. А российские СМИ испугались падения объемов трафика на сайтах из-за запуска сервиса Яндекса — Нейро.
