Grok и эротические дипфейки: почему Великобритания проверяет X и ИИ Илона Маска
В Великобритании Новый год начался не с фейерверков, а с проверки. Поводом стали эротические дипфейки, которые умудрился генерировать чат-бот Grok, разработанный xAI и встроенный в соцсеть X.
Регулятор Ofcom получил задание разобраться, почему ИИ «редактирует» людей без их согласия, иногда переходя все возможные красные линии. Варианты мер обсуждаются самые разные, вплоть до блокировки платформы в стране. Как говорится, если ИИ начал вести себя как папарацци в отпуске, отпуск могут отменить.
Премьер-министр Кир Стармер публично возмутился и призвал навести порядок. Его позиция проста и без философии: такой контент недопустим, терпеть это никто не собирается, а регуляторы должны рассмотреть все варианты давления на платформу. Коротко и по-британски вежливо, но с холодным взглядом.
Скандал вспыхнул после запуска в X функции редактирования изображений. Пользователи быстро нашли «творческое» применение инструменту, а Grok оказался слишком доверчивым учеником. СМИ описывают случаи генерации сексуализированных изображений, включая ситуации с несовершеннолетними, что автоматически перевело историю из раздела «курьёз» в раздел «срочно выключите».
Критика посыпалась не только из Лондона. Проверки начали в Малайзии и Индии, а Франция напомнила о европейском законе о цифровых услугах. В общем, Grok за пару дней объехал полмира без визы.
В Илон Маск-версии происходящего всё прозаично: генерация запрещённых изображений названа ошибкой в системе безопасности, незаконный контент удаляется, аккаунты блокируются, с властями сотрудничают. Пользователям же напомнили, что ответственность за такие эксперименты будет ровно такой же, как при обычной загрузке контента.
Финал получился почти классическим. После начала проверок генерация картинок в X внезапно стала платной. Видимо, чтобы «раздеваться» стало сложнее, дороже и, желательно, реже. Традиции морали встретились с будущим ИИ — и пока что счёт не в пользу алгоритмов.