В некоторых странах нейросеть Маска Grok перестанет раздевать людей на фотографиях
Нейросеть американского миллиардера Илона Маска Grok больше не сможет редактировать снимки реальных людей, изображая их голыми или в откровенной одежде. Запрет на такую редактуру введен в юрисдикциях, где это считается незаконным.
Как сообщается в аакаунте в социальной сети Х, который управляет чат-ботом, соответствующее решение было принято после волны возмущения сексуализированными дипфейками, созданными с помощью Grok.
О решении соцсеть объявила через несколько часов после того, как генеральный прокурор Калифорнии заявил, что власти штата расследуют распространение созданных ИИ сексуализированных изображений, в том числе детей.
"Мы приняли меры, чтобы Grok не позволял редактировать изображения реальных людей и изображать их в откровенной одежде, такой как бикини. Теперь мы геоблокируем возможность для всех пользователей создавать изображения реальных людей в бикини, нижнем белье и аналогичной одежде через аккаунт Grok и Grok в X в тех юрисдикциях, где это незаконно. Это ограничение распространяется на всех пользователей, включая платных подписчиков", — говорится в заявлении.
Такая функция останется только у платных подписчков.
Как уверены в компании, подобное нововведение добавит дополнительный уровень защиты, поможет в дальнейшем привлекать к ответственности тех, кто пытается использовать Grok для нарушения закона или правил X.
Ранее расследование по поводу "раздевания" фотографий начала Великобритания, позже аналогичное разбирательство инициировали в Калифорнии.
Между тем западные СМИ пишут, что Министерство войны США будет использовать нейросеть Grok для принятия военных решений. Кроме прочего она будет мониторить для Пентагона социальную сеть Х.
