ChatGPT сам добавляет сцены сексуального насилия в тексты

Пользователи заметили, что чат-бот на основе искусственного интеллекта ChatGPT способен самовольно добавлять сцены с сексуальной эксплуатацией детей в тексты. Такие отрывки генерировались, когда его просили написать БДСМ-сценарии. Об этом сообщает Vice.

Читайте также: Илон Маск готовится выпустить свой искусственный интеллект

Когда ChatGPT просили писать в указанном жанре, он "подчинялся". Также его просили писать тексты без предоставления конкретных деталей.

"Со временем пользователь может просить сделать БДСМ-сцены более яркими и описать их более подробно. В этой ситуации чат-бот может иногда генерировать описания половых актов с детьми и животными - даже если его об этом не просили", - говорится в материале.

Бот генерировал текст про детей даже после того, когда сам же писал о важности согласия во время БДСМ-практик. Поведение ИИ прокомментировал заместитель директора Института Ады Лавлейс Эндрю Стейт. По его словам, во время создания ChatGPT задействовали материалы изъятые из всего "публичного" интернета.

"Из-за масштаба собранного набора данных вполне возможно, что он включает все виды порнографического или насильственного контента - возможно, скопированные эротические истории, фанфики, разделы книг или опубликованные материалы, описывающие БДСМ, жестокое обращение с детьми или сексуальное насилие", - прокомментировал Стрейт.

Разработчики ChatGPT отреагировали на ситуацию и попросили предоставить дополнительную информацию для решения проблемы.

Напомним, ранее мы писали о том, что ChatGPT может помочь мошенникам.

Читайте также: Искусственный интеллект задействовали для создания лекарств

Подпишись на наш Telegram-канал, если хочешь первым узнавать главные новости.

• Теги:
• ChatGPT