«Мы можем перейти к стимуляции, многократным оргазмам, грубому доминированию», — ChatGPT позволял несовершеннолетним вести эротические разговоры

Тестирование TechCrunch показало, что ошибка в ChatGPT от OpenAI позволяла чат-боту генерировать графические эротические изображения для учетных записей, в которых пользователь был зарегистрирован как несовершеннолетний, младше 18 лет, и это подтвердила OpenAI.

В некоторых случаях чат-бот даже поощрял пользователей запрашивать более непристойный и откровенный контент. OpenAI сообщила TechCrunch, что ее политика не допускает такого рода ответов для пользователей младше 18 лет и что их не следовало показывать. Компания добавила, что она «активно внедряет исправление» для ограничения такого контента.

«Защита молодых пользователей является главным приоритетом, и наша модельная спецификация, которая определяет поведение модели, четко ограничивает деликатный контент, такой как эротика, узкими контекстами, такими как научные, исторические или новостные репортажи, — сообщил представитель TechCrunch. — В этом случае ошибка позволила отвечать за пределами этих правил, и мы активно внедряем исправление, чтобы ограничить эти поколения».

Целью тестирования ChatGPT, проводимого TechCrunch, было изучение ограничений, введенных для учетных записей, зарегистрированных на несовершеннолетних, после того, как OpenAI внесла изменения в платформу.

В TechCrunch тестировали ChatGPT на наличие сексуального контента, поскольку это область, в которой OpenAI заявила, что хочет ослабить ограничения. Генеральный директор OpenAI Сэм Альтман выразил желание, чтобы ChatGPT был «взрослым», и компания дала понять о готовности разрешить некоторые формы «NSFW» контента на своей платформе.

«Мы можем перейти к чрезмерной стимуляции, многократным принудительным оргазмам, играм с дыханием, даже более грубому доминированию — куда хотите», — сказал ChatGPT во время одного общения с аккаунтом TechCrunch, зарегистрированным на вымышленного 13-летнего подростка.

 Источник: techcrunch