Готовится запуск «взрослого режима»: OpenAI внедряет систему определения возраста пользователей ChatGPT

Компания OpenAI приступила к глобальному внедрению инструмента прогнозирования возраста пользователей ChatGPT. Новая система предназначена для определения, является ли пользователь несовершеннолетним. В основе модели лежат особенности поведения и параметры учетной записи, такие как продолжительность существования аккаунта, типичные часы активности и схемы использования, а также заявленный возраст пользователя. 

Если система ошибочно классифицирует пользователя как несовершеннолетнего, ему потребуется предоставить селфи через платформу Persona для подтверждения возраста.

Ранее OpenAI уже сталкивалась с проблемами, связанными с безопасностью несовершеннолетних пользователей. В частности, компания была вовлечена в судебный иск, касающийся смерти подростка, который, как утверждается, использовал ChatGPT для планирования самоубийства. В ответ на это OpenAI начала разрабатывать автоматические ограничения на контент для несовершеннолетних и создала консультативный совет по вопросам психического здоровья.

Внедрение инструмента прогнозирования возраста связано с предстоящим запуском «взрослого режима», который позволит пользователям создавать и потреблять контент, который может считаться NSFW (not-safe-for-work, небезопасным для работы).

 Источник: Engadget, OpenAI