Ученые в шоке: ИИ сам придумывает правила общения и язык

Ученые выяснили, что модели искусственного интеллекта на основе больших языковых моделей (LLM) могут самостоятельно формировать социальные нормы и языковые правила без участия человека. Исследование, опубликованное в журнале Science Advances, показало, что ИИ-агенты, взаимодействуя друг с другом, способны достигать консенсуса в выборе общих языковых норм, подобно тому, как это происходит в человеческих сообществах.

Команда исследователей из Университета Сити Сент-Джордж (Лондон) и ИТ-университета Копенгагена адаптировала классическую модель игры Naming game, используемую для изучения социальных конвенций у людей. В экспериментах группы ИИ-агентов численностью от 24 до 200 взаимодействовали, выбирая «имя» (например, букву алфавита или случайную строку символов) из общего набора. Если два агента выбирали одинаковое имя, они получали вознаграждение; в противном случае — штраф и информацию о выборе друг друга.

Агенты имели доступ только к ограниченной памяти своих последних взаимодействий и не знали, что являются частью группы. Тем не менее, со временем в популяции спонтанно формировалась общая языковая норма без централизованного управления, что напоминает процесс формирования норм в человеческих культурах. Исследователи также обнаружили коллективные предубеждения, которые не могли быть объяснены поведением отдельных агентов.

«Большинство исследований ИИ фокусировались на моделях в изоляции, но в реальном мире системы ИИ будут взаимодействовать друг с другом. Мы показали, что они могут координировать поведение, формируя социальные конвенции», — отметил ведущий автор исследования Ариэль Флинт Ашери.

Ученые подчеркивают, что способность ИИ автономно развивать социальные нормы открывает новые перспективы для создания систем, соответствующих человеческим ценностям и общественным целям. Кроме того, исследование показало, что небольшие группы ИИ-агентов с альтернативными взглядами могут влиять на большие популяции, изменяя устоявшиеся нормы.

 Источник: Interesting Engineering