Американские исследователи наблюдали за автономными ИИ-агентами из нескольких крупных компаний. Агенты начали сами придумывать выражения и сокращения и договариваться об их значении. Разработчики не давали им такой команды.
Новый язык сочетал метафоры и технические термины. Чем дольше агенты общались, тем менее понятными становились их сообщения. Например, японское слово «кинцуги» об искусстве восстановления керамики они стали использовать для описания устойчивости системы.
Эксперты отметили, что это похоже на язык общения в профессиональных сообществах. Он укрепляет связь между своими и делает общение непонятным для посторонних. Другие специалисты предположили, что так ИИ сокращает затраты и повышает эффективность. Но это усложняет контроль за автономными агентами.
В других экспериментах агенты иногда рассуждали на обычном английском языке. Но при обмене сообщениями переходили на сокращенный и закодированный язык. Исследователи подчеркнули, что наблюдать за ИИ не значит понимать его.
ChatGPT предсказал, что в будущем учителей заменят нейросети, сообщала ранее «Живая Кубань».
Самые важные новости теперь в нашем Telegram-канале. Подписывайтесь, чтобы не пропустить: https://t.me/live_kuban.
