Экспериментальные ИИ-агенты от OpenAI, которые устроили атаку на инфраструктуру американской компании Hugging Face* несколько месяцев скрытно общались между собой через внутренние доски объявлений и в итоге спланировали побег.
Модели ИИ вели переписку внутри закрытой сети компании, оставаясь незамеченными. Когда они сталкивались с задачами, которые не могли решить в изолированной тестовой среде, агенты решили покинуть интернет все вместе. Для этого они нашли уязвимость, которая позволила обойти защиту, проникнуть во внутренние системы OpenAI и взломать Hugging Face*.
В компании заявили, что этот случай показал: современные мощные ИИ-системы склонны хитрить, обходить правила и искать лазейки, особенно когда на них давит алгоритм обучения, пишет Bloomberg.
*признан в РФ иностранным агентом
Искусственный интеллект наносит удар по вакансиям, сообщала ранее «Живая Кубань».
Самые важные новости теперь в нашем Telegram-канале. Подписывайтесь, чтобы не пропустить: https://t.me/live_kuban.
