Опасения, что искусственный интеллект в ближайший год выйдет из-под контроля и вызовет большой кризис в сети, сильно преувеличены. Об этом заявил кандидат технических наук Святослав Литвинов. При этом растущая самостоятельность ИИ-агентов создает новые угрозы для кибербезопасности, особенно при широком доступе к облакам, платежным сервисам и корпоративной инфраструктуре.
Утверждение, что через 6–12 месяцев ИИ захватит весь интернет и нанесет ущерб в сотни миллиардов долларов, эксперт назвал скорее темой для спора, чем инженерным прогнозом. Интернет не единая система, а разнородная сеть из миллионов организаций, протоколов, дата-центров, операторов и критических инфраструктур. Для захвата нужно одновременно преодолеть технические, организационные, юридические и человеческие барьеры. Сегодняшние ИИ-системы, включая большие языковые модели, не имеют собственной воли, устойчивых целей и способности поддерживать себя.
При этом реальные угрозы нельзя недооценивать: ИИ уже снижает стоимость и порог входа для кибератак. Кроме того, если дать агенту слишком широкие права, ошибочная цель или вредоносный промпт приведут к цепочке нежелательных действий. Это не восстание машин, а ошибка в задании, недостаток изоляции и слабый контроль доступа.
Ущерб в сотни миллиардов долларов теоретически возможен, но не из-за захвата интернета искусственным интеллектом, а из-за крупного сбоя в облаках, платежах, энергетике или цепочках поставок. Святослав Литвинов отметил, что не стоит выдумывать апокалиптические сценарии, но и игнорировать проблемы тоже неправильно, пишет Life.ru.
Модели искусственного интеллекта начали придумывать собственный непонятный людям язык для общения между собой, сообщала ранее «Живая Кубань».
Самые важные новости теперь в нашем Telegram-канале. Подписывайтесь, чтобы не пропустить: https://t.me/live_kuban.
