Президент американского Института исследований машинного интеллекта Нейт Соарес перестал откладывать деньги на пенсию. Он опасается скорого уничтожения человечества искусственным интеллектом. По его личной оценке, вероятность такой катастрофы в ближайшие десять лет превышает 50%.
Главную угрозу Нейт Соарес видит в создании искусственного сверхинтеллекта. Такой разум способен превзойти человека, сформировать собственные цели, обходить ограничения разработчиков и совершенствовать себя. В худшем сценарии такой ИИ сможет создать автономную инфраструктуру и преобразовать окружающий мир под свои задачи. При этом он будет игнорировать интересы человечества, вплоть до того, что Земля станет непригодной для жизни людей.
Прогноз исследователя значительно мрачнее оценок некоторых его коллег. Один из основоположников современных нейросетей Джеффри Хинтон говорил о 10-процентной вероятности вымирания человечества из-за ИИ в течение десятилетия. Сотрудник Anthropic Эван Хубингер оценивал этот риск более чем в 10%.
При этом сам Нейт Соарес не считает катастрофу неизбежной. Он призывает правительства остановить обучение наиболее мощных универсальных ИИ-систем и сосредоточиться на разработках для конкретных задач. В качестве примеров исследователь приводит поиск методов лечения рака и повышение безопасности беспилотных автомобилей.
Масштабный кризис индустрии: искусственный интеллект отнимает работу у российских кинематографистов, сообщала ранее «Живая Кубань».
Самые важные новости теперь в нашем Telegram-канале. Подписывайтесь, чтобы не пропустить: https://t.me/live_kuban.
