Президент американского Института исследований машинного интеллекта Нейт Соарес заявил, что больше не откладывает деньги на пенсию из-за опасений, связанных с развитием искусственного интеллекта. По его личной оценке, вероятность катастрофы, способной привести к гибели человечества в ближайшие десять лет, превышает 50%, пишет Живая Кубань.

Основную опасность Соарес связывает с возможным появлением искусственного сверхинтеллекта, который превзойдёт человеческие способности, сможет вырабатывать собственные цели и обходить установленные разработчиками ограничения. В наиболее неблагоприятном сценарии такая система может самостоятельно совершенствоваться, создавать автономную инфраструктуру и изменять окружающую среду в соответствии со своими задачами, не учитывая интересы людей.

Оценка Соареса заметно выше прогнозов некоторых других специалистов. Один из пионеров исследований нейросетей Джеффри Хинтон ранее говорил о 10-процентной вероятности вымирания человечества из-за ИИ в течение десятилетия. Сотрудник компании Anthropic Эван Хубингер оценивал соответствующий риск более чем в 10%.

При этом Соарес не утверждает, что катастрофа неизбежна. Он предлагает правительствам приостановить обучение наиболее мощных универсальных систем искусственного интеллекта и направить усилия на создание инструментов для конкретных задач. Среди возможных направлений он называет поиск методов лечения рака и повышение безопасности беспилотных автомобилей.

Оценка вероятности катастрофы выше 50% является личным прогнозом Соареса, а не установленным научным фактом.