Британско-канадский ученый Джеффри Хинтон, которого называют одним из основоположников современного искусственного интеллекта, призвал правительства не торопиться с разработкой систем, способных превзойти человека по уровню интеллекта.

В интервью The Times ученый предупредил, что создание сверхмощного ИИ без надежных механизмов контроля может представлять серьезную угрозу для человечества. По его оценке, пока не существует достаточной научной базы, которая позволяла бы гарантировать безопасность и предсказуемость подобных систем.

Хинтон считает, что международному сообществу стоит рассмотреть жесткое ограничение разработки суперинтеллекта до появления надежных методов управления им. Главную опасность он видит в возможном создании машин, которые смогут самостоятельно решать сложные задачи значительно эффективнее человека.

Отдельной проблемой ученый считает отсутствие консенсуса среди специалистов относительно того, возможно ли в принципе гарантированно сохранить контроль человека над более интеллектуальной системой. На этом фоне продолжается активная гонка за создание все более мощных моделей искусственного интеллекта.

Джеффри Хинтон внес значительный вклад в развитие нейронных сетей и методов глубокого обучения. В 2012 году он вместе со своими студентами создал нейросеть AlexNet, успешное выступление которой на конкурсе ImageNet стало одним из важных этапов развития технологий распознавания изображений.

В 2024 году Хинтон получил Нобелевскую премию по физике вместе с Джоном Хопфилдом за фундаментальные открытия и изобретения в области искусственных нейронных сетей и машинного обучения.

При этом ученый неоднократно говорил о потенциальных рисках развития ИИ. В частности, он допускал возможность появления у некоторых систем признаков, напоминающих элементы самосознания, и призывал заранее разрабатывать меры безопасности.

Опасения относительно долгосрочных последствий развития передового ИИ высказывают и представители международных организаций. В частности, Верховный комиссар ООН по правам человека Фолькер Тюрк ранее предупреждал об экзистенциальных рисках, связанных с развитием подобных технологий.

Таким образом, вопросы безопасности искусственного интеллекта постепенно становятся не только предметом научных дискуссий, но и частью международной политической повестки.