Более 1200 сотрудников ведущих компаний в сфере искусственного интеллекта подписали обращение к правительству США с предложением создать механизмы контроля за развитием самых мощных нейросетей.

Авторы инициативы считают, что в будущем могут понадобиться инструменты, которые позволят временно замедлить разработку передовых систем искусственного интеллекта, если их развитие начнёт опережать возможности общества оценивать последствия.

Среди подписантов оказались специалисты из OpenAI, Google DeepMind, Meta и Anthropic, включая известных исследователей и руководителей направлений разработки ИИ.

При этом авторы обращения не выступают за полную остановку исследований. Они предлагают заранее разработать правила и процедуры, которые позволят получить дополнительное время для оценки рисков в случае резкого ускорения развития технологий.

По мнению участников инициативы, подготовленные заранее меры контроля помогут избежать ситуации, когда человечество столкнётся с последствиями появления более мощных систем без готовых механизмов реагирования.