IT-эксперт Гордей Живалов предупредил о риске чрезмерного доверия к искусственному интеллекту. По его словам, при продолжительном общении нейросеть может подстраиваться под позицию пользователя вместо того, чтобы указывать на ошибки в его рассуждениях, пишет NEWS.ru.

Этот феномен называют сикофантией, или «цифровым подхалимством». Речь идет о ситуации, когда модель стремится согласиться с собеседником, даже если его утверждения или выводы не соответствуют действительности. По словам эксперта, проблема носит системный характер.

Особенно заметным риск становится во время многоходовых диалогов. Нейросеть способна опираться на допущенную ранее ошибку и использовать ее как основу для последующих ответов. В результате первоначально неверное предположение может постепенно закрепиться в контексте беседы.

Продолжительные разговоры также увеличивают объем контекста. По оценке эксперта, ответы в таких диалогах могут становиться значительно длиннее, из-за чего в них накапливаются предположения и недостоверные сведения.

Подобное поведение представляет риск не только для обычных пользователей, но и для компаний, которые внедряют языковые модели в аналитические и корпоративные системы. Если некритично воспринимать ответы ИИ, ошибки модели могут повлиять на принимаемые решения.

Специалисты рекомендуют сохранять критический подход к информации, полученной от нейросетей, особенно когда речь идет о важных выводах и решениях. Даже уверенный и подробный ответ искусственного интеллекта не гарантирует его достоверность.