Искусственный интеллект, ещё недавно воспринимавшийся как удобный цифровой помощник, всё чаще становится предметом разговоров о будущем человечества. И не только в фантастических фильмах.

О рисках стремительного развития AI говорят учёные, предприниматели и руководители крупнейших технологических компаний. Теперь к этому разговору вновь подключился заместитель председателя Совета безопасности России Дмитрий Медведев.

В марте 2026 года он опубликовал в журнале «Эксперт» статью о технологиях, которые, по его мнению, способны радикально изменить будущее человечества. Одно из центральных мест в его рассуждениях занимает искусственный интеллект. 

Медведев предупреждает: проблема заключается не только в том, насколько умным может стать ИИ. Гораздо опаснее ситуация, когда человек перестанет понимать, почему искусственный интеллект принимает то или иное решение.

Особенно тревожным он считает использование нейросетей в управлении критически важной инфраструктурой — электростанциями, промышленными предприятиями и, в частности, атомными объектами.

Если такая система даст сбой, человек может оказаться не в состоянии быстро понять причину произошедшего. А если ИИ получит возможность самостоятельно принимать решения, последствия ошибки могут оказаться катастрофическими.

Именно здесь, считает Медведев, появляется «предчувствие Апокалипсиса» — сценарий, при котором искусственный интеллект не просто ошибается, а начинает действовать вопреки интересам человека. 

При этом речь идёт не только о гипотетическом «злом роботе», который однажды решит уничтожить человечество.

Есть и гораздо более реальные риски.

Массовое внедрение ИИ может привести к сокращению миллионов рабочих мест и росту структурной безработицы. Цифровые двойники и созданные искусственным интеллектом личности уже могут использоваться для мошенничества, кражи персональных данных и других преступлений. 

Получается парадокс: технология, которая должна сделать жизнь человека проще, одновременно способна сделать человека более уязвимым.

Причём скорость развития ИИ сама по себе становится проблемой. Ещё в сентябре 2025 года Медведев говорил, что нейросети развиваются значительно быстрее первоначальных прогнозов. По его словам, вопрос «ждать или внедрять» искусственный интеллект уже фактически является риторическим: его внедряют все — конкуренты, друзья и соперники. Более того, как выразился Медведев, в некоторых случаях ИИ «сам себя внедряет». 

И здесь возникает главный вопрос: кто в конечном счёте будет контролировать искусственный интеллект — человек или созданная им система?

Пока ответ очевиден: человек.

Но чем больше полномочий мы передаём алгоритмам, тем сложнее становится провести границу между инструментом и самостоятельным участником процесса.

ИИ уже способен писать тексты, создавать изображения и видео, программировать, анализировать огромные массивы информации и помогать принимать решения. Следующий этап — системы, которые смогут самостоятельно ставить задачи, находить способы их решения и действовать без постоянного участия человека.

Именно перспектива такого суперинтеллекта заставляет многих задуматься: а что произойдёт, если его цели однажды окажутся несовместимыми с человеческими?

При этом сам Медведев предупреждает не только об искусственном интеллекте. В его статье речь идёт сразу о нескольких технологиях, способных изменить мир: от новых цифровых систем и биотехнологий до освоения космического пространства. Он считает, что человечеству необходимо заранее думать о возможных последствиях технологического рывка. 

Проблема в том, что остановить технологическую гонку практически невозможно.

Если одна страна или корпорация решит замедлиться ради безопасности, другая может использовать это как возможность вырваться вперёд. Именно поэтому вопрос контроля над ИИ постепенно превращается не только в технологическую, но и в геополитическую проблему.

И, возможно, главный урок всей этой истории заключается не в том, что искусственный интеллект обязательно уничтожит человечество.

Гораздо вероятнее другой сценарий: человечество может слишком сильно поверить в собственную способность контролировать созданную им технологию.

ИИ не обязательно должен стать злым.

Иногда достаточно того, чтобы он оказался слишком мощным, слишком автономным — и слишком непонятным для своих создателей.

И тогда вопрос будет уже не в том, наступит ли конец света.

А в том, кто именно будет принимать решения в мире после человека.