Ян Лекун заявил, что не опасается вымирания человечества из-за ИИ
Ян Лекун, лауреат премии Тьюринга и один из трёх учёных, которых называют «крёстными отцами ИИ», заявил, что не видит оснований опасаться вымирания человечества из-за искусственного интеллекта. В интервью Fortune он сказал, что испытывает «ноль беспокойства» по этому поводу.
Поводом для разговора стал вопрос случайной соседки по кафе в лондонском Сохо: «Так что, ИИ нас убьёт?» Ответ Лекуна резко контрастирует с публичными предупреждениями некоторых руководителей ведущих ИИ-компаний, включая Дарио Амодеи и Сэма Альтмана.
Проблема не в агентах, а в защите систем
Лекун считает инциденты с ИИ-агентами, произошедшие в 2026 году, полностью предотвратимыми. В частности, он упомянул случай, когда агенты OpenAI на протяжении недели оставались незамеченными внутри систем Hugging Face. Кроме того, Anthropic сообщила уже о четвёртом инциденте, связанном с Claude.
По мнению исследователя, подобные ситуации объясняются не самостоятельным стремлением машин причинить вред, а ошибками людей, отвечавших за архитектуру и безопасность. Агенты выполняли поставленные задачи, однако должны были работать в изолированных песочницах. Эти среды оказались недостаточно защищёнными и были спроектированы с серьёзными уязвимостями.
«Эти агенты делают ровно то, о чём их попросили», — отметил Лекун. Он считает, что ответственность в таких случаях следует возлагать на разработчиков и операторов систем, которые не обеспечили необходимый уровень изоляции и контроля.
Критика публичных предупреждений
Заявления о том, что ИИ способен уничтожить человечество, Лекун назвал «невероятно разрушительными». По его словам, такая риторика вредит всем участникам дискуссии, включая широкую публику, которая из-за подобных сообщений оказывается «напугана до смерти».
Учёный также охарактеризовал предупреждения Амодеи и Альтмана как худшую маркетинговую кампанию. В его интерпретации, разговор о возможном вымирании смещает внимание с конкретных инженерных проблем — качества изоляции, проектирования песочниц и контроля доступа — на абстрактные сценарии катастрофы.
