Джеффри Хинтон предупредил о риске глобального сбоя из-за ИИ в 2026–2027 годах
Нобелевский лауреат Джеффри Хинтон, которого часто называют «крестным отцом» искусственного интеллекта, предупредил о вероятности чрезвычайного происшествия глобального масштаба уже в 2026 или 2027 году. В интервью The Guardian ученый предположил, что причиной может стать сбой в энергетической или финансовой инфраструктуре.
Среди возможных сценариев Хинтон назвал кибератаку с применением ИИ на энергосистему, которая приведет к масштабному отключению электричества, а также неисправность, способную парализовать мировую финансовую систему примерно на неделю. По степени воздействия такое событие он сравнил с «тревожным звонком» уровня Чернобыльской катастрофы.
От надежд на изобилие до угрозы неравенства
По оценке исследователя, к 2040 году, а возможно, и раньше, станет понятнее, сможет ли общество взять под контроль риски, связанные с развитием ИИ. В оптимистичном сценарии технологии приведут к периоду «радикального изобилия». Однако Хинтон не исключает и противоположного исхода, при котором искусственный интеллект усилит имущественное неравенство, спровоцирует культурные кризисы и приведет к массовой безработице.
Ученый также заявил, что, возможно, человечеству вообще не стоило создавать ИИ. При этом он сохраняет осторожный оптимизм: по его словам, внутреннее чутье подсказывает, что ситуация пока остается под контролем.
Критика крупнейших ИИ-компаний
Хинтон резко раскритиковал руководителей ведущих технологических компаний, которые продолжают наращивать мощности и выпускать все более сложные модели. Он заявил, что не доверяет главе OpenAI Сэму Альтману, а также обвинил Илона Маска и Марка Цукерберга в том, что они понимают потенциальные угрозы, но в первую очередь заинтересованы в доходах и расширении рыночной доли.
Джеффри Хинтону 78 лет, около 44 из них он занимается исследованиями в области ИИ. Еще в 1970 году ученый заложил основы концепции нейронных сетей. В 2023 году он покинул Google, чтобы свободнее говорить о возможных последствиях развития этой технологии. Его новые заявления прозвучали накануне премьеры документального фильма об ИИ, в котором также участвовал его бывший коллега Демис Хассабис.
Независимое тестирование перед выпуском моделей
В качестве меры защиты Хинтон предложил создать независимый орган, который проверял бы передовые ИИ-модели до их публичного запуска. По его замыслу, такая система могла бы работать по аналогии с американским Управлением по контролю за качеством пищевых продуктов и лекарственных препаратов: разработчики должны были бы доказывать, что потенциальная польза модели превышает возможный вред.
В качестве исторической аналогии исследователь привел талидомид. Препарат, который в 1950-х годах продавали как безопасное снотворное и средство от тошноты для беременных, впоследствии связали с тяжелыми врожденными дефектами у детей. По разным оценкам, в мире родилось от 12 до 20 тысяч пострадавших детей, около половины из них умерли в младенчестве. Для Хинтона этот пример показывает, к чему может привести отсутствие независимой проверки потенциально опасных технологий до их массового распространения.
