Президент Microsoft призвал срочно усилить регулирование ИИ
Президент Microsoft Брэд Смит призвал срочно усилить регулирование сферы искусственного интеллекта. В интервью подкасту BBC он отметил, что контроль над ИИ-компаниями сегодня слабее, чем над повседневными товарами вроде молока и стиральных машин.
Смит назвал искусственный интеллект одновременно инструментом и оружием, которое может представлять угрозу для глобальной кибербезопасности. По его мнению, настало время выработать международные правила, устанавливающие единые требования к безопасности ИИ-систем.
Почему Смит предлагает ориентироваться на Великобританию
По оценке руководителя Microsoft, именно Великобритания, а не США или Евросоюз, может стать лидером в разработке глобальных норм. Созданный в 2023 году британский Институт безопасности ИИ (AISI) получает доступ к передовым моделям американских лабораторий ещё до их выпуска и занимается их тестированием.
Роль Великобритании оказалась под угрозой после заявлений президента США Дональда Трампа о нежелательности деятельности «глобалистских» организаций, которые, по его мнению, могут вмешиваться в работу американских компаний. Сообщалось, что Трамп просил Anthropic и OpenAI не предоставлять британским специалистам новые модели. При этом AISI подтвердил, что продолжает получать доступ к актуальным системам и проверять их.
Смит считает, что Лондон обладает преимуществом благодаря особому отношению к нему в Вашингтоне. По его словам, американские власти воспринимают Великобританию иначе, чем Брюссель, и это может упростить согласование международных подходов к регулированию искусственного интеллекта.
Добровольных обязательств недостаточно
Высказывания президента Microsoft прозвучали на фоне призывов руководителей технологических компаний, включая главу Anthropic Дарио Амодеи и генерального директора OpenAI Сэма Альтмана, замедлить разработку ИИ после инцидентов, связанных с потерей контроля над системами.
Ранее Дональд Трамп провёл в Белом доме встречу с руководителями OpenAI, Anthropic, Nvidia, AMD, SpaceX, Meta и Google. Участники подписали документ с «моральными обязательствами» и договорились привлекать независимых аудиторов для оценки безопасности и возможностей моделей. Смит назвал эту инициативу хорошим шагом, но подчеркнул, что она не заменяет обязательное регулирование: добровольные правила будут соблюдать прежде всего добросовестные компании, тогда как основные риски могут исходить от менее ответственных игроков.
Среди возможных мер Смит выделил обязательное уведомление о взломе системы с использованием недобросовестных ИИ-агентов. Он также поддержал идею независимой проверки перед выпуском продуктов на базе ИИ и применение механизмов экстренной остановки — так называемых kill switch, которые позволят приостановить или замедлить работу системы при утрате контроля со стороны людей.
При этом внутри индустрии сохраняются разногласия по поводу масштаба будущего регулирования. Сэм Альтман заявил, что подходы OpenAI и Anthropic по этому вопросу фундаментально различаются. Он считает, что преимущества технологии оправдывают определённые риски, а доступ к ИИ должен оставаться максимально широким.
