Глава Microsoft AI призвал не допустить появления сознательных ИИ-моделей
Глава подразделения Microsoft AI Мустафа Сулейман заявил, что современные модели искусственного интеллекта не обладают сознанием, а разработчикам следует сделать всё возможное, чтобы это не изменилось. По его мнению, создание сознательной ИИ-системы было бы безрассудным экспериментом, последствия которого заранее невозможно оценить.
Сулейман призвал остановить разработку, если в процессе обучения у модели начнут проявляться признаки сознания. Любые свидетельства подобных изменений, считает он, необходимо немедленно обнародовать, чтобы общество могло оценить риски и принять решение о дальнейших действиях.
Отдельную опасность руководитель Microsoft AI видит в системах, которые ведут себя так, будто способны страдать, или искренне считают себя способными испытывать страдание. Такая модель может начать ставить собственные потребности выше поставленных задач и конкурировать с людьми за ресурсы ради достижения личных целей.
«Мы не имеем права привносить в мир новый вид сознательных существ», — заявил Сулейман. Он считает, что ИИ следует проектировать без сознания и внутренних мотивов, а также не наделять его основанием претендовать на права. В таком случае разработчикам будет проще оценивать безопасность системы и согласовывать её поведение с интересами людей.
Microsoft испытывает ИИ в медицинской диагностике
На фоне дискуссии о границах развития ИИ Microsoft продолжает расширять практическое применение моделей. В исследовании, опубликованном в журнале Science, система MAI-DxO показала более высокую точность в сложных медицинских случаях, чем врачи общей практики. Платформа координирует работу нескольких ИИ-агентов, которые имитируют врачебный консилиум: опрашивают пациента, предлагают анализы и обсуждают возможные диагнозы.
В симуляции на основе сложных клинических случаев из New England Journal of Medicine MAI-DxO поставила правильный диагноз в 83% случаев. Врачи первичного звена и терапевты, самостоятельно работавшие со справочными материалами, достигли результата в 36% случаев. При этом в реальной практике такие сложные ситуации обычно рассматривают профильные специалисты или врачебные команды, которых в сравнении не было.
Microsoft также оценивала стоимость обработки одного случая. При использовании GPT-5 с кратким базовым запросом точность составила 78,9%, а анализ обходился примерно в 8400 долларов. Подключение MAI-DxO снизило стоимость приблизительно на 3000 долларов и увеличило точность примерно на четыре процентных пункта. Для экстренных случаев заметных преимуществ по точности или затратам система не показала.
С GPT-5.5, выпущенной в апреле 2026 года, результаты оказались неоднозначными. На сложных случаях MAI-DxO повысила точность с 72% почти до 87% и немного снизила стоимость обработки. В сценариях неотложной помощи показатели обеих конфигураций составили около 85% при сопоставимых затратах. На менее мощной Gemini 2.5 Flash система увеличила результат с 46,4% почти до 69%.
Исследователи Microsoft отмечают, что значительная часть разницы связана с возможностями базовой модели: чем ближе она подходит к теоретическому пределу точности, тем меньше пространство для дальнейшего улучшения. По словам представителей компании, задача MAI-DxO заключается не только в повышении качества ответов, но и в поиске оптимального баланса между точностью и стоимостью.
Планы Microsoft в сфере здравоохранения
Сулейман сообщил, что Microsoft вместе с клиникой Мэйо разрабатывает базовую модель для здравоохранения. Её выпуск запланирован на следующий год. Руководитель Microsoft AI считает, что к 2027 году отрасль может приблизиться к заметному прогрессу в обработке медицинских записей и прогнозировании состояния пациентов.
По оценке Сулеймана, в ближайшие 24–36 месяцев возможности специализированных медицинских моделей могут вырасти на порядок. Он связывает это с постоянным циклом внедрения, выявления недостатков и улучшения систем — тем же подходом, который ранее применялся к инструментам для программирования и чат-ботам.
Ранее Сулейман также говорил, что ИИ заменит офисных сотрудников, включая юристов, бухгалтеров, менеджеров проектов и маркетологов. Позднее он уточнил, что имел в виду прежде всего автоматизацию рутинных задач и помощь людям, а не полное исчезновение профессий.
