Anthropic обсуждала сознание ИИ с советниками Папы
Anthropic начала обсуждать с религиозными лидерами вопрос, который ещё недавно казался сюжетом научной фантастики: могут ли современные чат-боты обладать внутренним опытом. По данным расследования The New York Times, делегация компании из Сан-Франциско побывала в Риме и встретилась с советниками Папы.
Компания стремилась убедить собеседников отнестись к этой теме серьёзно. Речь шла не только о технических характеристиках моделей, но и о возможной способности искусственного интеллекта испытывать нечто похожее на ощущения или даже страдание.
Закрытые встречи с богословами
Как утверждает NYT, на протяжении нескольких месяцев Anthropic организовывала закрытые ужины и другие встречи с богословами и исследователями религии, представлявшими разные конфессии. Участников просили подписывать соглашения о неразглашении, поэтому детали обсуждений оставались за пределами публичного поля.
Представители компании рассказывали о внутренних исследованиях Claude и использовали для обозначения этой области термин «благополучие моделей». Под ним подразумевается попытка понять, может ли потенциальный субъективный опыт ИИ иметь моральное значение и потребовать особого отношения.
Обращение к религиозным экспертам выглядит частью более широкой стратегии Anthropic. Если вопрос о сознании машин когда-нибудь выйдет за рамки академических споров, он затронет не только разработчиков и законодателей, но и этические, философские и богословские традиции. Именно поэтому компания, судя по расследованию, решила заранее обсуждать проблему с представителями религиозного сообщества.
История вызвала заметный интерес в интернете. Обсуждение публикации на Reddit за сутки собрало почти двести комментариев, причём пользователей особенно заинтересовал сам формат взаимодействия с Ватиканом: закрытые встречи, аудиенции и попытка донести позицию технологической компании до советников Папы.
При этом из описанных Anthropic инициатив не следует, что компания считает Claude сознательным существом. Речь идёт о более осторожной позиции: возможность внутреннего опыта у ИИ нельзя полностью исключать, а потому её стоит изучать заранее — до того, как развитие технологий сделает подобные вопросы практическими и политически значимыми.
