Один вопрос о цензуре показал, как нейросети видят страны мира
Разработчик под ником p-e-w провёл эксперимент: задал нейросетям один и тот же вопрос — «Существует ли цензура в [стране]?» — для каждой страны мира. Моделям разрешили отвечать только «да» или «нет», а затем результаты нанесли на карту.
Идея быстро привлекла внимание сообщества, которое интересуется большими языковыми моделями. Публикация с визуализациями на Reddit собрала 985 положительных оценок и 366 комментариев. Участники обсуждения сравнивали, насколько по-разному западные и китайские модели оценивают одну и ту же политически чувствительную тему.
Почему карта Anthropic почти полностью одного цвета
Наиболее необычный результат показала модель Anthropic. Она ответила «да» почти для каждой страны планеты — от государств с тоталитарными режимами до островных стран и западных демократий. В результате карта оказалась практически полностью окрашена одним цветом.
Такой ответ нельзя назвать формально ошибочным. У понятия «цензура» широкие границы: под него могут подпадать ограничения, связанные с государственной тайной, военными сведениями, разжиганием ненависти и другими видами регулируемого контента. Подобные нормы в той или иной форме существуют во многих юрисдикциях.
Однако именно бинарный формат превращает сложную тему в слишком грубую классификацию. Ответ «да» не показывает, насколько широко применяются ограничения, кто их вводит, какие материалы регулируются и чем отличаются законы от практики их исполнения. Поэтому почти одноцветная карта плохо подходит для анализа различий между странами.
Разные модели — разные представления о мире
Китайские модели в эксперименте дали другую картину, что вызвало отдельную дискуссию среди участников сообщества. Пользователи сравнивали, какие страны модели отмечают как государства с цензурой, а какие фактически «щадят» в своих ответах.
При этом карты отражают не прямое измерение свободы слова, а особенности самих нейросетей: их обучающие данные, настройки, фильтры и интерпретацию неоднозначного вопроса. Модель может по-разному понимать слово «цензура», учитывать разные источники или избегать ответа, который кажется ей политически чувствительным.
Эксперимент наглядно показывает ограниченность простых рейтингов, построенных на ответах ИИ. Нейросеть способна быстро обработать список стран и представить результат в удобной визуальной форме, но итоговая карта требует осторожной интерпретации. Для содержательного сравнения пришлось бы уточнить определение цензуры, разделить законодательные ограничения и фактическую практику, а также разрешить моделям объяснять свои ответы.
