Папа Римский предупреждает: ИИ требует «разоружения» и контроля

Папа Римский Лев XIV опубликовал энциклику под названием Magnifica Humanitas, в которой выступил с резким предупреждением о рисках, связанных с развитием искусственного интеллекта. В тексте, превышающем 200 страниц, он призвал к «разоружению» ИИ, подчеркнув необходимость ограничения его использования в военной сфере. «Искусственный интеллект нужно освободить от логики, которая превращает его в инструмент доминирования, исключения и смерти», — заявил понтифик, подчеркивая, что технологическая революция, основанная на «идолопоклонстве прибыли», создаёт новые формы дегуманизации.

В энциклике также делается параллель между ИИ и ядерными технологиями. Понтифик отметил, что оба инструмента могут нести как пользу, так и угрозу. «Церковь давно работает над ядерным разоружением. Теперь и искусственный интеллект нуждается в аналогичной мере», — заявил Лев XIV. Он подчеркнул, что решения относительно технологий «не должны отделяться от совести и ответственности», критикуя непрозрачные алгоритмы, контролируемые крупными частными компаниями.

Энциклика вышла на фоне усиления дискуссии о регулировании ИИ. В частности, компания Anthropic, сооснователь которой Кристофер Ола присутствовал на презентации документа, предупреждала, что США могут потерять лидерство в сфере ИИ к 2028 году из-за быстрого развития Китая. «ИИ-модели вроде Mythos уже доступны в Китае, несмотря на экспортные ограничения», — отметил генеральный директор Nvidia Дженсен Хуанг.

Понтифик также критиковал трансгуманистические взгляды части технологических элит, включая Илона Маска, который считает, что к 2040 году количество роботов-гуманоидов может превзойти население Земли. «Когда такая власть концентрируется в руках немногих, она становится непрозрачной и избегает общественного контроля, увеличивая риск искажённого развития», — говорится в документе.

Anthropic выступила с предупреждением о кризисе рабочих мест. «Массовое сокращение сотрудников из-за автоматизации — реальная возможность, а поддержка потерявших работу станет моральным императивом исторического масштаба», — заявил Кристофер Ола. Компании вроде Coinbase, Meta*, Amazon и Oracle уже провели увольнения из-за внедрения ИИ.

Папа Лев XIV также выступил против автономного оружия, подчеркнув, что «недопустимо поручать смертоносные решения системам, которые становятся менее подконтрольными человеку». Он отверг традиционную концепцию «справедливой войны», утверждая, что она устарела. «Теория, которая часто использовалась для оправдания любых конфликтов, сегодня не актуальна», — говорится в энциклике.

Отдельно понтифик обратил внимание на историческую ответственность Католической церкви. «Это рана в христианской памяти, от которой мы не можем отмежеваться. За это от имени Церкви я прошу прощения», — написал он, касаясь запоздалой реакции церкви на рабство.

Возможность использования ИИ в создании текста вызвала споры. WIRED сообщал, что некоторые публикации Папы могли быть написаны с помощью ИИ-инструментов. Однако понтифик настаивает, что его энциклика — это результат глубокого теологического анализа, а не технической генерации.

Прогноз: Энциклика может стать катализатором международного диалога о регулировании ИИ. Скорее всего, страны и корпорации начнут ужесточать правила, особенно в военной сфере. Однако баланс между инновациями и этическими нормами останется сложным. В ближайшие годы ожидается рост международных соглашений, ограничивающих применение ИИ в агрессивных целях.