레오 14세 교황이 즉위 후 첫 회칙에서 인공지능(AI)이 인간을 지배하는 시대를 경고하며 “또 하나의 바벨탑 건설을 포기해야 한다”고 밝혔다. AI와 디지털 경제가 전쟁과 노동 착취, 불평등을 심화시키고 있다는 우려도 함께 내놓았다.

교황은 25일 바티칸 시노드 강당에서 첫 회칙인 마니피카 후마니타스(Magnifica Humanitas·위대한 인간성)을 직접 발표했다. 회칙은 전 세계 가톨릭 신자들에게 전달되는 교황의 최고 권위 문헌이다.

이번 회칙에서 교황이 가장 강조한 표현은 ‘AI 무장해제’였다. AI 기술 자체를 부정하는 것이 아니라, 특정 권력과 기업이 AI를 통해 인간 사회를 지배하지 못하도록 해야 한다는 의미다.

교황은 “모두가 또 하나의 바벨탑 건설을 포기하고 공동선을 구축하는 데 힘을 모으길 요청한다”고 말했다. 성경 속 바벨탑처럼 기술 권력이 인간 오만의 상징으로 변질될 수 있다는 경고다.

“정당한 전쟁 이론은 시대에 뒤떨어져”

회칙에는 AI 시대 전쟁에 대한 강한 문제의식도 담겼다. 교황은 허위 정보와 알고리즘, 이분법적 서사가 전쟁을 문화적으로 정당화하고 있다고 지적했다.

그는 “‘정당한 전쟁’ 이론은 시대에 뒤떨어졌다”며 “무력과 폭력, 무기의 사용은 관계의 빈곤을 반영한다”고 비판했다.

특히 일부 자율무기 체계는 이미 인간 통제를 넘어서는 수준에 접근하고 있다고 우려했다.

교황은 디지털 플랫폼과 데이터, 알고리즘, 기술 인프라를 ‘보편적 재화’로 봐야 한다고도 주장했다. 현재 디지털 권력이 국가보다 거대 기술기업에 집중되면서 의존과 배제, 불평등이 심화되고 있다는 판단이다.

그는 “AI와 로봇 시대에 시장의 ‘보이지 않는 손’에만 의존하는 것은 더 이상 가능하지 않다”며 정치권과 국제사회가 기술 독점 감시에 나서야 한다고 촉구했다.

“보이지 않는 노동 착취…새로운 형태의 노예제”

교황은 디지털 경제 구조 자체가 ‘보이지 않는 노동’ 위에 세워져 있다고 지적했다.

그는 “데이터 라벨링과 모델 훈련 같은 작업에 수백만 명의 조용한 노동이 동원되고 있다”며 “희토류 채굴 현장의 가혹한 노동 역시 새로운 형태의 노예제”라고 말했다.

이어 “윤리적인 AI를 만드는 일은 결국 새로운 노예제와 싸우는 문제”라고 강조했다.

이번 회칙 발표 행사에는 Anthropic 공동창업자인 크리스토퍼 올라도 참석했다. 앤트로픽은 AI 기술의 군사·감시 활용 제한 문제를 두고 미국 행정부와 갈등을 빚고 있는 기업이다.

올라는 “최첨단 AI 연구소들은 상업적 압박과 윤리 사이에서 끊임없이 충돌한다”며 외부 감시 필요성을 강조했다.

이번 회칙은 노동권과 사회 정의를 강조했던 레오 13세의 회칙 레룸 노바룸 발표 135주년에 맞춰 공개됐다. 레오 14세가 자신의 교황명을 ‘레오’로 정한 배경에도 노동과 기술, 사회 정의에 대한 문제의식이 반영됐다는 평가가 나온다.