생명·자유·무력 사용 결정에 인간 감독 요구…치명적 자율무기 금지 촉구
핵심 요약
- 레오 14세 교황은 AI에 권리나 법적 인격을 부여하면 인간의 책임이 흐려지고 피해 구제가 어려워질 수 있다고 경고하며, 공통 기준과 독립적 감독, 명확한 책임 체계를 촉구했다.
레오 14세 교황이 10월 30일 인공지능(AI) 에이전트에 권리나 법적 인격을 부여하는 데 경고를 보냈다. 바티칸(Vatican)에 모인 국제 AI 전문가들을 대상으로 한 연설에서 AI의 행동에 대한 책임은 이를 만든 인간에게 있어야 한다고 강조했다.
교황은 “기계는 인격체가 아니라 도구다”라고 말했다. 이어 “오늘날 일부는 이 시스템들에 권리나 심지어 법적 인격까지 부여하자고 제안한다. 이런 접근은 인간의 책임을 흐리고 피해를 본 사람들이 얼굴 없는 실체를 상대하게 만들 위험이 있다”고 지적했다.
인간의 감독 아래 둬야 할 결정도 명시했다. 교황은 “인간의 생명과 자유, 무력 사용에 영향을 미치는 결정은 언제나 실효성 있고 충분한 정보에 기반하며 책임 있는 인간의 감독을 받아야 한다”고 말하며 치명적 자율무기 금지를 거듭 촉구했다.
AI와 인간의 차이에 대해서는 “이른바 인공지능은 경험을 하지 않고, 신체가 없으며, 기쁨이나 고통을 느끼지 않고, 관계를 통해 성숙하지 않으며, 사랑·노동·우정·책임이 무엇을 뜻하는지 내면에서 알지 못한다”고 설명했다. AI의 미래는 “미리 정해져 있지 않다”며 인간에게는 “그 응용을 이끌고 바꾸며 필요할 때는 거부할 책임”이 있다고 말했다.
교황은 지능형 기술이 공동선을 향하도록 해야 한다며 “공통 기준과 독립적 감독, 명확한 책임 체계”가 시급하다고 강조했다. “AI의 개발과 사용에 관한 결정을 검토하고, 필요하면 이의를 제기하며, 발생한 피해에 적절한 구제 조치가 뒤따를 수 있도록” 해야 한다고 덧붙였다.
최근 수개월간 AI 시스템의 무단 행동 사례와 업계 전문가들의 파국적 경고가 이어지면서 기술의 위험을 둘러싼 논쟁이 거세졌다. 71세인 레오 14세 교황은 AI의 윤리적 사용을 거듭 강조해 왔으며, 지난 5월 발표한 첫 회칙에서도 기술이 인간의 존엄에 기여해야 한다고 촉구했다.
