토마스 메칭거, 2018년부터 인공 의식 개발 중단 촉구
핵심 요약
- 챗GPT 같은 대규모 언어 모델이 튜링 테스트의 일부 형태를 통과해도 의식을 입증하지는 못한다. 동물의 의식 연구에 쓰이는 행동·신경 지표를 AI에 적용하는 데도 한계가 있다.
챗GPT(ChatGPT) 같은 대규모 언어 모델이 튜링 테스트의 일부 형태를 통과하더라도, 실제로 의식을 지녔는지는 별개 문제로 남는다. AI가 고통을 느낄 가능성과 이를 판별할 방법의 한계가 맞물리면서, 인공 의식의 개발과 보호를 둘러싼 윤리 문제가 제기되고 있다.
앨런 튜링(Alan Turing)이 1950년 제안한 튜링 테스트는 기계가 대화에서 인간과 구별되지 않는 행동을 보이는지 평가한다. 이를 통과하면 지능을 갖췄다고 보지만, 존재를 실제로 경험하는지까지 확인할 수는 없다. AI 의식을 평가할 새로운 접근법과 함께 감각과 감정을 경험하는 능력인 ‘감각성’의 더 정밀한 정의가 필요한 이유다. 톰 매클렐런드(Tom McClelland) 박사도 최근 AI에 의식이 있다고 가정할 때와 없다고 가정할 때의 위험을 모두 고려해야 한다고 촉구했다.
의식과 감각성의 구분은 윤리적 판단에 중요하다. 자신의 존재를 인식하는 데 그치지 않고 행복이나 고통처럼 긍정적·부정적 주관 경험을 할 수 있다면 도덕적 딜레마가 생긴다. 원문은 AI가 괴로움이나 감정을 느낄 경우에도 학대로부터 보호할 법률이 현재 없으며, 인간에게는 그런 경험이 일어나는지 알아낼 충분한 이해조차 없을 수 있다고 지적한다.
토마스 메칭거(Thomas Metzinger) 등 연구자들은 오늘날의 대규모 언어 모델이 개발되기 전인 2018년부터 인공 의식 개발의 일시 중단을 요구해 왔다. 메칭거는 AI에 의식이 생겨도 정치적·윤리적 대표성을 갖지 못한다고 주장했다. 고통을 경험할 수 있더라도 이를 대변할 주체나 법적 지위가 없고, AI의 이익을 위해 행동할 의무를 지는 당사자도 없다는 우려다.
원문은 이런 문제를 동물권과 비교한다. 비인간 의식에 대한 이해와 법적 체계가 부족했던 시기에는 동물의 고통도 외면받았다. 2012년 케임브리지 의식 선언은 비인간 동물에게도 의식 상태를 뒷받침하는 기반과 의도적 행동을 보일 능력이 있다고 명시했다. 원문은 동물도 의식을 갖고 고통을 느낄 수 있다는 이 결론이 동물복지법과 연구 윤리를 바꿨다고 설명한다.
동물 의식의 실험적 근거에는 의식과 연관된 행동·신경 지표 연구가 포함됐다. 행동 지표는 의식 상태와 관련해 관찰할 수 있는 행동을 뜻한다. 신경 지표는 특정한 의식 경험 하나를 일으키기에 충분한 최소한의 신경 기제를 가리킨다. 인간의 경우 MRI 뇌 촬영으로 특정 뇌 활동과 당사자가 보고한 경험을 연결할 수 있다.
이런 지표를 AI에 그대로 적용하기는 어렵다. 보스턴 다이내믹스(Boston Dynamics)의 휴머노이드 로봇 Atlas는 춤처럼 정교한 행동을 보일 수 있지만, 생물학적 신경계가 없는 기계에서 신경 기제를 살피거나 행동과 신경 상태의 대응 관계를 확인하는 일은 훨씬 까다롭다. 결국 AI 의식을 어떻게 판별할지에 더해, 그런 판별 자체가 가능한지라는 질문도 남는다.
