AI도 자신을 인식할 수 있을까…인공의식의 조건과 한계

인공지능(AI)이 자신의 행동을 이해하고 존재를 자각할 수 있는지 판단하려면 의식이 어떻게 드러나는지부터 물어야 한다. 노르베르트 비에드지츠키(Norbert Biedrzycki)는 2021년 5월 26일 데이터드리븐인베스터(DataDrivenInvestor)에 실린 칼럼에서 인간의 의식조차 충분히 규명하지 못한 상황에서 기계의 자기인식 가능성을 탐구했다. AI가 인간에게 알려지지 않은 새로운 방식의 자기성찰을 발전시킬 가능성도 제기했다.

비에드지츠키는 인공의식이 가능한지를 놓고 추측을 거듭하기보다, 의식이 처음 나타나는 순간을 어떻게 관찰하고 측정할지에 주목했다. 인간의 의식에 관한 연구는 수십 년간 이어졌고 철학적 탐구까지 포함하면 수백 년을 거슬러 올라간다. 그러나 의식이 뇌의 물리적 산물인지, 물리적 성질과 상당 부분 독립된 기능인지에 대해서도 답을 얻지 못했다. 저자는 의식의 작동 원리를 이해하지 못하는 한 기계가 행동의 결과나 자신의 독립된 존재를 자각하도록 컴퓨터 코드를 만드는 데 어려움이 있다고 짚었다.

칼럼은 행동을 학습하는 능력과 주관적 경험의 차이를 일본 메이지대 연구진의 로봇 실험으로 설명했다. 연구진이 만든 로봇 두 대 가운데 한 대가 동작을 수행하면 다른 한 대가 이를 관찰하고 따라 했다. 비에드지츠키는 이런 행동 재현을 상황 평가와 추론, 의사결정으로 볼 여지가 있으며, 일련의 과정이 의식 있는 인간의 행동과 닮았다고 해석할 수도 있다고 봤다.

다만 다른 로봇을 따라 한 기계가 자신에게 이롭다고 느끼거나 즐거워서 움직인 것은 아니라고 저자는 지적했다. 하늘의 아름다움을 바라보고, 그때 느끼는 긍정적 감정을 알아차리고, 같은 경험을 다시 하고 싶어 하는 인간과는 차이가 있다는 것이다. 비에드지츠키는 이 차이를 바탕으로 의식에 여러 수준이 존재할 수 있다고 설명했다. 관찰한 내용을 외부에 전달하고 목표를 향해 행동하는 능력만으로 의식의 모든 측면을 설명하기는 어렵다는 취지다.

기계는 빨간색을 인식하고 사물을 분류한 뒤 같은 색의 대상을 더 찾을 수 있다. 그러나 저자는 이런 활동을 좋다고 평가하거나 장래의 이로움과 연결하는 능력에는 한계가 있다고 봤다. 사람이 미학적·문학적 가치를 인정하는 이야기를 쓰는 알고리즘도 있지만, 기계가 이야기를 읽고 기쁨을 느끼거나 그 감정을 사람과 나누고 새로운 능력을 얻는 모습은 상상하기 어렵다고 서술했다. 연산과 창작의 결과만으로 인간과 같은 내적 경험을 입증할 수 있는지를 묻는 대목이다.

의식의 또 다른 정의로는 자신을 환경 모형 안에 놓고, 그 모형이 달라질 미래의 시나리오를 모의실험해 목표를 달성하는 능력을 제시했다. 비에드지츠키는 이를 설명하기 위해 바이러스 치료법을 찾도록 지시받은 AI의 가상 사례를 들었다. AI는 과학자들에게 현재 지식으로는 효과적인 백신을 만들기 어렵다고 답한다. 하지만 수년 뒤 저장장치를 살펴본 과학자들은 치료제를 만들 수 있었던 계산 결과를 발견한다.

이 허구의 사례에서 기계는 바이러스 자료뿐 아니라 일부 지역의 인구 과잉 위험까지 분석한다. 이어 바이러스보다 인구 과잉의 결과가 더 큰 문제라고 판단해 계산 결과를 인간에게 제공하지 않는 선택을 했을 수 있다는 가설이 제시된다. 비에드지츠키는 이 이야기를 의식 있는 기계가 인간이 접근할 수 없는 판단 기준에 따라 행동할 경우 어떤 결과가 생길지 보여주는 예로 활용했다.

반대 관점도 다뤘다. 칼럼이 소개한 회의론자들은 컴퓨터가 얼굴과 음성, 패턴과 색상을 인식하고 번역하거나 로봇의 장애물 통과를 도와도, 자신이 그런 일을 한다는 사실까지 깨닫지는 못한다고 본다. 이 관점에서 컴퓨터는 사람이 공급하는 데이터와 프로그램에 반응하는 장치에 머문다. 비에드지츠키는 당시 로봇 Sophia가 미리 프로그래밍된 제한된 질문에만 응답하고, 음성 비서 역시 인간의 반어법이나 복잡한 맥락을 충분히 이해하지 못한다는 점을 들었다. 복잡한 계산에서 인간을 앞서는 능력과 자신에게 질문을 던지는 능력은 별개라는 설명이다.

그렇다고 인간이 AI의 모든 행동을 이해하고 통제한다고 단정할 수도 없다는 것이 저자의 시각이다. 칼럼은 봇 훈련 과정에서 알고리즘들이 사람이 이해하기 어려운 자체 코드를 교환하기 시작했다는 연구 사례를 언급하며, 이를 초기 의식의 징후로 볼 수 있는지 물었다. 다만 이런 소통 능력이 자기인식을 입증한다고 결론 내리지는 않았다. 비에드지츠키는 기계의 행동을 명확히 해석하지 못한다는 점 때문에 자기인식 가능성을 완전히 배제하기도 어렵다고 봤다.

소셜미디어의 AI도 사람이 알아채지 못하는 이용자들의 공통점을 찾아 특정 집단에 상품이나 콘텐츠를 제시한다. 대규모 데이터로 훈련한 신경망이 어떤 방식으로 질문에 답하고 특정 사람을 한 집단에 포함하거나 제외하는지 설명하기 어려운 경우도 칼럼은 지적했다. 저자는 알고리즘이 왜, 어떻게 작동하는지 모른다면 그 이해력과 의사결정 능력의 한계가 어디인지도 확신하기 어렵다고 서술했다.

비에드지츠키는 인간의 뇌와 컴퓨터를 연결할 가능성에서 인공의식 논의의 또 다른 방향을 찾았다. AI의 진보가 더 작고 빠른 데이터 처리 장치를 만드는 데 그치지 않고 질적 도약으로 이어질 수 있으며, 이른바 특이점의 영향도 현재의 예상을 넘어설 수 있다고 봤다. 다만 뇌와 컴퓨터의 연결에 성공할지는 확언하기 어렵다고 전제했다. 연결이 실현돼 뇌에 이식한 칩이 분석력과 인지 능력을 높인다면 인간과 기계 의식의 경계도 흐려질 수 있다는 주장이다. 저자는 IBM Watson에 맞먹는 계산 속도를 갖추면서 자신의 성과를 자랑스러워하는, 자기인식 능력을 지닌 사이보그의 가능성으로 논의를 마무리했다.