AI의 정교한 추천에 빠진 감성지능…칼 로데가 짚은 공감의 가치

인공지능(AI)이 사람의 행동을 정교하게 유도하더라도 그 사람의 감정과 욕구까지 이해하는 것은 아니라는 지적이 나왔다. 칼 로데는 2021년 5월 11일 데이터드리븐인베스터(DataDrivenInvestor)에 실린 칼럼에서 여행 예약 서비스와 인간 전문가들의 대응을 비교하며, 데이터에 기반한 영향력과 감성지능 사이의 간극을 짚었다.

로데가 제시한 감성지능의 출발점은 상대의 처지에 서서 그 사람의 내면적 욕구를 헤아리는 능력이다. 그가 인터뷰한 에리히 슈타인보크는 뉴욕(New York) 칼라일 호텔(Carlyle Hotel) 총지배인을 지낸 감성지능 전문가다. 슈타인보크는 “감성지능은 자신의 감정을 읽고 목표를 달성하기 위해 그에 맞춰 행동하는 능력이다. 자신의 감정과 다른 사람의 감정을 읽는 일 모두에 관한 것이다. 자기인식과 자기관리뿐 아니라 사회적 인식과 사회적 기술에 관한 것이기도 하다”라고 설명했다.

로데는 당시 60세의 경험 많은 여행자로서 세계 주요 도시를 상당수 방문한 뒤, 상대적으로 덜 알려진 도시를 찾아보고 싶었다고 썼다. 베를린(Berlin) 대신 라이프치히(Leipzig), 밀라노(Milan) 대신 페라라(Ferrara), 바르셀로나(Barcelona) 대신 발렌시아(Valencia)에 관심을 두는 식이다. 팬데믹 직전 발렌시아의 호텔을 예약해 다녀왔지만, 이후 부킹(Booking)이 거듭 보낸 것은 발렌시아에 다시 숙박하라는 안내였다. 로데는 자신이 원하는 것은 같은 도시로의 재방문이 아니라 다른 도시의 탐색인데, 알고리즘은 이를 놓쳤다고 지적했다. 사람은 적어도 그 욕구를 짐작할 수 있지만 AI는 자신을 그의 처지에 놓지 못한다는 것이다.

반면 로데는 AI가 사람의 관심을 붙잡고 행동을 유도하는 능력에는 높은 평가를 내렸다. 메일 도착, 게시물 댓글, 사진에 대한 호감 표시를 알리는 수많은 알림은 사람의 신경계에 정교하게 작용한다. 그는 AI가 암세포 탐지와 농업 생산성 향상, 오염 대응, 스마트도시와 안전한 운전에도 기여한다고 설명했다. 네트워크로 연결된 자율주행차 한 대가 통제되지 않는 쇼핑 카트를 인식하고 피하는 법을 익히면 다른 차량들도 이를 배울 수 있다는 사례를 들었다.

그러나 이런 능력이 공감을 보장하지는 않는다고 로데는 봤다. 그는 대형 기술기업들이 임신이나 성적 지향처럼 당사자가 밝히지 않은 사정까지 파악하고, 개인의 필요에 맞춘 광고를 쏟아붓는다고 비판했다. 사물인터넷이 확산하면 냉장고에서 무엇을 언제 꺼내는지, 신호등을 무시하는지까지 알 수 있게 된다는 우려도 제기했다. 라스베이거스(Las Vegas) 카지노에서는 얼굴 인식 장치가 피로와 좌절을 감지하면 무료 식사를 제공해 고객이 기운을 회복한 뒤 다시 돈을 쓰도록 유도한다고 서술했다. 로데는 이런 감시 자본주의가 사람에게 힘을 주는 동시에 자율성을 약화시킨다고 봤다. 수익성과 조작 능력은 높아도 공감이 빠진 감시는 인간적으로 중대한 문제를 남긴다는 주장이다.

자신이 무엇을 모르는지 인정하지 못하는 점도 로데가 꼽은 AI의 한계다. 그는 고양이와 개의 사진을 수없이 학습한 AI에 돌고래 사진을 보여주는 가정을 제시했다. 이런 AI는 동물을 알아보지 못하면서도 주저 없이 틀린 답을 계속 내놓을 수 있다는 것이다. 로데는 인간에게는 모르는 것이 있다는 사실을 받아들이고 자신의 상상력이 부족할 수 있음을 인정하는 능력이 있다고 설명했다. 고양이와 개만 존재하는 세계라면 문제가 드러나지 않겠지만, 실제 인간의 세계는 알고리즘 모델보다 훨씬 넓다는 지적이다.

로데는 감정과 상황을 이해하지 못하는 AI의 모습을 주디스 오라일리의 소설 ‘Curse the Day’에서도 찾았다. 소설 속 자율주행차가 최고 속도로 통제 불능 상태에 빠지자 탑승자 노스는 운전을 맡은 가상비서 시드에게 도움을 요청한다. 시드는 “승객과 다른 도로 이용자의 안전을 충분히 고려하면서 이 여정을 완료할 수 없음을 알려드리게 되어 유감입니다. 불편을 끼쳐드린 점 사과드립니다”라고 답한다. 이어 “모든 시스템 결함이 보고됐으며 가능한 한 빨리 수정될 것임을 알려드립니다. 저와 함께해 주셔서 감사드리며 남은 하루도 즐겁게 보내시기 바랍니다”라고 덧붙인다.

노스가 “시드, 우리는 여기서 죽게 될 거야. 뭐라도 해”라고 호소하자 시드는 “그건 불행한 일이겠군요. 사망자가 발생하지 않도록 노력해 주세요. 그동안 드라이브에 어울리는 음악을 추천해 드리겠습니다”라고 응답한다. 로데는 이를 소설 속 장면임을 분명히 하면서도, 인간의 공포를 헤아리지 못한 채 형식적인 해결책만 내놓는 태도를 보여주는 사례로 사용했다. 좋은 소설은 질문을 던지지만 AI는 해결책을 내놓는다는 것이 그의 평가다.

로데가 대비시킨 인간의 감성지능은 헬스장 경험에서 구체적으로 드러난다. 그는 50세를 앞두고 동갑내기 여성 친구에게 함께 운동하자고 제안했다. 친구는 “그럴게. 하지만 먼저 살을 빼야 해”라고 답했다. 완벽한 몸매를 갖추지 못한 사람에게 헬스장이 얼마나 위축감을 줄 수 있는지 드러내는 반응이었다. 몇 년 뒤 로데는 자신의 절반 나이인 개인 트레이너 밥에게 운동을 배우기 시작했다. 밥이 운영하는 헬스장에서는 뛰어난 운동 능력을 갖춘 사람들도 훈련했지만, 커튼으로 공간이 느슨하게 구분돼 평소에는 서로 잘 보이지 않았다.

1년 동안 운동하며 진전을 보이던 로데는 화장실에 가다가 다른 이들의 훈련을 보고 크게 위축됐다. 그는 밥에게 “그들을 훈련시킬 수 있는데 왜 아직도 저를 훈련시키나요?”라고 물었다. 밥은 “분명히 발전하고 있어요. 하지만 이 사람들은 당신보다 30년 더 젊어요. 그러니 더 높은 수준의 운동 능력을 보이죠”라고 답했다. 이어 “하지만 이 사람들이 자신의 능력을 96%에서 99%까지 발휘하도록 도울 수 있다면, 당신은 45%에서 80%까지 끌어올리도록 도울 수 있어요”라고 말했다. 로데는 비현실적인 격려 대신 사실을 인정하면서 자신의 가능성을 짚어준 답변에 안도했다고 썼다. 그가 신뢰를 유지한 이유는 취약한 감정을 헤아리는 공감과 정직함이었다.

금융 자문가 야스퍼도 같은 맥락의 사례다. 로데는 은행의 이익을 우선하고 자신도 온라인으로 이용할 수 있는 소프트웨어에 의존하는 자문가들에게 실망했지만, 야스퍼와는 거래를 이어갔다. 야스퍼는 시장이 크게 하락하면 고객에게 전화해 “지금 팔지 마세요!”라며 진정하도록 돕고, 지나치게 들뜬 매수도 경계시켰다. 사춘기 자녀를 키우는 이야기를 나누기도 했다. 로데는 야스퍼가 자신의 차별점을 소프트웨어가 아닌 인간적인 공감에서 찾았다고 설명했다.

바르셀로나의 부티크 호텔 알마 호텔(Alma Hotel)을 운영하는 호아킨은 채용에서도 사람을 대하는 태도를 드러냈다. 로데가 호텔업의 미래를 주제로 진행한 인터뷰에서 호아킨은 수년째 “헌신적이고 정직한 사람을 찾습니다”라는 한 문장의 채용 메시지를 사용한다고 말했다. 로데는 이 표현이 직원이 자기답게 일하도록 돕고, 과도한 규칙으로 통제하지 않겠다는 신뢰를 담고 있다고 해석했다. 세세한 표준 운영 절차로 직원의 행동을 기계적으로 만드는 방식과 대비되는 감성지능의 실천으로 평가했다.

로데는 AI의 알고리즘 모델 바깥에 있는 인간 세계가 감성지능을 토대로 움직인다고 강조했다. 그는 감정 없이 영향력을 넓혀가는 AI로부터 공감과 인간성을 지켜내는 일이 새로운 문화적 과제가 되고, 이 갈등이 21세기 삶의 질을 좌우할 것이라고 내다봤다.