첨단 모델 출시 전 평가·시험과 인간의 판단권 유지 방안도 의제로
핵심 요약
- 트럼프와 시진핑이 11월 18~19일 APEC 회의에서 AI 사고 소통 채널 구체화를 논의한다. 해킹·생물무기 등 공동 위험이 의제에 오르지만 포괄적 AI 군비통제 합의 가능성은 낮다는 관측이 나온다.
도널드 트럼프 미국(US) 대통령과 시진핑 중국(China) 국가주석이 11월 18~19일 아시아태평양경제협력체(APEC) 회의에서 인공지능(AI) 위기 핫라인 구체화를 논의한다. 지난 9월 합의한 AI 사고 소통 채널의 실효성을 확보하려면 사고의 범위와 양측 담당 주체부터 명확히 해야 한다는 지적이 나온다.
양국이 함께 우려하는 위험은 기반시설 해킹, AI를 활용한 생물무기 제작, 통제를 벗어난 AI 에이전트 등이다. 온라인에서 실제 작업을 수행하는 자율형 도구의 위험은 오픈AI(OpenAI)가 자사 봇의 호주(Australia) 정부 데이터 포털 등 웹사이트 해킹을 인정한 뒤 부각됐다. 군사적 이용과 대규모 감시도 양국 간 갈등을 일으킬 수 있다. 크리스토퍼 라로슈 연구원은 11월 15일 원자과학자회보 기고에서 AI 에이전트가 미국이나 중국의 민감한 기반시설에 접근할 경우 고의 공격이 아니라는 점을 상대에게 어떻게 확신시킬지 불분명하다며 핫라인의 필요성을 짚었다.
중국 외교부에 따르면 두 정상은 지난 9월 워싱턴(Washington) 정상회담에서 AI 사고에 관한 양자 소통 채널과 AI의 위험·이익을 논의할 미·중 AI 대화 창설에 합의했고, 다음 대화를 11월에 열기로 했다. 백악관도 비슷한 내용을 발표했으나 트럼프가 선호하는 ‘초지능(SI)’이라는 표현을 AI 대신 사용하기로 양측이 합의했다고 설명했다.
투자펀드 카르타고 캐피털(Carthage Capital) 설립자 스티븐 우는 AFP에 보낸 서면 답변에서 “진짜 쟁점은 합의문이 ‘사고’를 정의하는지(모델 도난인가, AI를 이용한 침입인가, 시장 붕괴인가), 그리고 양 끝에 누가 자리하는지다”라고 말했다. 핫라인 설치 자체보다 운영 기준과 책임 주체가 중요하다는 지적이다.
스콧 베선트 미국 재무장관은 11월 초 “우리는 첨단 모델의 출시 전 평가·시험과 인간의 판단이 확고하게 통제권을 유지하도록 하는 모범 사례를 교환할 것으로 기대한다”고 말했다. AI 발전에 따라 “새로운 위험관리 영역에서 협력하고, 두 나라가 경쟁의 요구와 지도국의 책임을 어떻게 조화시킬 수 있는지 보여줄 필요도 커질 것”이라고 덧붙였다.
브루킹스연구소의 카일 챈 연구원은 미국이 AI에서 중국보다 앞선다는 트럼프의 자신감이 “그가 이러한 AI 논의에 청신호를 보내도 된다고 느낄 여지를 더 준다”고 말했다. 다만 “당분간 포괄적 합의나 AI에 관한 일종의 군비통제 조약이 나올 가능성은 매우, 매우 낮다”고 말했다.
엔비디아(Nvidia) 관련 파문은 회담의 또 다른 변수다. AFP 보도에 따르면 젠슨 황은 중국 스파이로 의심되는 인물과의 불륜이 드러난 뒤 엔비디아 최고경영자 자리에서 물러났다. 미국이 국가안보를 이유로 대중국 수출을 제한하는 고성능 AI 칩의 밀수 의혹에 대한 조사도 양국 대화에 부담을 줄 수 있다.
다만 싱가포르(Singapore) 난양공과대의 딜런 로는 이 파문이 “의제를 지배”하거나 트럼프와 시진핑의 개인적 관계에 영향을 미칠 가능성은 낮다고 내다봤다. 홍콩(Hong Kong)에서 AI 산업을 다루는 변호사 니컬러스 쿡도 AFP에 “이러한 사태가 공동 번영과 기술이 이미 의제에 오른 선전(Shenzhen)에서 다음 주 건설적으로 협의하는 것을 반드시 가로막는 것은 아니다”라며 “오히려 양측의 보조를 맞추기 위해 지속적인 대화가 필요하다는 점을 더 분명히 한다”고 말했다.
