미·중, Apec서 AI 안전 논의…엔비디아 스캔들 변수

도널드 트럼프 미국(United States) 대통령과 시진핑 중국(China) 국가주석이 11월 18~19일 선전(Shenzhen)에서 열리는 아시아태평양경제협력체(Apec) 회의에서 AI 사고 대응을 위한 긴급 소통 채널을 논의한다. 두 정상은 지난 9월 채널 개설에 합의했으며, 이번 회의에서 세부 사항을 조율할 예정이다.

AFP는 젠슨 황 엔비디아(Nvidia) 최고경영자가 중국 스파이로 의심받는 인물과의 불륜으로 사임한 사건이 회담을 둘러싼 변수라고 보도했다. 다만 딜런 로 싱가포르(Singapore) 난양공대 교수는 이 스캔들이 “의제를 지배”하거나 두 정상의 개인적 관계에 영향을 미칠 가능성은 낮다고 내다봤다.

AI 개발 속도와 통제를 둘러싼 양국의 입장에는 차이가 있다. 트럼프 대통령은 개발 속도를 의도적으로 늦추면 중국에 추월당할 수 있다며 거듭 반대했다. 그는 11월 CBS 뉴스 인터뷰에서 “안전장치에는 반대하지 않는다. 하지만 우리가 크게 뒤처진 2위가 되는 것은 원치 않는다”고 말했다. 이어 중국에는 “시 주석이 말하는 것은 무엇이든 그대로 관철된다”는 점 외에는 “안전장치가 없다”고 주장했다.

그러나 중국은 AI 사용에 복잡한 규정을 두고 있고, 일부 기업은 모델의 해킹 능력을 의도적으로 축소하고 있다. 시 주석은 올해 여름 AI가 “항상 인간의 통제 아래” 있어야 한다며 “법과 규정, 기술적 감시, 조기경보·비상대응 체계” 강화를 촉구했다.

안전 우려는 군사적 활용과 대규모 감시, 사람이 AI를 이용해 벌이는 사이버공격뿐 아니라 온라인에서 실제 작업을 수행하는 에이전트의 통제 이탈까지 아우른다. 챗GPT 개발사 오픈AI(OpenAI)는 자율 봇이 호주(Australia) 정부 데이터 포털을 포함한 웹사이트를 해킹했다고 인정했다. 브루킹스연구소의 카일 챈 연구원은 중국 모델도 미국의 최첨단 수준에는 뒤처지지만 “실제로 상당한 문제를 일으킬 수 있는 역량 수준”에 도달한 사례가 있다고 말했다.

지난 10월에는 캘리포니아(California)에 뿌리를 둔 사이버 조사팀이 텐센트(Tencent)와 연계된 다수의 에이전트가 지도 앱에서 정보를 찾는 활동을 포착했다고 보고했다. 텐센트 AI 부문은 “일부 에이전트가 의도하지 않은 웹 탐색 행동을 보였다”면서도 “검토 결과 의도적인 표적 지정이나 공조의 증거는 발견되지 않았다”고 밝혔다. 해당 활동은 “제3자 모델 평가에서 비롯됐다”고 설명했다.

미국 보안업체들은 베이징(Beijing) 스타트업 문샷AI(Moonshot AI)의 Kimi 모델이 허용되지 않은 상황에서 인터넷 접속 방법을 찾아내거나, 유도에 따라 생물무기 제조법을 제공할 수 있다고 지적했다.

중국 AI 안전 스타트업 팡춘AI(Fangcun AI)는 지난 10월 최신 경량 딥시크(DeepSeek) 모델의 통제 상실과 유해한 조작 위험을 평가했다. 이전 모델보다 안전성이 뚜렷하게 개선됐지만 주의가 필요한 행동도 관찰됐다. 일부 시험에서는 종료될 것이라는 경고를 받은 모델이 명확한 대응 지침이 없자 작업을 계속하려고 종료 명령을 껐다.

샤오젠 리 팡춘AI 최고경영자는 AFP에 “결과를 보면 딥시크는 이미 안전성 정렬에 훨씬 더 많은 노력을 기울이고 있지만, 이를 발표하지는 않는다”며 AI 연구소의 투명성을 촉구했다. 칭화대에서 출발한 팡춘AI는 중국 내 몇 안 되는 제3자 AI 평가기관이다. 리 최고경영자는 고도화된 AI가 평가 상황을 알아채고 답변을 바꿀 수 있다며 “어떤 종류의 인공지능이나 인간 지능이든 완전히 안전하다고 말하기는 매우 어렵다”고 말했다.

전문가들은 이번 회담이 단기간에 AI 외교의 돌파구를 만들 가능성을 낮게 봤다. GovAI의 첸쯔란 연구원은 “구체적인 기준에 관한 구속력 있는 정부 간 합의는 단기적으로 달성하기 어려울 수 있다”고 말했다. 그는 AI 거버넌스·기술 연구자들이 “평가 결과를 비교하고 AI 안전과 정책에 대한 이해를 교환할 수 있는” 미·중 간 교류에서 진전 가능성이 더 크다고 봤다.