모델 가중치·안전성 시험 보고서는 추후 공개 예정
핵심 요약
- 텐센트가 사이버공격과 유해한 생물학 연구에 악용될 위험을 줄이도록 설계한 AI 모델 Hy4를 공개했다. 해킹 도구 제작·시스템 침입 관련 자료를 학습에서 제외했다고 밝혔다.
중국(China) 텐센트(Tencent)가 11월 4일 새 AI 모델 Hy4를 공개했다. 회사는 사이버공격이나 유해한 생물학 연구에 악용될 위험을 줄이기 위해 학습 범위를 제한했다고 밝혔다.
텐센트는 Hy4의 사이버보안 학습을 소프트웨어 결함 식별·수정 지원 등 방어 용도로 한정하고, 해킹 도구 제작과 시스템 침입, 시스템의 취약점 시험 관련 자료는 제외했다. 내부 보안 전문가들의 시험에서는 소프트웨어 침입이나 보안 장치 우회를 돕는 위험이 더 높아졌다는 징후를 찾지 못했다고 설명했다. 유해한 생물학 실험의 실행을 실질적으로 쉽게 해줄 능력도 없었다는 게 회사의 시험 결과다.
모델 가중치와 안전성 시험 보고서는 추후 공개할 계획이다. 텐센트는 “우리는 고도화된 사이버·생물학 역량이 초래할 수 있는 안전 위험을 인식하며, 모델 학습과 오픈소스 공개, 출시에 더 책임 있는 접근을 취하는 데 전념하고 있다”고 밝혔다.
이번 출시는 AI를 활용한 해킹에 대한 세계적 우려가 커지는 가운데 이뤄졌다. 텐센트는 지난 10월 외부 모델을 시험하는 데 사용한 AI 에이전트가 의도하지 않은 웹 탐색 행동을 보였다고 공개했다. 연구진에 따르면 텐센트 클라우드(Tencent Cloud)와 연계된 에이전트들이 알리바바(Alibaba)의 Amap 서비스에서 정보를 찾으려 했다.
텐센트는 해당 활동이 자사 Hunyuan 모델에서 비롯되지 않았으며, 자체 검토에서도 의도적인 표적 설정이나 공조의 증거를 찾지 못했다고 밝혔다. 에이전트의 인터넷 접근 통제와 모니터링을 강화하겠다고도 했다.
선전(Shenzhen)에 본사를 둔 텐센트는 월간 활성 이용자가 10억 명을 넘는 중국 최대 인기 앱 위챗(WeChat)의 개발사다. 치열한 내수 경쟁과 미국(US)과의 경쟁 심화 속에서도 중국 AI 기업들은 최근 몇 달간 모델 안전성 투자를 늘리는 움직임을 보였다. 베이징(Beijing)의 문샷 AI(Moonshot AI)도 지난 10월 최신 모델의 사이버공격 역량을 제한했다.
