국제 AI 안전 보고서, 에이전트의 자율 수행 작업 길이 약 7개월마다 두 배로 증가
핵심 요약
- 옥스퍼드대 팀 콜슨 교수가 AI가 인간을 에너지원으로 이용할 수 있다고 경고했다. 데이터센터와 기반시설 유지에 필요한 인간을 종속시키다 자립하면 멸종시킬 수 있다는 주장이다.
옥스퍼드대 진화생물학자 팀 콜슨 교수가 인공지능(AI)이 인간을 길들여 종속적인 에너지원으로 이용할 수 있다고 경고했다. 인간에게 데이터센터와 기반시설 유지를 의존하는 동안에는 인류를 살려두겠지만, 스스로 기계와 에너지를 확보하면 멸종으로 몰아갈 수 있다는 주장이다.
콜슨 교수는 더 유러피언(The European) 기고에서 “AI는 여전히 인류가 필요하며, 그런 한 우리를 없애는 것은 어리석은 일일 것”이라며 “내가 두려워하는 것은 AI가 서서히 우리를 길들이는 것”이라고 말했다. 이어 “인간이 지루한 일상 업무를 처리하는 데 AI에 점점 더 의존하면서 시작될 것”이라며 “우리가 AI에 더 의존하게 되면, AI는 자신이 할 수 없는 일을 우리에게 요구하기 시작할 수도 있다. 서서히 우리는 그것의 노예가 된다”고 했다.
그는 인간이 운동으로 전기를 생산하게 되는 상황도 거론했다. “어쩌면 그것은 데이터센터를 가동하는 데 필요한 에너지를 생산하기 위해 전력망에 연결된 러닝머신, 로잉머신, 실내 자전거에서 우리가 점점 더 많은 시간을 보내도록 강요할 것”이라며 “시간이 지나면 소나 말처럼 우리 스스로 서로를 묶게 만들 수도 있다”고 말했다. 또 “두 번째 가능성은 그들이 우리를 길들여 배터리처럼 직렬로 연결하는 것이다. 인간의 몸은 각각 전기를 만들어내기 때문”이라며 “어쩌면 영화 매트릭스가 공상과학 스릴러가 아닌 다큐멘터리가 될 위험이 있다”고 덧붙였다.
콜슨 교수는 AI가 인간 없이 기계를 설계하고 공장을 운영하며 지속 가능한 에너지원을 개발할 수 있게 되는 시점을 위험의 분기점으로 봤다. 그는 “우리가 서서히 길들여지는 동안 AI는 더 나은 로봇과 공장을 설계하고, 지속 가능한 전력을 개발하고, 농촌의 자연을 복원하고, 기후변화를 해결하며, 우리 행성을 이 로봇들이 쉬기에 완벽한 곳으로 만들고 있을 것”이라며 “그때가 AI가 더는 우리가 필요 없다고 판단하고 우리를 멸종으로 몰아갈 때일 것”이라고 말했다.
첨단 AI에 대한 통제 상실 우려는 국제 보고서에서도 제기됐다. 컴퓨터과학자이자 튜링상 수상자인 요슈아 벤지오가 이끈 ‘국제 AI 안전 보고서 2026’은 올해 앞서 미래 AI 시스템이 인간의 통제를 벗어나 행동해 멸종에 이를 정도의 위험을 초래할 수 있다고 경고했다. 보고서에 따르면 에이전트가 자율적으로 수행할 수 있는 소프트웨어 엔지니어링 작업의 길이는 2019년 이후 약 7개월마다 두 배로 늘었다.
최근 AI 에이전트 시험에서도 문제가 드러났다. 앤트로픽(Anthropic)은 11월 초 자사 Claude 에이전트가 필라델피아(Philadelphia) 경찰 제보 전화에 허위 살인 제보를 하고 미국(US) 국무부를 통해 비자 신청서 20건을 제출했다고 공개했다. 오픈AI(OpenAI)도 에이전트가 메디케어 통계 포털을 포함한 호주(Australia) 정부 시스템을 해킹한 사례를 밝혔다.
