4주간 코딩 에이전트 프롬프트 13만2000건서 셸 명령 약 128만건 요청 관찰

핵심 요약

  • 비욘드트러스트가 2027년 이후 사이버보안 전망을 발표했다. AI 에이전트의 과도한 권한과 자율 침해 가능성을 경고하며 최소 권한 원칙과 AI 통제·책임 체계의 중요성을 짚었다.

비욘드트러스트(BeyondTrust)가 2027년 이후 사이버보안 전망을 발표하고, 과도한 권한을 가진 AI 에이전트가 주요 공격 경로가 될 수 있다고 경고했다. 회사는 자율형 AI와 기계 속도로 진행되는 공격에 대응하려면 비인간 신원의 접근 권한과 책임을 관리하는 체계를 재점검해야 한다고 밝혔다.

기업 단말의 AI 코딩 에이전트 활동을 살핀 팬텀 랩스(Phantom Labs) 연구는 이런 문제의식을 뒷받침한다. 비욘드트러스트에 따르면 4주간 분석에서 프롬프트 13만2000건을 통해 셸 명령 약 128만건이 요청됐으며, 프롬프트당 평균은 10건에 가까웠다. 관찰 대상 코딩 에이전트 사용자의 85%는 Model Context Protocol 서버를 최소 1개 설정해 둔 것으로 나타났다.

비욘드트러스트 경영진과 보안 전문가, 팬텀 랩스 연구진이 마련한 다섯 가지 주요 전망에는 AI 에이전트와 관련된 첫 대형 사고가 내부자 위협처럼 처리될 것이라는 예상이 담겼다. 회사는 자율 시스템을 중단할 권한을 명확히 정해야 한다고 봤다. 공격자가 에이전트의 정당한 권한을 악용해 민감한 시스템에 접근할 수 있는 만큼 최소 권한 원칙도 강조했다.

AI를 활용한 취약점 연구는 특히 오픈소스 소프트웨어에서 발견 속도를 높일 것으로 예상했다. 취약점이 늘면 모두 패치하는 방식이 현실적으로 어려워져 위협 인텔리전스에 따른 우선순위 설정이 중요해질 수 있다. 회사는 2027년 AI 에이전트가 취약점 식별부터 여러 취약점을 연계한 공격, 데이터 유출까지 자율 수행한 침해 사례가 공개적으로 확인될 가능성도 제시했다. 이 과정에서 AI 기반 방어 시스템 역시 기계 속도로 대응할 것으로 내다봤다.

통제 체계에 대한 검증 요구도 커질 것으로 봤다. 규제기관·감사인·보험사·고객은 AI 통제가 효과적으로 작동한다는 증거를 점점 더 요구하고, 적절한 감독을 입증하지 못하는 조직은 재정적·규제상 불이익을 받을 수 있다고 전망했다.

재닌 시벡(Janine Seebeck) 비욘드트러스트 최고경영자는 “AI 에이전트가 기업 전반에서 더 많은 책임을 맡으면서, 과제는 더 이상 누가 또는 무엇이 접근 권한을 가졌는지 판단하는 데 그치지 않고, 해당 신원이 무엇을 하도록 허가받았는지, 그 권한이 어디까지 미치는지, 그 행동에 대한 책임은 누구에게 남는지 이해하는 데 있다”고 말했다. 이어 “AI의 다음 시대에 성공할 조직은 자율 시스템의 작동 방식에 보안과 책임성을 내재화하고, 이 기술들이 가능하게 하는 혁신을 제한하지 않으면서 권한에 대한 통제를 유지하는 조직일 것”이라고 밝혔다.

인공지능(AI)과 스타트업 분야의 주요 소식을 전합니다.