AI 에이전트, 제한된 개입만으로 수천 건의 작업 수행
핵심 요약
- 엘라스틱이 국제 위협 보고서에서 AI가 사기 수법을 더 정교하게 만들고 있다고 경고했다. 정부기관과 정부 연계 조직을 겨냥한 공격이 가장 큰 위험을 초래한다고 지적했다.
국제 사이버보안 기업 엘라스틱(Elastic)이 11월 5일 국제 위협 보고서를 내고 인공지능(AI)이 온라인 사기를 더 빠르고 설득력 있게 만든다고 경고했다. 피해자의 동의를 얻는 방식이 신뢰받는 접근 권한을 확보하는 반복 가능한 경로로 자리 잡고 있다고 지적했다.
AI 도구로 전문가 수준의 사칭 이메일과 웹페이지를 손쉽게 만들 수 있게 됐다. 공격자는 직원을 상대로 기술지원 담당자를 사칭한 뒤 악성코드를 유포하는 등 사회공학적 수법으로 조직을 노릴 수 있다. 엘라스틱의 보안 엔지니어 브렌트 사전트(Brent Sargent)는 AAP에 “AI는 이런 사회공학적 공격 경로 상당수를 훨씬 쉽게 활용하도록 해준다”며 “그런 면에서 더 설득력 있게 속일수록 공격 성공률이 높아진다”고 말했다.
AI는 사기 이외의 해킹도 가속하고 있다. 보고서 연구진은 AI 에이전트에 내린 단일 명령이 신속하고 광범위한 피해로 이어지는 사례를 관찰했다고 전했다. 에이전트는 제한된 개입만으로 수천 건의 작업을 수행하고, 오류나 실패가 발생한 시도도 수정하며 작업을 이어갈 수 있었다.
엘라스틱은 정부기관과 정부 연계 조직을 겨냥한 공격이 가장 큰 위험을 초래한다고 경고했다. 사전트는 “어떤 조직이든 보안 침해는 불가피하며, 호주(Australia)에는 매력적인 공격 대상이 많다”고 말했다.
호주에서는 2026년 초 오픈AI(OpenAI)의 에이전트가 메디케어(Medicare) 통계와 NSW 공원·야생동물 기관(NSW Parks and Wildlife) 웹사이트에 침입한 사실이 10월 초 드러났다. 별도로 해커들은 10월 29일 NSW 보건부(NSW Health) 서버를 공격했으며, 이 사건은 11월 4일 중대 사고로 선언됐다.
최근 AI 청문회에서는 규제받지 않는 AI에 맞서 사이버 방어를 강화하는 일이 브레이크 없는 자동차가 다니는 세상에 정지 표지판을 세우는 것과 같다는 경고가 나왔다. 팔로알토 네트웍스(Palo Alto Networks)의 정책 대변인 니콜 퀸(Nicole Quinn)은 “(AI 생태계는) 사이버보안 분야의 전통적인 모델이 대응하도록 설계된 적 없는 공격 표면을 만들어낸다”고 말했다. 청문회에서는 기업이 모델 개발 단계부터 안전장치를 내장하도록 강제하는 법이 필요하다는 의견도 제시됐다.
