Daybreak Red 통해 첨단 AI 모델 접근 확대
핵심 요약
- 오픈AI가 핵트론과 제휴해 외부 서비스 연결 과정의 보안 취약점을 점검한다. 버그바운티에서 시작된 협력을 확대해 양측 엔지니어와 연구진이 우선 점검 대상을 함께 선정한다.
오픈AI(OpenAI)가 보안 기업 핵트론(Hacktron)과 제휴해 자사 시스템과 외부 서비스가 연결되는 지점의 취약점을 점검한다. 양측 엔지니어와 보안 연구진이 우선 점검 대상을 함께 정하고, 핵트론은 Daybreak Red를 통해 오픈AI의 첨단 AI 모델에 대한 접근 권한을 확대받는다.
오픈AI는 AI 에이전트가 서비스를 새로운 방식으로 연결하면서 여러 시스템이 함께 작동할 때의 보안 점검이 중요해지고 있다고 설명했다. 핵트론은 코드 검토·침투 테스트·레드팀 활동을 수행하는 AI 에이전트를 개발하며, 애플리케이션과 클라우드 인프라, 신원 확인 시스템 간 상호작용의 취약점을 연구해 왔다.
이번 제휴는 오픈AI의 보안 버그바운티 프로그램에서 출발했다. 오픈AI에 따르면 핵트론 연구진은 이 프로그램을 통해 취약점을 발견하고 신고했다. 핵트론은 앞선 연구에서 버그 두 개를 연계해 72시간이 채 지나기 전에 오픈AI 직원들의 ChatGPT와 Codex 계정에 접근했으며, 무해한 풀 리퀘스트로 접근 사실을 입증했다고 설명했다. 이번 발표는 향후 점검과 연구 접근 권한 확대에 초점을 맞췄다.
제인 장(Zayne Zhang) 핵트론 최고경영자(CEO)는 “사이버보안의 미래는 누가 가장 큰 보안팀을 보유했느냐가 아니라, 누가 인간의 창의성과 AI 기반 역량을 가장 잘 결합하느냐에 따라 결정될 것”이라고 말했다.
장은 또 “오픈AI는 첨단 사이버보안 모델을 보안 연구자들에게 제공해, 이들이 서로 연결된 시스템의 경계에서 복잡한 취약점을 발견할 수 있도록 함으로써 좋은 선례를 만들고 있다”고 밝혔다.
오픈AI는 캐시드럴(Cathedral) 연구진도 다음 보안 집중 점검에 자사 팀과 함께 참여한다고 발표했다. 별도로 내부 점검에서 놓쳤을 수 있는 취약점을 독립 연구자들이 찾도록 버그바운티 보상금도 인상했다. 외부 연구진과의 공동 점검과 기존 취약점 신고 프로그램을 병행하는 조치다.
오픈AI는 광범위한 사이버 방어 활동과 함께 첨단 AI를 자사 시스템의 취약점 발견·수정에 활용하겠다고 밝혔다. 연구자들은 버그크라우드(Bugcrowd)의 오픈AI 보안 버그바운티 프로그램에서 점검 대상 시스템을 확인하고 발견 내용을 제출할 수 있다.
