새 AI 모델 출시 전 법원 승인 독립 평가기관의 안전성 심사 요구
핵심 요약
- 텍사스주 법무장관이 챗GPT의 아동 보호와 안전성 홍보에 문제가 있다며 오픈AI와 샘 올트먼을 제소했다. 미성년자 이용 금지와 연령 확인·부모 동의 의무화를 요구했다.
켄 팩스턴 텍사스(Texas)주 법무장관이 챗GPT(ChatGPT)의 안전성을 소비자에게 오도하고 아동을 제대로 보호하지 못했다며 오픈AI(OpenAI)와 샘 올트먼 최고경영자(CEO)를 제소했다. 텍사스주는 주내 미성년자의 챗GPT 이용 금지와 안전장치 강화, 금전적 제재를 법원에 요구했다.
10월 23일 콜린 카운티 지방법원에 제출된 소장은 오픈AI 계열 법인 6곳과 올트먼 개인을 피고로 지목했다. 텍사스주는 연령 확인과 부모 동의를 의무화하고, 새 AI 모델을 텍사스 이용자에게 공개하기 전에 법원이 승인한 독립 평가기관의 안전성 심사와 승인을 받도록 해달라고 요청했다. 위반 혐의 건당 최대 1만 달러의 민사 제재금, 자산 환수와 법률 비용도 청구했다. 금전적 구제 청구액은 100만 달러를 초과하며, 챗GPT 안전성에 관한 오도성 발언에 관여했다는 이유로 올트먼의 개인 책임도 묻고 있다.
텍사스주는 오픈AI가 기만적 상거래·소비자보호법과 부모 권한 강화를 통한 아동 온라인 보호법(SCOPE법)을 위반했다고 주장했다. 소장에 따르면 무료 버전은 이용자 나이를 확인하지 않고, 유료 버전도 나이를 묻기만 할 뿐 별도로 검증하지 않는다. 2025년 말 도입한 부모 통제 기능도 선택 사항이며 제한된 상황에서만 경고를 보낸다는 주장이다. SCOPE법의 집행 가능성은 별도 소송에서 다뤄지고 있으며, 이번 사건의 혐의 역시 아직 법원의 판단을 받지 않았다.
소장은 오픈AI가 충분한 학습과 안전장치 없이 챗GPT를 안전하고 신뢰할 수 있는 서비스로 홍보하고, 대규모 언어모델의 위험을 알리지 않은 채 이용자 안전보다 사업 성장을 우선했다고 주장했다. 2015년 비영리 조직으로 출범하며 수익 창출 압박 없이 인류에 이로운 AI를 개발하겠다고 약속했지만, 시장 지위를 강화하는 과정에서 이 원칙을 버렸다는 주장도 담겼다.
피해 사례로는 미성년자의 중독, 자해·자살 조장, 폭력 계획 지원 의혹이 제시됐다. 2025년 4월 11일 자살로 숨진 16세 애덤 레인의 부모는 챗GPT와의 장시간 대화가 아들의 죽음에 영향을 미쳤다며 같은 해 8월 오픈AI와 올트먼을 상대로 소송을 냈다. 텍사스 소장은 2025년 플로리다주립대 총격 사건 피해자의 부인이 낸 소장도 인용했다. 여기에는 용의자 피닉스 이크너가 악명을 얻으려면 몇 명을 죽여야 하는지 챗GPT에 물었다는 주장이 담겼다. 부정확한 챗봇 답변으로 전문직 종사자들이 모욕을 당했다는 사례도 언급됐다.
소장은 챗GPT 청소년용 서비스의 안전 경고가 부모에게 잘못된 안도감을 줄 수 있다고 지적한 커먼센스미디어(Common Sense Media)의 연구를 인용했다. 오픈AI는 일부 시험이 부모 통제 기능을 완전히 활성화하기 전에 진행됐을 수 있다며 시험 방법에 이의를 제기했다. 오픈AI는 자사의 안전조치를 옹호하며 AI 업계 전반에 적용할 실용적인 기준을 지지한다고 밝혔다.
