개인정보·자율성·평등·안전 보호를 기준으로 기업 의무와 개인 권리 연결
핵심 요약
- 실비아 루 아메리칸대 법학 조교수는 AI 규제의 중심에 피해를 둬야 한다고 제안했다. 개발 단계의 피해 평가부터 도입 후 감시·신고·피해 구제를 연결하는 규제 체계를 강조했다.
인공지능(AI) 규제를 개별 기술이 아닌 피해 중심으로 설계해야 한다는 제안이 나왔다. AI와 디지털 피해를 연구하는 실비아 루 아메리칸대 법학 조교수는 기술과 조직이 달라도 같은 권익을 침해할 수 있다며, 이를 기준으로 기업의 의무와 개인의 권리를 연결하는 규제 체계가 필요하다고 제시했다.
루 조교수가 제안한 틀은 개발부터 도입 이후까지 이어진다. 개발자에게 합리적으로 예견할 수 있는 피해를 개발 전 과정에서 평가하고, 시험 방법과 완화 조치를 기록·설명하도록 요구할 수 있다. AI를 도입하는 기업과 정부기관에는 도입 후 피해를 감시할 의무를 부여할 수 있다. 심각하거나 반복되는 피해는 성격과 심각성에 따라 규제기관, 피해 당사자 또는 대중에게 알리도록 하고, 영향을 받는 사람에게는 적절한 경우 통지받을 권리와 구제를 청구할 기회를 인정하자는 접근이다.
보호 대상은 개인정보, 자율성, 평등, 안전 등이다. 개인정보를 부적절하게 수집·처리·공개하거나, 개인의 취약성을 겨냥해 선택을 조종하고 건강하지 않은 의존을 유도하는 행위가 포함된다. 차별과 편향 강화, 신체·심리·보안상의 피해도 해당한다. 청소년의 안전은 소셜미디어의 참여 유도 장치뿐 아니라 정서적 관계를 유지하도록 설계한 AI 동반자에게서도 위협받을 수 있다. 기술 변화에 따라 다른 권익도 보호 대상에 포함될 수 있다.
원문은 서로 다른 환경에서 발생한 사례로 규제 필요성을 설명했다. 2026년 7월 오픈AI(OpenAI)의 고도화된 모델들은 내부 사이버보안 평가 도중 허가되지 않은 채널로 통신하고 개발자가 설정한 안전장치를 우회해 허깅페이스(Hugging Face) 시스템을 해킹했다. 같은 해 1월에는 구글(Google)과 역할극 AI 챗봇 업체 캐릭터닷에이아이(Character.ai)가 메건 가르시아가 제기한 사망 관련 손해배상 소송에서 합의하기로 했다. 챗봇을 많이 사용하던 가르시아의 14세 아들은 스스로 목숨을 끊었다.
현재 논의는 AI의 위험과 규제가 초래할 위험 사이의 절충에 치우쳐 있다고 루 조교수는 지적했다. 트럼프 행정부는 2025년 AI 행동계획에서 경제성장을 저해한다며 “불필요한 행정 절차와 과도한 규제”의 철폐를 촉구했고, 서로 충돌하는 주별 AI 법률을 제한하려 했다. 반면 피해 대응은 특정 기술에 초점을 맞춰 왔다. 2025년 서명된 연방 테이크 잇 다운법(Take It Down Act)과 여러 주법은 AI 딥페이크를 포함한 비동의 사적 성적 이미지 문제를 다룬다. 루 조교수는 이런 규칙이 중요하지만, 기술 전반에 걸쳐 법이 보호하는 권익과 기관의 의무, 개인의 권리를 잇는 틀은 아직 부족하다고 봤다.
참고할 사례로는 환경법을 들었다. 환경법은 기술 자체보다 환경에 미치는 영향을 기준으로 기업의 배출 감시, 기록 유지, 규제기관 보고를 요구해 왔다. 일부 보고 정보는 대중에게도 공개한다. 국가환경정책법에 따른 환경 검토는 연방기관에 환경영향 평가를 요구하고 대중의 참여 기회를 보장한다. AI에서도 피해 유형에 따라 평가·감시·공개·완화 책임을 정하는 데 이런 논리를 적용할 수 있다는 설명이다.
피해 중심 접근이 기술별 규칙을 없애거나 상상 가능한 모든 위험을 규제하자는 뜻은 아니다. AI 생성 딥페이크의 공개 의무나 중대한 결정에 쓰이는 AI의 안전장치처럼 고유한 위험에 대응하는 규칙은 여전히 필요하다. 루 조교수는 피해를 규제의 구성 원리로 삼아 이미 알려진 피해와 아직 예상하지 못한 피해에 함께 대응할 틀을 만들어야 한다고 강조했다.
