AI 가짜 콘텐츠 판별 어려워진 SNS…전문가들이 권한 ‘잠깐 멈춤’

인공지능(AI)으로 만든 가짜 콘텐츠와 허위정보가 넘치는 소셜미디어에서 자신을 지키려면 잠시 멈추고 ‘왜’를 물어야 한다고 미디어 리터러시·보안 전문가들이 조언했다. 매셔블(Mashable)이 취재한 전문가들은 게시물과 광고의 의도를 살피고 반응 속도를 늦추는 데 쓰는 몇 분이 허위정보에 휩쓸리는 것을 막는 데 도움이 된다고 설명했다.

이 같은 습관을 강조하는 배경에는 빠른 반응을 유도하는 플랫폼 구조가 있다. 온라인 보안 기업 노드VPN(NordVPN)의 마리유스 브리에디스 최고기술책임자는 “피드는 당신이 빠르게 움직이도록 만들고 반응을 자극하는 콘텐츠에 보상을 준다. 이는 설계상의 선택이며, 공교롭게도 합성 콘텐츠가 가장 좋은 성과를 내는 환경과 정확히 일치한다”고 말했다. 무한 스크롤, 개인화 추천 알고리즘, 자동 재생 등은 연방·주 규제 당국의 주목을 받고 있다.

틱톡(TikTok)과 엑스(X) 등에서는 외부 출처를 삽입하거나 링크하는 기능도 제한적이어서 이용자가 직관에 의존하게 된다. 클라우드 보안 기업 미티가(Mitiga)의 로이 셔먼 연구 담당 선임 디렉터는 “우리는 빠르게 스크롤하고 본능적으로 반응하며, 좋아요와 공유를 ‘많은 사람이 이를 믿는다’는 뜻으로 받아들인다”고 설명했다.

이용자가 접하는 정보 환경도 달라졌다. 허위정보 감시 기업 뉴스가드(NewsGuard)의 소피아 루빈슨 선임 편집자는 “소셜미디어에는 거짓이거나 오해를 부르는 콘텐츠가 널려 있다”며 “스크롤하다 보면 AI로 만든 가짜 콘텐츠, 왜곡된 정치적 주장, 외국발 허위정보를 마주치는 일을 피할 수 없다”고 말했다. 퓨리서치센터(Pew Research Center)의 최근 자료에 따르면 새 웹 콘텐츠의 3분의 1 넘게가 AI로 생성된다. 다른 보고서들은 인터넷의 절반 넘게가 저품질 AI 콘텐츠인 ‘AI 슬롭’으로 채워졌다고 주장한다. 소셜미디어 플랫폼 내 봇 계정 비중 추정치도 10%에서 거의 50%까지 이른다.

클라우드플레어(Cloudflare)의 매슈 프린스 최고경영자(CEO)는 에이전트형 봇 이용이 전체 인터넷 트래픽의 57.4%를 차지하고 사람의 트래픽은 42.6%로 줄었다고 주장했다. 미국인의 절반 넘게가 소셜미디어에서 뉴스를 얻는 가운데, 2025년 퓨리서치센터 조사에서는 약 절반이 온라인에서 가짜 뉴스를 구별하기 어렵다고 답했다.

콘텐츠 관리의 약화도 문제로 지목됐다. 메타(Meta)와 X는 최근 몇 년간 사람으로 구성된 콘텐츠 관리팀을 대폭 축소했고, AI 기반 관리 도구를 두고는 검열 의혹에 직면했다. 유튜브(YouTube)도 콘텐츠 관리 지침을 완화했다. 딥페이크 탐지 기업 리셈블.AI(Resemble.AI)의 조하이브 아흐메드 CEO는 “미국에서는 늘 그랬듯 정보가 훨씬 자유롭게 흐르지만, 지금은 콘텐츠 관리가 한층 더 부족해지고 있다”고 말했다.

아흐메드는 고도화한 AI 모델로 인해 기술의 도움 없이 사람의 감각만으로 진짜와 가짜 콘텐츠를 구분하지 못하는 ‘식별 불가능 임계점’에 더 가까워졌다고 설명했다. 전문팀을 줄이고 커뮤니티의 사실 확인에 의존하는 플랫폼에서도 혼란이 커진다는 지적이다. 그는 “그렇게 되면 의견이 반으로 갈리고 주관이 강하며, 잘못된 정보나 의도적인 허위정보를 표시하는 데 그다지 정확하지 않은 논평이 더 많이 생긴다”며 “일반 이용자는 이를 대충 훑어보고, 사람인 콘텐츠 관리자가 이미 확인한 범위를 넘어 더 파고들 생각을 하지 않을 것”이라고 말했다.

친근한 챗봇과 유용한 AI 에이전트 역시 경계를 낮추는 요인으로 꼽혔다. 전자상거래 보안 기업 리스키파이드(Riskified)의 에얄 엘라자르 시장정보 책임자는 “우리는 매일 상호작용하는 AI 에이전트를 지나치게 경계 없이 대하는 경향이 있다”고 말했다. 그는 사기범들이 이런 심리를 악용해 이용자가 귀엽고 친근한 에이전트 앞에서 경계를 풀기를 기대한다고 설명했다. 클릭 한 번이나 챗봇 명령 한 번으로 모든 정보를 얻으려는 욕구가 큰 취약점이 될 수 있다는 지적도 내놨다.

정보를 판단하는 교육은 충분하지 않다. 뉴스 리터러시 프로젝트(News Literacy Project)의 척 솔터 회장 겸 CEO는 “대부분의 주는 교육구에 뉴스·미디어 리터러시 교육을 제공하도록 요구하지 않는다”고 말했다. 이 단체는 유치원부터 고등학교까지의 미디어 리터러시 교육과정을 장려한다. 미국 공중보건서비스단장은 2023년 체계적인 미디어 리터러시 교육을 촉구했지만, 전미 미디어 리터러시 교육협회(The National Association for Media Literacy Education)의 2024년 교육자 조사에서 이를 정규 교육과정으로 제공한 학교는 12%에 그쳤다. 미국 성인의 약 25%는 읽기 능력이 최저 수준이며, 근로자의 3분의 1은 기초 디지털 리터러시 지식이 부족하다.

전문가들은 새로운 인터넷 이용 습관을 익혀야 한다고 강조했다. 셔먼은 군중을 가장하기 쉬워지고 사기 실행 비용이 낮아졌으며, 가짜 미디어도 더는 가짜처럼 보이지 않는다고 지적했다. 그는 “우리가 쌓아온 직관은 작동하지 않게 됐고, 아직 새로운 직관을 만들지 못했다”고 말했다. 솔터는 “AI는 스스로 생각하지 않는 것을 정말 쉽게 만든다”며 “우리는 주체성을 발휘해야 한다”고 말했다.

AI 보안 기업 어댑티브 시큐리티(Adaptive Security)의 공동창업자 앤드루 존스는 속도를 늦추는 것으로 대응할 수 있다고 강조했다. 그는 “소셜미디어는 속도에 보상을 준다. 자동 재생과 무한 스크롤, 푸시 알림 하나하나가 우리에게 순식간에 반응하고 다음 게시물로 넘어가도록 훈련시킨다”며 “자신을 보호하는 데 기술적 배경지식이 필요한 것은 아니다”라고 말했다. 평소의 이용 습관에 잠깐 멈추는 시간을 넣는 데 노력이 들더라도, 몇 분이면 대응을 시작할 수 있다는 설명이다.

다만 모든 정보를 불신하는 태도는 경계해야 한다. 솔터는 냉소에 대해 “진실인지와 관계없이 우리가 믿고 싶은 것을 믿거나 우리에게 이의를 제기하는 정보를 거부하게 만들 수 있다”고 경고했다. 아는 사람과 정보를 확인하고 친구들과 화제가 된 게시물을 논의하는 등 현실과 연결을 유지할 필요가 있다. 브리에디스는 “사람들은 무엇이든 위조할 수 있다는 사실을 이해하면 진짜인 것들까지 의심하기 시작한다”며 “그것을 쉽게 되찾을 수는 없다”고 말했다.