ETRI, ‘AI 거짓정보 필터’ 기술 시연~SNS 허위정보 차단에 새 전기

■ 한국전자통신연구원, AI 기반 허위정보 필터링 기술 공개

한국전자통신연구원(ETRI)는 2025년 6월 말, 사회적으로 급증하는 SNS 기반 허위정보, 조작 콘텐츠에 대응하기 위해

‘AI 거짓정보 필터링 시스템’을 공식 시연했다고 밝혔다.
이 기술은 딥러닝 기반 문맥 분석과 영상 진위 여부 판단 알고리즘을 통합한 형태로, 트위터(X), 페이스북, 인스타그램

등 다양한 소셜 미디어에서 생성되는 허위 정보와 가짜 뉴스 콘텐츠를 자동 식별하고 차단할 수 있다.

 

‘AI 거짓정보 필터’ 기술 시연관련 이미지

■ 거짓정보 유포 방지 위한 핵심 기술: 문맥+멀티미디어 통합 분석

ETRI가 개발한 이 필터링 기술은 기존의 단순 키워드 매칭 방식과 달리, 문장의 맥락(Context)을 이해하는 자연어

처리(NLP) 기술과 이미지·영상 콘텐츠의 조작 여부를 판별하는 멀티모달 AI 기술을 결합했다.
예를 들어, 단순히 “지진 발생”이라는 문장을 감지하는 것이 아니라, 해당 정보의 출처, 시점, 논리적 연결성, 그리고

이미지·영상의 메타데이터까지 종합적으로 분석해 콘텐츠의 진위를 파악한다.

이로 인해 AI가 스스로 뉴스 맥락을 파악하고, 왜곡된 정보나 조작된 이미지·딥페이크 영상을 실시간으로 검출할 수 있다.

ETRI는 이 시스템이 98% 이상의 허위 식별 정확도를 보인다고 설명했다.

■ SNS 가짜뉴스·딥페이크 대응 강화 기대

이번 기술은 특히 총선, 대선, 재난 발생 시기 등 사회 혼란을 야기할 수 있는 민감한 시점에 확산되는 가짜뉴스나 조작 영상

콘텐츠에 효과적으로 대응할 수 있다는 점에서 주목받고 있다.
최근 국내외에서는 딥페이크 기술을 악용한 정치·연예계 조작 영상, 재난 허위 정보, 기업 주가 조작용 가짜 뉴스 등이

사회문제로 떠오르면서, 신뢰성 있는 콘텐츠 유통망의 필요성이 더욱 커지고 있다.

■ 뉴스플랫폼과 시범 운영 계약…상용화 초읽기

ETRI는 해당 기술을 기반으로, 국내 주요 뉴스플랫폼 2곳과 시범 운영 계약을 체결했다고 밝혔다.
이를 통해 뉴스 제공업체는 자사 콘텐츠 중 허위정보를 자동 감지하고, 신속히 차단하거나 경고 표시를 부착할 수 있으며,

사용자에게는 **“이 콘텐츠는 사실 여부가 검증되지 않았습니다”**와 같은 사전 안내 메시지를 자동 제공하는 기능도 포함된다.

향후 이 기술은 포털 뉴스 서비스, 커뮤니티, 온라인 커머스 후기 영역 등으로 점차 확대 적용될 전망이며, 댓글·챗봇 기반

정보까지 분석 범위를 넓히는 고도화 작업도 진행 중이다.

■ 기술적 차별성: 실시간 필터링과 연동 API 제공

ETRI는 이번 기술의 가장 큰 장점으로 실시간 필터링 기능을 강조하고 있다.

• SNS에서 게시물이 등록되면 1초 이내로 분석 진행
• 허위 가능성이 있을 경우 자동 차단 또는 플랫폼 관리자에게 경고 전달
  또한, 이 시스템은 API 형태로 외부 서비스와 손쉽게 연동이 가능해, 다양한 민간기업 및 정부 기관에서 정보 검증 시스템에 쉽게 통합할 수 있도록 설계되었다.

■ 공공기관·언론사·교육계와의 협력 확대 추진

ETRI는 향후 이 기술을 교육, 언론, 공공기관 등 다양한 분야에 적용하는 방안을 검토하고 있다.
예를 들어

• 학교에서는 청소년 대상 ‘디지털 미디어 리터러시 교육’에 활용,
• 언론사에서는 기사 작성 전 AI 검증 시스템을 활용,
• 정부기관에서는 사회적 혼란 예방을 위한 공공 정보 검열 필터링 시스템으로 연계될 수 있다.