DGIST, 오탐률 2%의 혁신적 텍스트 워터마킹 개발

DGIST(총장 이건우) 전기전자컴퓨터공학과·인공지능전공 김영식 교수 연구팀이 AI가 작성한 글에 눈에 보이지 않는 고유의 디지털 워터마크를 정교하게 심어두고, 텍스트가 훼손되거나 조작돼도 AI 생성 여부와 출처를 명확히 증명하는 혁신적 가짜 방지 기술 'BREW(Block-wise Reliable Embedding for Watermarking)'를 개발했다. 이번 기술은 향후 가짜 뉴스로 인한 사회적 혼란을 막고 디지털 저작권을 보호하는 글로벌 AI 포렌식 분야에서 핵심적으로 활용될 전망이다.

생성형 AI가 빠르게 확산하면서 AI가 작성한 뉴스·문서·과제·창작물의 출처를 정확히 확인하는 기술의 중요성이 커지고 있다. 그러나 기존 멀티비트 텍스트 워터마킹 기술은 워터마크가 없는 일반 글도 AI 생성 글로 잘못 판단하는 높은 오탐률로 인해 실제 적용에 한계가 있었다.

연구팀이 개발한 BREW는 글을 여러 조각(블록)으로 나눠 독립적으로 검증하고 문장의 미세한 변화를 추적하는 방식을 도입했다. 단어를 교체하거나 문장 구조를 교묘하게 비틀어 암호를 지우려는 악의적 시도가 있더라도, '윈도우 시프팅(Window-Shifting)'기법을 통해 정렬을 복구해 워터마크를 완벽하게 추적해 낸다.

실제 실험 결과, BREW는 AI생성 글의 10%를 동의어로 바꾸는 훼손 환경에도 96.5%의 높은 탐지율을 유지했다. 200단어 정도의 비교적 짧은 글에서도 우수한 성능을 입증했으며, 사람이 작성한 일반 글을 AI생성 글로 잘못 판단하는 오탐률을 2% 수준으로 극적으로 낮추는 데 성공했다.

김영식 교수는 “이번 연구는 사람이 쓴 글을 AI가 쓴 것으로 오인하던 기존 기술의 치명적 결함을 극복하고, 악의적 텍스트 훼손 시도까지 완벽히 방어해 내는 강력한 기술”이라며, “향후 가짜뉴스로 인한 사회적 혼란을 막고 디지털 저작권을 보호하는 글로벌 AI 포렌식 분야에서 핵심적인 역할을 할 것”이라고 밝혔다.

이번 연구는 DGIST 김영식 교수팀(DGIST 김조은·김호은 대학원생, 울산대학교 진동섭 교수)이 수행했다. 연구 성과를 담은 논문은 인공지능 분야 최고 권위 학회인 'ICML 2026'에 채택됐다. 연구팀은 오는 7월 서울 코엑스에서 열리는 'ICML 2026'에서 해당 연구 결과를 발표할 예정이다.

연구는 과학기술정보통신부 정보통신기획평가원(IITP)의 '양자안전 보안인프라 전환 및 양자보안 검증 기술 개발' 과제와 '자율주행 차량 서비스 보호를 위한 V2X 무선통신 인프라 보안 핵심기술 개발' 과제의 지원을 받아 수행됐다.