[세언협 심포지엄] 생성형 AI의 시대 'AI-driven infodemic'에 대비할 필요성

▲ (사진) 최은창(MIT 테크놀로지리뷰 편집위원, Impactive AI 파트너) © 세언협공동취재단 이석수 기자

 

 

일반적으로 허위정보의 유포를 조장하는 유인은 두 가지로 나뉜다.  첫번재 유형은 광고 노출을 통한 금전적 수익의 추구이다. 디지털 뉴스 헤드라인 또는 유튜브 영상의 제목을 자극적으로 만들어 클릭을 유도하여 배너광고를  노출시키는 '클릭 베이트'(clickbait)는 실제 내용과는 무관하거나 사실과 거리가 먼 추측을 자극적으로 포장한다. 

 

두번째는 정치권력이 결정되는 선거를 노린 여론 조작이라고 할 수 있다. 치명적인 바이러스가 국경을 넘어 전 세계를 휩쓰는 팬데믹의 시대에 비과학적 사실과 대응 방법을 적극적으로 퍼뜨리려 혼란을 유도하는 사례는 허위정보(disinformation)이라기 보다는 과학적 문해력에서 기인한 무지와 오정보(misinformation)라고 이해할 수 있다.

 

뉴스 정보 생태계의 오염은 선거 시즌에 특히 문제된다. 최근 생성 인공지능의 등장으로 인하여 적은 비용으로 설득력 있는 허위 정보를 생성하여 뉴스정보의 흐름 속으로 주입할 수 있는 능력이 증가하였다. 2023년 10월 현재 약 50개의 영문 뉴스 웹사이트가 'AI로 생성'되어 있음이 확인되었다. "단조로운 언어 및 반복적인 문구" 등은 기계적으로 생산된  문장의 흔적을 보여준다.  많은 경우에는 작성자가 실존인물이 아니거나 가짜 프로필 사진을 도용하여 사용한다. 

 

▲ (사진) 최은창(MIT 테크놀로지리뷰 편집위원, Impactive AI 파트너) © 세언협공동취재단 이석수 기자

 

그러나 가장 큰 우려는 AI 기반 문장 작성 능력의 고도화로 인하여 기자의 문장 스타일을 그대로 학습하여 허위인지 진실인지 구분하지 어려운 뉴스 정보가 범람하게 되리라는 시나리오다. 허위 정보가 미래 AI 콘텐츠의 기반이 되어 가짜뉴스의 악순환을 낳을 수 있다면 뉴스 수용자들은 사실(facts)에 근거한 생산적 토론을 할 수 없으므로 민주주의는 위협을 받게된다.

 

생성형 AI의 시대에는 “AI-driven infodemic"에 대비할 필요성이 대두되고 있다.  ChatGPT, Bard , 하이퍼클로버 등 자동화된 글쓰기 도구는 더 적은 비용과 인원으로 여론조작용 허위정보, 특정 세력을 위한 흑색선전 또는 우호적인 정보를 디지털 뉴스 생태계에 주입할 수 있다. 이러한 흐름은 컴퓨테이셔널 프로파간다(computational propaganda)이다. 

 

최근에는 글쓰기 돕는 생성형AI가 특정 저자의 말투와 언어방식을 분석하여 그 스타일 대로 문장을 작성해 준다. 그러므로 인간의 글과 기계적으로 산출된 콘텐츠를 구분 하기는 점차 어려워지고 있다. 비용의 측면에서도 종래에는 여론 조작용 정보를 생산하는 트롤팜(troll farm), 키보드 워리어 등 사이버 여론조작 조직을 운영하는 비용은 생성형 AI의 등장으로 인하여 급감하였다. 그러나 플랫폼이 허위정보를 걸러내고 차단하기 위한 활동을 더 강화하고 있는지는 의문이다. 

 

소셜 미디어에서의 봇(bot) 사용의 증가는 극단적 목소리를 더 확대시키는 수단이 된다. 날조된 사실과 부정적 뉘앙스를 내포한 동영상의 증가, 교묘한 수법을 동원한 정치적 프로파간다는 진영 갈등을 조장하고 민주주의를 위협할 가능성이 크므로 경계심이 필요하다.

 

-최은창(MIT 테크놀로지리뷰 편집위원, Impactive AI 파트너)-

 

 

【한국(서울)=세언협공동취재단】