a_ZVE02546.JPG

▲ (사진) 최은창(MIT 테크놀로지리뷰 편집위원, Impactive AI 파트너) © 세언협공동취재단 이석수 기자

 

 

일반적으로 허위정보의 유포를 조장하는 유인은 두 가지로 나뉜다.  첫번재 유형은 광고 노출을 통한 금전적 수익의 추구이다. 디지털 뉴스 헤드라인 또는 유튜브 영상의 제목을 자극적으로 만들어 클릭을 유도하여 배너광고를  노출시키는 '클릭 베이트'(clickbait)는 실제 내용과는 무관하거나 사실과 거리가 먼 추측을 자극적으로 포장한다. 

 

두번째는 정치권력이 결정되는 선거를 노린 여론 조작이라고 할 수 있다. 치명적인 바이러스가 국경을 넘어 전 세계를 휩쓰는 팬데믹의 시대에 비과학적 사실과 대응 방법을 적극적으로 퍼뜨리려 혼란을 유도하는 사례는 허위정보(disinformation)이라기 보다는 과학적 문해력에서 기인한 무지와 오정보(misinformation)라고 이해할 수 있다.

 

뉴스 정보 생태계의 오염은 선거 시즌에 특히 문제된다. 최근 생성 인공지능의 등장으로 인하여 적은 비용으로 설득력 있는 허위 정보를 생성하여 뉴스정보의 흐름 속으로 주입할 수 있는 능력이 증가하였다. 2023년 10월 현재 약 50개의 영문 뉴스 웹사이트가 'AI로 생성'되어 있음이 확인되었다. "단조로운 언어 및 반복적인 문구" 등은 기계적으로 생산된  문장의 흔적을 보여준다.  많은 경우에는 작성자가 실존인물이 아니거나 가짜 프로필 사진을 도용하여 사용한다. 

 

▲ (사진) 최은창(MIT 테크놀로지리뷰 편집위원, Impactive AI 파트너) © 세언협공동취재단 이석수 기자

 

그러나 가장 큰 우려는 AI 기반 문장 작성 능력의 고도화로 인하여 기자의 문장 스타일을 그대로 학습하여 허위인지 진실인지 구분하지 어려운 뉴스 정보가 범람하게 되리라는 시나리오다. 허위 정보가 미래 AI 콘텐츠의 기반이 되어 가짜뉴스의 악순환을 낳을 수 있다면 뉴스 수용자들은 사실(facts)에 근거한 생산적 토론을 할 수 없으므로 민주주의는 위협을 받게된다.

 

생성형 AI의 시대에는 “AI-driven infodemic"에 대비할 필요성이 대두되고 있다.  ChatGPT, Bard , 하이퍼클로버 등 자동화된 글쓰기 도구는 더 적은 비용과 인원으로 여론조작용 허위정보, 특정 세력을 위한 흑색선전 또는 우호적인 정보를 디지털 뉴스 생태계에 주입할 수 있다. 이러한 흐름은 컴퓨테이셔널 프로파간다(computational propaganda)이다. 

 

최근에는 글쓰기 돕는 생성형AI가 특정 저자의 말투와 언어방식을 분석하여 그 스타일 대로 문장을 작성해 준다. 그러므로 인간의 글과 기계적으로 산출된 콘텐츠를 구분 하기는 점차 어려워지고 있다. 비용의 측면에서도 종래에는 여론 조작용 정보를 생산하는 트롤팜(troll farm), 키보드 워리어 등 사이버 여론조작 조직을 운영하는 비용은 생성형 AI의 등장으로 인하여 급감하였다. 그러나 플랫폼이 허위정보를 걸러내고 차단하기 위한 활동을 더 강화하고 있는지는 의문이다. 

 

소셜 미디어에서의 봇(bot) 사용의 증가는 극단적 목소리를 더 확대시키는 수단이 된다. 날조된 사실과 부정적 뉘앙스를 내포한 동영상의 증가, 교묘한 수법을 동원한 정치적 프로파간다는 진영 갈등을 조장하고 민주주의를 위협할 가능성이 크므로 경계심이 필요하다.

 

-최은창(MIT 테크놀로지리뷰 편집위원, Impactive AI 파트너)-

 

 

【한국(서울)=세언협공동취재단】


  1. 20Dec
    by 옥자
    2023/12/20 by 옥자

    자연 지키고 전통도 보존하고… 분투하는 호남의 지자체들

  2. 20Nov
    by 옥자
    2023/11/20 by 옥자

    돌과 시간을 쌓은 '유네스코의 도시' 고창을 가다

  3. 20Nov
    by 옥자
    2023/11/20 by 옥자

    어서와요 함평!... 걷고, 해보고, 먹고 싶은 것 '천지'

  4. 16Nov
    by 프랑스존
    2023/11/16 by 프랑스존

    한국 정치에서 '제3지대'는 불가능한 길인가?

  5. 26Oct
    by 옥자
    2023/10/26 by 옥자

    [가을대회를 끝내며]

  6. 20Oct
    by 프랑스존
    2023/10/20 by 프랑스존

    세계한인언론인들, 새로운 변화의 물결 '군산'과 만나다

  7. No Image 19Oct
    by 프랑스존
    2023/10/19 by 프랑스존

    고창, 천혜의 자연과 역사의 숨결이 살아 숨쉬는 도시

  8. 18Oct
    by 프랑스존
    2023/10/18 by 프랑스존

    함평천지, 자연과 환경이 어우러진 휴식의 고장

  9. 17Oct
    by 프랑스존
    2023/10/17 by 프랑스존

    [세언협 심포지엄] 생성형 AI의 시대 'AI-driven infodemic'에 대비할 필요성

  10. 17Oct
    by 프랑스존
    2023/10/17 by 프랑스존

    [세언협 심포지엄] AI시대의 경제, 사회, 문화와 미디어의 방향

  11. 17Oct
    by 프랑스존
    2023/10/17 by 프랑스존

    [세언협 심포지엄] 광고 및 미디어 산업 분야의 인공지능(AI) 활용 전략

  12. 16Oct
    by 프랑스존
    2023/10/16 by 프랑스존

    2023 세계한인언론인 국제심포지엄 본격 개막

  13. 15Oct
    by 프랑스존
    2023/10/15 by 프랑스존

    세언협 언론인들, 이종찬 광복회장과 간담회

  14. 14Jul
    by 옥자
    2023/07/14 by 옥자

    미국서 열리는 제21차 세계한상대회 신청 접수 시작

  15. 09Jul
    by 옥자
    2023/07/09 by 옥자

    디샌티스 vs. 디즈니의 전쟁…갈 때까지 간다?

  16. 11May
    by 한인포스트
    2023/05/11 by 한인포스트

    재외 언론인들, 갈등의 시대에 '상생의 손'을 맞잡다

  17. No Image 11May
    by 한인포스트
    2023/05/11 by 한인포스트

    5만 달러로 호미곶 관광지에 수익형 내 집 마련

  18. 28Apr
    by OKnews
    2023/04/28 by OKnews

    세계한인언론인들 '영덕에 반하다'

  19. 28Apr
    by OKnews
    2023/04/28 by OKnews

    유네스코가 인정한 '산소까페' 청송 방문기

  20. 25Apr
    by 프랑스존
    2023/04/25 by 프랑스존

    제22회 세계한인언론인대회 개막

Board Pagination Prev 1 2 3 4 5 6 7 8 Next
/ 8