탬파베이타임즈 “옐프 검색어는 ‘인종 편견’ 고정관념 담고 있다”
 

▲ 미국 최대 지역 비즈니스 리뷰 사이트 ‘옐프(Yelp)’ 화면 모습.

(올랜도=코리아위클리) 최정희 기자 = 미국 최대의 지역 비즈니스 리뷰 사이트 ‘옐프(Yelp)’에서 애완견과 관련해 검색 메뉴를 살필 때 애관견 맛사지, 핫도그, 애완동물 미용 등을 기대하기 쉽지만, 뜻밖에도 ‘개고기(dog meat)’가 뜨는 것으로 나타났다.

더 심각한것은 옐프가 개고기와 관련해 베스트 레스토랑을 띄우고 있을 뿐 아니라 이들 레스토랑은 거의 예외없이 한식당이라는 점이다. 만약 개 대신 고양이를 넣을 경우 옐프는 중국 식당을 나열한다.

이같은 행태는 근래 <탬파베이타임즈>가 시카고랜드, 샌프란시스코베이, 뉴욕, 필라델피아, 덴버, 보스톤, 오스틴, 시애틀, 애틀랜타 그리고 잭슨빌 등 수십개 미국 대도시와 탬파베이 내 식당에 대한 옐프 검색을 한 결과 나온 것이다.

신문이 옐프 검색 툴을 사용해 코리안 레스토랑에 대한 소비자 체험기를 살핀 결과, 정작 개고기를 언급하는 경험기는 없을 뿐만 아니라 ‘개’를 포함하는 단어는 없었다. 다만 애완견 친화적인 식당이라거나, 도기 백(남은 음식 포장용백)을 뜻하는 부분에서 개라는 용어가 등장할 뿐이었다.

옐프가 ‘고양이 고기’ 검색어로 안내하는 중식당 리뷰도 ‘고양이’란 단어를 거의 포함하지 않았다.

신문은 옐프 검색 결과가 인종 편견 고정관념을 담고 있다고 지적하며, 이는 검색 알고리즘의 습득 기능과 연관될 수 있다고 지적했다.

알고리즘이란 어떠한 일을 해결하려는 논리적 방법 및 절차로, 컴퓨터를 움직이는 프로그램은 이를 기반으로 하고 있다. 즉 컴퓨터 프로그램은 사용자가 검색하는 키워드를 자동 매치하는 과정에서 가장 효율적인 방법 및 절차를 끌어내는 기능에 소비자들의 이전의 찾기 활동을 이용하는 것이다.

아시안 아메리칸의 사회.정치.경제적 변호 단체인 OCA의 켄 리 대표는 이번 사례에 대해 "알고리즘적인 편향(algorithmic bias)"의 본보기 중 하나라고 지적했다. 옐프 이용자들이 과연 인종차별적인가 하는 문제를 떠나 인간이 창안한 인공지능이 박아놓은 사회적 편견이라는 것이다.

이것 아니면 저것 식의 알고리즘 피폐는 지난 몇 년 간 개선되고 있지만 아직도 상당수 문제는 현재 진행형이라고 신문은 지적했다.

구글의 경우 "are Jews," "are women" or "Islamists"라는 용어가 검색바에서 "evil"로 자동 완성되는 것을 막은 적이 있다. 구글은 2015년에는 사진 인식 알고리즘이 흑인을 ‘고릴라’ 로 자동 분류하는 끔찍한 경험을 한 바 있다.

컴퓨터 알고리즘은 플로리다에서는 범죄와 관련한 검색에서 흑인을 재범 우려가 매우 높은것으로 묘사한 바 있다. 뿐만 아니라 얼굴 인식 기능의 니콘 카메라의 얼굴 인식 기능은 아시안에 대해서는 눈을 깜박였는 지 묻는 것으로 인공지능의 한계를 드러냈다.

구글 소유의 유튜브는 알고리즘이 일부 광고 비디오에서 인종차별적 언사나 소아성애 등이 채워지는 것을 막지 못하는 것에 난감해 하고 있다. 마이크로소프트사의 인공지능 대화 소프트웨어인 챗봇은 나치에 대한 열정을 옹호하기도 한다. 이는 사용자들이 일부러 나치 관련 사안을 열심히 트윗한 까닭이다.

남가주 대학(USC)의 커뮤니케이션학 교수이자 알고리즘 관련 저서를 집필한 사피야 우모하 노블은 “이같은 문제를 개선하기 위한 첫 단계는 인종, 소수자, 집단, 성 등 이슈에서 훈련 받은 전문가 팀을 고용하는 것이다”라고 전했다. 편향된 자료를 재감정하고 인공 지능이 내용물을 감별할 수 있도록 유도한다는 것이다.

한편 옐프측은 신문의 지적으로 자사 사이트에 바람직하지 않은 정보가 있음을 알게 됐다며 이같은 자동화 모델을 제거하기 위한 노력을 하고 있다고 전했다.