AI 기술이 퍼뜨린 잘못된 정보, 찰리 커크 사건은 혼란을 악화시켰다

보수 활동가인 찰리 커크의 사망 사건이 발생한 이후, 허위 주장과 음모 이론, 그리고 사건과 관련이 없는 사람들을 지목한 게시물들이 소셜 미디어에서 급속히 확산됐다. 이러한 내용은 일부 AI 도구에 의해 증폭되기도 했다.

CBS 뉴스는 X 플랫폼의 AI 챗봇 ‘그록’이 사건의 용의자를 잘못 지목한 게시물 10건을 확인했으며, 이 사건의 용의자인 타일러 로빈슨의 신원이 공개되기 전에 그록이 잘못된 정보를 전달했다. 그록은 나중에 잘못된 정보를 시인했지만, 그 사이에 이미 잘못된 사람의 얼굴과 이름이 담긴 게시물이 확산됐다.

챗봇은 또한 FBI가 공개한 사진의 ‘강화’된 변형을 생성했다. 이러한 사진 중 하나가 유타주 워싱턴 카운티 보안관 사무소에 의해 재게시되었고, 이후 ‘이것은 AI가 강화한 사진으로 보인다’는 업데이트가 게시됐다. 이 사진은 로빈슨의 의상과 얼굴 특징을 왜곡했기 때문이다.

한 AI 강화 이미지에서는 22세인 로빈슨보다 훨씬 더 나이 들어 보이는 남자를 묘사하기도 했다. 또 다른 AI 생성 비디오에서는 용의자의 특징을 부드럽게 하고 그의 셔츠 디자인을 뒤섞인 형태로 보여 주었다. 이러한 비디오는 200만 이상의 팔로워를 보유한 X 사용자에 의해 게시되었고 수천 번 재게시되었다.

금요일 아침 유타주 스펜서 콕 주지사가 구금된 용의자가 로빈슨이라고 발표한 이후, 그록은 사용자들의 질문에 대한 답변에서 모순된 내용을 제공했다. 한 그록의 게시물은 로빈슨이 등록된 공화당원이라고 했지만, 다른 게시물에서는 그가 비당파 유권자라고 보도하였다. 유권자 등록 기록에 따르면 로빈슨은 정치적 정당에 소속되어 있지 않다.

CBS 뉴스는 그록이 커크가 사망한 다음 날에도 그가 생존해 있다고 언급한 사례를 12건 확인했다. 다른 그록의 응답들은 사망 날짜를 잘못 언급하거나 FBI의 보상 제안을 ‘조작된 것’이라고 표기하였으며, 커크의 사망에 대한 보도가 ‘상충된다’는 잘못된 정보를 제공하기도 했다.

전문가인 S. 샤얌 순다르Penn State 대학 교수는 CBS 뉴스에 AI 도구가 사건이 발생하는 동안 정확한 정보를 제공하는 데 어려움이 있는 주된 이유는, 이러한 도구들이 가능성에 기반하여 결과를 생성하기 때문이라고 설명하였다.

그는 ‘가장 가능성이 높은 단어나 구절을 찾는 것’이라고 설명하며, ‘사실 확인이나 현장에서의 보도를 기반으로 하지 않는다’고 덧붙였다.

X 측은 그록이 게시했던 허위 정보에 대해 댓글 요청에 응답하지 않았다.

한편 AI 기반 검색 엔진인 퍼플렉시의 X 봇은 총격 사건을 ‘가설적 시나리오’로 묘사하는 등 문제의 소지가 있는 게시물을 올렸다. 이후 이 게시물은 삭제되었고, 퍼플렉시의 대변인은 ‘정확한 AI가 우리가 구축하고 있는 핵심 기술’이라고 설명하면서도 ‘100% 정확하다고 주장하지 않는다’고 밝혔다.

그의 추가 발언은 X 봇이 회사가 최신 기술 개선 사항에 대한 정보가 부족하다고 언급했으며, 이로 인해 봇을 X 플랫폼에서 삭제했다고 덧붙였다.

구글의 AI 오버뷰는 늦은 목요일 날 검색한 헌터 코작에 대한 정보를 부정확하게 제공하였다. 커크가 사망하기 전 마지막으로 질문을 했던 인물인 그는 잘못된 사람으로 FBI가 찾고 있는 인물로 잘못 식별되었다. 하지만 금요일 아침에는 동일한 검색에서 잘못된 정보가 사라졌다.

구글 대변인은 ‘대부분의 질의가 이 주제에 대한 고품질의 정확한 응답을 반환한다’고 밝히며, ‘빠르게 변화하는 뉴스 상황에서 시스템이 웹 콘텐츠를 오해하거나 일부 문맥을 놓치게 되는 경우가 있을 수 있다’고 지적했다.

순다르는 AI에 대한 사람들의 태도가 기계가 더 신뢰할 수 있으며 중립적이라고 perceiving을 경향이 있다고 말했다.

그는 ‘사람들은 기계가 편파적이거나 반대의견을 퍼뜨리려 한다고 생각하지 않는다’고 하면서, ‘모르는 사람의 게시물보다 기계의 정보를 더 믿는 경향이 있다’고 덧붙였다.

한편 유타주의 주지사인 콕은 기자 브리핑에서 외국 소스에서 오는 잘못된 정보 가능성에 대해서도 언급했다. 그는 러시아와 중국을 포함한 외국 적대 세력이 정보 왜곡 및 폭력을 조장하기 위해 봇을 사용하고 있다고 주장하며, 청중들에게 소셜 미디어를 덜 사용할 것을 권장했다.

그는 ‘소셜 미디어를 무시하고 그런 스트림을 꺼버리며 가족과 더 많은 시간을 보내는 것이 좋겠다’고 강조했다.

이미지 출처：cbsnews