인종차별적 딥페이크 조작 영상, 미국의 한 지역을 완전히 분열시키다
미국의 한 학교 교장이 인종적 비하 발언을 하는 오디오 클립이 온라인에 퍼지면서 교사들이 살해 협박을 받는 등 인근 지역으로 큰 파문이 일었다. 이 토토사이트 발언은 인공 지능에 의해 조작된 가짜라는 사실이 드러났지만 일부 주민들은 여전히 이 발언이 사실이라고 믿고 있다. “왜 내가 매일 이 멍청한 사람들을 계속 참아야 하는지 정말 이해가 안 됩니다.” 인종 차별, 반유대주의, 모욕적인 비유로 가득 찬 파이크스빌 고등학교 교장의 긴 호통은 바카라사이트 그렇게 시작된다. 마치 몰래 녹음된 것처럼 들린다. 교장은 계속해서 “배은망덕한 흑인 아이들”과 지역 사회의 유대인에 대해 비난한다. 1월에 처음 게시된 이 영상은 전국적으로 퍼져나갔다. 흑인과 유대인 커뮤니티가 밀집한 평화로운 교외 지역인 파이크스빌과 인근 도시인 메릴랜드주 볼티모어에서 파워볼사이트 이 영상은 큰 반향을 일으켰다. 교장 에릭 아이즈워트는 조사를 받을 때까지 유급 휴가를 받았다. 볼티모어 인근에 사는 흑인 남성 알피 말론은 커뮤니티의 회원들이 게시한 이 영상을 진짜라고 믿었다. 말론은 “마음속으로는 이것이 사람들이 실제로 흑인에 대해 느끼는 방식일 것이라고 생각했다”고 말했다. “실제로 오디오를 통해 그런 말을 듣게 되다니요.” 말론은 소셜 미디어에서 아이즈워트 교장의 음성을 확인하고자 놀이터 토토사이트 소셜 미디어에 올라온 실제 음성을 들어본 후 목소리가 똑같음을 확인했다. 시간제 우체부이자 팟캐스트 진행자이기도 한 그는 공유 버튼을 눌렀다. 이 클립은 더 많은 사람들이 온라인에 퍼뜨리면서 소셜 미디어에서 주목을 받기 시작했다. 가장 많이 공유된 버전 중 하나는 몇 시간 만에 조회수 200만 건을 돌파했다. 이는 파이크스빌 전체 인구의 약 60배에 달하는 수치다. 하지만 당시 이 영상을 공유한 사람들은 이 영상이 인공지능이 만들어낸 가짜라는 사실을 깨닫지 못했다. BBC 라디오 4의 '미국은 왜 나를 미워하나'를 위해 메릴랜드에 갔던 나는 이 클립이 해당 마을에 미친 영향을 조사했다. 이 사건은 AI가 초래할 수 있는 위험, 특히 한 지역이 타깃이 됐을 때 나타날 수 있는 위험에 대한 일종의 우화처럼 느껴졌다. 인공지능 가짜뉴스가 확산되는 이유 볼티모어 배너 지역의 교육 담당 기자 크리스틴 그리피스는 이 영상을 처음 봤을 때 단순히 모욕적인 발언을 한 교사가 폭로된 비교적 단순한 이야기일 것이라고 생각했다. 하지만 저널리즘의 모범 사례에 따라 그리피스는 교장에게 자신의 입장을 밝힐 기회를 주고 싶었다. 그래서 그녀는 노조 대표에게 연락을 취했고, 노조 대표는 아이즈워트 교장이 해당 발언을 비난했을 뿐만 아니라 자신이 그런 발언을 하지 않았다는 말을 했다고 전했다. “교장 선생님은 곧바로 이건 가짜라고 말했어요. 우리는 영상이 AI라고 생각해요." 노조 대표는 BBC에 이렇게 말하며 “전에는 그런 생각을 해본 적이 없었다”고 전했다. 그러나 그리피스가 이 이야기를 기사로 전했을 때 독자들은 납득하지 못했다. 동영상의 진실성에 대한 의문을 제기하기는커녕, 가짜라는 주장이 변명에 불과하거나 책임을 회피하려는 시도라고 생각하는 사람들의 반발만 불러일으켰다. 이 시점에서 지역 경찰이 이 사건을 조사하기 시작했다. 파이크스빌 고등학교의 교직원들은 너무 많은 관심 때문에 안전하지 않다고 느꼈고, 학교에 도청 장치가 설치되어 있는 것이 아닌가 하는 우려를 표하기도 했다. 아이즈워트 교장의 평판도 심각한 타격을 입었다. 교장과 학교 주변의 보안이 강화됐다. 그는 소셜 미디어에서 혐오와 위협의 표적이 됐다. 소셜 미디어에서 그를 겨냥한 수십 개의 욕설 메시지가 확인됐다. 그리고 지난 4월, 로버트 맥컬러프 볼티모어 경찰서장은 “녹음이 진짜가 아니라는 결정적인 증거”를 확보했다고 확인했다. 그들은 허위 음성을 만든 범인이 누군지 확신하고 있었다. 경찰은 이 학교의 육상 감독인 31세의 다존 다리엔을 가짜 동영상과 관련된 여러 가지 혐의로 기소했다. 혐의에는 절도, 목격자에 대한 보복, 스토킹 등이 포함되었다. 경찰은 텍사스 휴스턴으로 가는 비행기를 타려던 다리엔을 공항에서 체포했다고 밝혔다. 경찰은 다리엔이 학교에서 1,916달러(약 260만원)를 절도한 혐의로 아이즈워트 교장으로부터 조사를 받고 있었다고 밝혔다. 또한 “업무 수행 능력에 문제가 있다”며, 그의 계약이 갱신되지 않을 가능성이 높았다고 전했다. 이에 그가 해고되기 전에 딥페이크 녹취록을 만들어 교장의 신용을 떨어뜨릴 의도였을 거라고 경찰은 추정했다. 수사관들은 원본 동영상을 다리엔과 연결된 서버로 전송하는 데 사용된 이메일을 추적했다. 결과는 그가 볼티모어 카운티 공립학교의 컴퓨터 네트워크를 사용해 AI 도구에 액세스했다고 주장하고 있다. 그는 2024년 12월에 재판을 받을 예정이다. 다리엔의 법률 대리인은 이에 대한 확인 요청에 응답하지 않았다. 볼티모어 카운티 교육감 마이리엄 로저스는 앞서 학교 공동체, 교장, 그의 가족에게 “매우 어려운 시기”라고 말했다. 파이크스빌 고등학교와 아이즈워트 교장의 대리인 역시 추가 논평 요청에 답하지 않았다. 사람들은 왜 이 영상을 믿었을까? 이 영상은 음성만 있었기 때문에 일반적으로 AI 조작을 드러내는 딱딱한 움직임과 같은 시각적 단서가 없었다. 또한 '학년별 기대치'와 같은 전문 용어와 학교와 가까운 사람들만 알 수 있는 교직원 이름과 같은 기타 세부 사항도 언급됐다. 하지만 자세히 들어보면 문장 사이에 편집 부분이 보이고 목소리는 교장과 비슷하지만 상당히 단조롭게 들린다. 인공지능은 좋아하는 영화 배우나 대통령 후보의 연설 등 몇 분 분량의 실제 녹음을 사용하여 전혀 하지 않은 말을 한 것처럼 들리게 하는 클립을 생성할 수 있다. 지역 주민 말론은 사람들이 이 영상을 진짜라고 믿었던 가장 큰 이유가 아마도 영상이 사실처럼 느껴졌기 때문일 것이라고 전했다. 영상은 말론이 볼티모어에 사는 흑인으로서 겪었던 인종차별적 경험을 생각나게 했다. 말론은 교장이 흑인 학생들을 게으르다고 말한 것을 듣고 학교와 직장에서 겪었던 비하와 차별 경험을 떠올렸다. 몇 달이 지난 지금도 가짜 오디오 클립의 영향은 파이크스빌에서 여전히 감지되고 있다. 아이즈워트 교장은 직장을 옮겨 다른 학교에서 일하고 있다. 일부 지역 주민들은 이제 그 동영상이 가짜라는 것을 인정한다고 말했지만, 피해는 이미 벌어졌다. 샤론이라는 한 여성은 지난 8월 학교 맞은편 주택에서 손자의 유모차를 차에 싣고 나오면서 “바로 이곳이 유대인 거주 지역인데, 여기에 대해 선동적인 발언을 하는 것은 화가 났다”고 말했다. 샤론은 몇 분 동안 마치 그 영상이 실제인 것처럼 기자에게 이야기했다. “사람들이 그런 말을 하면 다른 사람들도 거기에 동참하게 되어 더 무서워지는 것 같아요.” 그의 남편이 차 안에서 그 클립이 가짜라는 사실을 상기시자, 샤론은 “나중에 AI가 생성한 영상이라는 사실을 알았다”고 인정했다. 하지만 그녀는 여전히 화가 난다고 말했다. 샤론처럼 잠시라도 이 영상이 진짜라고 믿었던 사람들은 교장의 조작된 발언이 인종차별과 차별에 대한 실제 경험을 반영했기 때문에 특히 기억에 남는다는 했다. 이런 말을 듣자 나는 잘못된 정보와 음모론을 조사하면서 반복해서 듣던 말이 떠올랐다. "사람들은 진짜가 아니라도 그렇게 생각하는 것 같아요.” 모든 주요 소셜 미디어 회사는 AI가 생성한 게시물에 라벨을 붙이고, 삭제하고, 확산을 제한하는 정책을 가지고 있다고 말한다. 하지만 이러한 조치는 해당 클립이 가짜라는 것이 입증된 경우에만 이루어진다. 그 시점에는 이미 수백만 명의 사람들에게 도달했을 수 있다. 알피 말론은 그날 아침에도 해당 클립이 AI로 생성된 것인지 전혀 몰랐던 친구와 이야기를 나눴다고 말했다. 그는 “솔직히 이 도시의 많은 사람들이 그것이 사실이 아니라는 사실을 모른다고 생각한다”고 말했다. 그는 학교 교장인 아이즈워트 씨가 그 발언으로 인해 억울한 누명을 쓴 것에 대해 안타깝게 생각한다고 말했다. 그는 또한 이 일로 인해 실제 인종차별 경험이 덮일까봐 걱정하고 있다. 그는 이런 영상을 다시 공유하기 전에 다시 한 번 생각해보겠다고 말했다. “저는 불에 화상을 입은 적이 있습니다. 다시는 난로에 손대지 않겠습니다.”