중국이 지난 10일부터 ‘딥페이크’ 제작을 제한하는 포괄적 규제를 시행했다.

이는 최근의 백지시위와 연결된 반체제 여론을 막기 위한 조치의 일환으로 언론 자유 침해 등을 근거로 권고 수준에 머물고 있는 유럽연합이나 미국과 대비되는 실질적 금지 조치라는 점에서 흥미롭다. 물론 중국의 이러한 조치는 지난 20년 이상 운영되어 온 만리방화벽으로 불리는 인터넷 검열 시스템이 있기에 가능해 보이는 부분이 있으나 투명성 및 정보 공개 준수에 대한 부담은 엄청나기에 내, 외부적 실효성에 대한 의문은 지속적으로 제기될 가능성이 높아 보인다.

딥페이크 관련 기술은 초기부터 합성 콘텐츠의 라벨 부착 필요를 이야기해 왔으나 정작 이를 보장하는 방법이 불분명하다는 한계가 명확했다. 또한 인터넷은 영원하다는 표현에서 드러나듯 제작된 콘텐츠가 퍼질 경우 이를 완전히 지우는 건 극도로 어렵다. 나아가 콘텐츠가 삭제된 이후에도 시청자들의 집단의식은 사라지지 않는다는 점은 백지시위에 영향을 끼친 상하이 봉쇄정책을 비판한 ‘4월의 목소리’ 콘텐츠 사례를 통해서도 확인된 바 있다.

역사적으로 기술이 사회에 스며드는 건 막을 수 없다. 전 세계 딥페이크 영상의 95%가 음란물이라는 통계, 러시아의 침공 초기 우크라이나 대통령의 가짜 항복 선언 영상과 실어증을 앓는 브루스 윌리스의 광고 출연 등은 사회 전체에 영향을 끼치는 딥페이크 기술의 위험한 현실적 사례가 분명하다. 하지만 우리가 정말 경계해야 하는 건 해당 기술의 규제 방식이 아닐 수 있다. 사실을 조작하는 새로운 방법은 항상 존재해 왔으며 매번 최신의 기술에 시선을 두는 건 결과적으로 언제나 지는 게임이 된다. 오히려 우리가 관심을 두어야 하는 건 관련 제작물이 왜 제작되고, 어떻게 퍼지는가 즉, 허위 내러티브의 확산을 뒷받침하는 사회적 요인에의 집중이다.

“딥페이크 기술은 도덕적으로 의심되지만, 본질적으로 잘못된 것은 아니다.”

윤리학자이자 정치철학자 아드리안 드 라이터(Adrienne de Ruiter)는 그녀의 연구를 통해 ‘동의한 적 없는 사람에의 표현’, ‘시청자를 고의적으로 속이는 행위’ 그리고 ‘유해한 의도’가 해당 기술의 결과물을 부도덕하게 만든다는 의견을 낸 바 있다. 이 기술과 분리된 제작자와 시청자, 즉 사람의 의도야말로 경계해야 될 주체임을 밝힌 것이다. 특히 연예인이나 정치인 등의 사회적 영향력이 상대적으로 큰 대상을 향한 마이크로 타겟팅된 딥페이크 콘텐츠는 제작자 의도의 발현을 규제하는데 어려움이 많을 수밖에 없다.

그럼 앞으로의 관련 대안은 어떻게 만들어나가야 할까? 크게 두 가지의 방향으로 제시될 수 있다.

첫째, 우리가 카메라와 인식 시스템의 세계 속의 존재임을 인지하고 인정해야 한다. 이 글을 쓰는 필자도, 이 글을 읽는 당신도 카메라가 장착된 모바일폰과 노트북 앞에서 대부분의 일상을 보낸다. 시스템의 관점에서 인간의 행동은 알고리즘을 위한 물질이다.

아이를 잘 돌보고 있는지 확인하는 카메라는 부모와 보모의 이상적인 관계를 위해 존재하지만 인간이 인간을 제약하려는 의도를 학습하고 수행하는 비인간적 주체이기도 하다. 우리가 이 새로운 주체들과 함께 생활하고 있다는 의식은 딥페이크와 연결된 비도덕적 의도를 관리 및 대응하는데 도움이 될 수 있다.

둘째, 커뮤니티 단위의 관련 교육이 생성되고 확산되어야 한다. 우리는 디지털 체계 내의 약한 연결 안에서 소속감을 찾으려는 경향이 있다. 이는 팬데믹으로 강화된 사회단체로부터의 소속감의 부재와 관련해 취향이나 관심사 등으로 보이지 않는 누군가와 연결되어 있다고 믿고 싶어 하는 현상이다. 새벽 2시까지 반복되는 틱톡 확인, 정확하기를 기대하지 않는 나무위키에의 잦은 접속, 인스타그램의 지속적인 스토리 확인, 관심이 적은 단체 채팅방의 방치 등이 그 예다.

딥페이크는 이러한 약한 연결로부터의 소속감을 자극하는 경향이 많으나 해당 주체를 향한 깊은 관심이 없다는 점에서 관련 콘텐츠의 영향력 해체 또한 상대적으로 용이하다. 정치인의 신용을 떨어뜨리기 위한 딥페이크 콘텐츠의 진위 여부 확인이 개인으로서는 어려웠으나 정당의 단위에서는 거짓을 구분해 낸 한 프로젝트 결과는 커뮤니티의 관점, 가치 및 관행을 바탕으로 한 교육 프로그램이 효과적인 대안이 될 수 있음을 증명한 바 있다. 이는 딥페이크 콘텐츠가 공유되는 플랫폼 서비스 기업들이 유저 대상의 고유한 커뮤니티 대응책을 세우고 제안함으로써 전략적 기회를 만들어 낼 수도 있음을 의미한다.

사고로 사망한 폴워커를 친동생의 대역 연기 위에 얼굴만 합성해 되살려낸 영화 '분노의 질주'와 같은 딥페이크 기술의 긍정적 활용 사례가 있는 반면 한 여성 저널리스트를 타깃으로 한 가짜 성관계 영상으로 인해 한 사람의 인생이 망가지는 사례 또한 현실에서 벌어지고 있다.

영화 산업 내 배우들은 현재 딥페이크 기술로부터 가장 보호받는 사람들이라는 걸 기억할 필요가 있다. 그 대상이 일반인이 되었을 때 어떤 대응이 가능할지 현 사회는 아직 답할 수 없어 보인다. 법적 규제에 대한 기대 이전에 틱톡 등의 소셜 채널에서 딥페이크 관련 콘텐츠를 재미로 확인하는 우리 자신을 향한 자각이 가장 필요한 첫 단계가 아닐까 싶다.

*이 글은 23년 2월 14일 자 전자신문 기명 칼럼 게재된 내용의 원본입니다.

References

China is about to get tougher on deepfakes in an unprecedented way. Here's what the rules mean

브루스 윌리스가 광고에… 은퇴·작고 배우도 신작 출연 ‘딥페이크 논란’

The Distinct Wrong of Deepfakes

A.I. Among Us: Agency in a World of Cameras and Recognition Systems

Using deepfakes for experiments in the social sciences - A pilot study⁠⁠⁠⁠⁠⁠⁠