누구냐, 넌
04/15/2020
/ 박평종

딥 페이크 논란이 뜨겁다. 지난달에는 “딥 페이크 영상의 제작, 유통행위를 처벌하는 성폭력 범죄의 처벌 등에 관한 특례법” 개정안, 일명 딥 페이크 처벌법이 국회에서 통과됐다. 적대적 생성신경망(GAN)을 활용한 이 이미지 합성 기술의 잠재적 위험성은 오래 전부터 제기돼 왔는데*, 최근 불거진 소위 n번방사건으로 세간의 관심이 폭증한 모양새다. 사실 GAN알고리즘의 활용범위는 매우 넓고 긍정적 가능성도 무궁무진하다. 인공지능의 기계학습에서 GAN은 ‘대세’며, 그 원리를 응용한 다른 알고리즘도 다양해지고 있다. 기계학습을 통한 인공지능의 문제해결 능력은 여러 분야에서 검증된 바 있고, 점차 그에 대한 의존도는 높아지는 추세다. 따라서 딥 페이크는 경계하되 GAN을 버릴 수는 없다. 본래 악한 기술은 없기에. 테크놀로지는 중립적이나 결국 그것을 도구화시키는 인간이 문제다. 딥 페이크가 GAN의 본질은 아니라는 얘기다.

GAN은 이미지 합성기술이 아니라 원래 이미지 ‘생성’ 기술로 탄생했다. 한편 사진의 합성은 두 장 이상의 원본을 하나로 ‘붙이는’ 기술이다. 아날로그 시대의 포토몽타주나 포토샵을 활용한 디지털 콜라주가 그 예다. 그런데 GAN은 원본을 학습한 후 생성자와 판별자가 서로 경쟁하며 ‘새로운’ 이미지를 생성하는 구조다. 원본은 학습용일 뿐 최종 결과물은 어디에도 없는 다른 이미지, 말하자면 그 자체가 원본인 이미지다. 포르노 배우의 몸에 유명 연예인의 얼굴을 합성하는 ‘악의적’ 딥 페이크는 이 ‘고도의’ 알고리즘을 도구적 기술로만 활용하는 셈으로, 말하자면 맥북에어프로를 가짜뉴스 생산을 위한 타이핑 수단으로 쓰는 꼴이다.

이 ‘생성’ 알고리즘은 2014년에 개발된 이후 DcGAN, StyleGAN 등으로 진화하면서 한층 고도화됐다. 그 결과 GAN이 생성한 이미지는 학습용 데이터와 다를 바 없는 품질과 유사성을 지닌다. 실제 이 알고리즘은 사람의 얼굴을 ‘사진처럼’ 만들어내는데, 그 인물은 어디에도 없다. ‘없는’ 사람의 초상사진인 셈이다. 이를 활용한 온라인서비스도 늘고 있다. 비록 ‘가짜’지만 활용도는 높고 장점도 많다. 예컨대 Generative media에서는 GAN으로 만든 얼굴이미지 라이브러리를 운영하는데, 약 2백만 장의 이미지를 보유하고 있다. 성별, 연령별, 인종별 구분에 따라 선택한 얼굴 이미지를 다운받을 수 있으며, 필요에 따라 직접 원하는 이미지를 제작해주기도 한다. 당연히 이 2백만의 ‘인물’은 어디에도 없다. 실제 존재하지 않는 이 가상의 인물들은 그럼에도 불구하고 현실의 사람들과 비슷하며, 나아가 어디선가 본 듯한 인상을 준다. 현실의 인물을 촬영한 사진들을 원본으로 학습했기 때문이다. 어쨌든 핵심은 그들은 존재하지 않는다는 사실이다. 없는 사람이므로 당연히 초상권도 없다. 이름도 없고, 세월을 살지 않았기에 나이도 없고, 국적도 없다. 단지 얼굴만 있는 셈이다. 하지만 이 가상 이미지는 완전한 익명성 덕분에 필요에 따라 교육, 예술, 상업 등 다양한 영역에서 폭넓게 활용될 수 있다.

그런데 이 ‘없는’ 사람들의 초상과 관련하여 복잡한 문제가 생겨날 여지는 있다. 딥 페이크가 야기한 심각한 사회적 문제들을 고려하면 ‘악용’되지 않으리라는 보장이 없다. 인간의 욕망과 상상력은 어디까지 나아갈지 가늠할 수 없기 때문이다. 이 ‘무고한’ 가상의 인물들이 어떤 난처한 처지에 놓이게 될지 예측할 수 없다. 이 문제는 향후 인간과 휴머노이드의 관계 설정을 가늠하는 잣대가 될 수 있다. 예컨대 아리스토텔레스는 폴리스의 노예를 기계인간으로 대체하겠다는 생각을 품은 바 있는데, 이 때 인간과 기계인간의 관계는 수직적이다. 같은 맥락에서 알고리즘이 만든 이 가상의 인물들을 인간이 어떻게 ‘이용’해먹을지 알 수 없다. 이런 우려가 지금으로서는 과장일 수 있다. 허나 가까운 미래에 ‘로봇학대 금지법’이 나올 수도 있다는 점을 고려하면 ‘이미지 인간’에 대한 윤리적 관계, 나아가 법적 제도적 문제에 대해서도 진지하게 성찰해 볼 시점이 됐다.

 

* GAN 알고리즘에 대해서는 필자의 다른 칼럼 <한없이 진짜에 가까운 가짜>(2019. 12.11)를 참고할 것.

 

박평종 (중앙대학교 인문콘텐츠연구소 연구교수)