1997년 말 IMF에서 돈을 빌려야 하는 외환유동성 위기 이후에 종신고용과 연공서열이라는 것이 파괴되었다. 많은 사람들이 일자리를 잃었고 그래서 전자상거래에 관심을 갖게 되었다. 아이러니하게도 인터넷과 전자상거래의 보급에는 야동이라고 부르는 ‘야한 동영상’이 들어 있는 음란물 사이트가 많은 기여를 했다. 사실 사람들은 관음증을 충족시킨 것이다.

갓 난 아기에서 시작하여 점점 성장하고, 나이가 들어서 꼬부랑 할머니, 할아버지가 되는 모습을 순차적으로 보여주는 그런 영상이 있다. 그런데 그것은 어떻게 만든 것일까? 요즈음의 기술로는 그렇게 어렵지 않다. 인공지능으로 그림을 그릴 때 렌더링이라는 기술이 있기 때문이다. 렌더링(rendering) 또는 이미지 합성은 컴퓨터 프로그램이 2D 또는 3D 모델에서 이미지를 생성하는 프로세스로 복잡한 수학적 해석을 거쳐 이루어진다. 그러니 강력한 계산과 처리를 하는 GPU(Graphic Processing Unit)를 별도로 사용한다. 일반적인 컴퓨터나 스마트폰이 CPU(Central Processing Unit)라는 처리장치를 쓰는 것에 비해 훨씬 더 전문적이다.

요즈음, 인공지능이 널리 발전하였고 성능 좋은 스마트폰이나 컴퓨터가 나왔고 통신 속도는 놀라울 정도로 빨라졌다. 메모리 가격은 엄청 싸졌다. 그러니 사람들은 찍는 동영상에서 더하여 만드는 것에 흥미를 갖는다. 재미있는 것을 만들어 보고 싶은 것이다. 기존의 영상에 얼굴만 바꾸어 붙이는 패러디 정도는 식은 죽 먹기다. 그러다 보니 이것이 타인을 불쾌하게 하는 정도를 넘어 피해를 주고 범죄가 되기도 한다, 설령 가짜로 합성한 것이지만 당하는 사람은 심각한 피해를 입게 된다. 이렇게 가짜 사진과 영상을 만드는 것을 딥페이크(deepfake)라고 한다. 기계인 컴퓨터가 스스로 공부하는 딥러닝(기계학습) 기술처럼 스스로도 쉽게 가짜를 만들 수 있어서 딥페이크라고 하는 것 같다.

딥페이크 기술이 꼭 나쁜 것은 아니다. 영화를 보면 컴퓨터 그래픽으로 처리한 장면이 많다. 위험한 장면을 촬영할 수 없고 비용도 엄청나게 들기 때문이다. 이런 이유로 의료행위나 학습, 게임 등 여러 곳에 사실처럼 보이게 하는 인공합성 기술을 활용하게 된다. 특수효과, 더빙, 과거 재현 등이 더 쉽고 간편해져서 유관순 누나의 고운 미소도 보았다. 잘 활용하는 측면이다.  

카톡이나 페이스 북(메타), 인스타그램 등은 우리가 잘 알고 있고 또 많이 쓰는 소셜 플랫폼이다. 카톡은 한국에서 만든 것이지만 페이스북이나 인스타그램 등은 외국의 것이다. 그러나 국내에 서버를 두고 영업을 한다면 필요한 경우, 서버를 확인, 조사할 수 있다. 그런데 서버가 외국에 있다면 물리적으로 조사가 불가능하다. 범죄와 연루된 경우, 협조를 요청하지만 얻는 것은 없다. 그 중의 대표적인 것이 텔레그램이다. 텔레그램은 올해 들어 전세계적으로 9억명 이상이 사용한다는데 Telegram Messenger LLP라는 기업이 2013년 8월에 출시하고 운영 중인 오픈 소스 모바일 메신저다. 러시아 출신의 니콜라이 두로프(Nikolai Durov)라는 젊은이가 개발했는데 이용자가 많아 18개 언어로 서비스 하고 있다. 최근에 프랑스에서 검찰이 두로프를 체포하고 기소하였다. 12가지나 되는 혐의를 공개하였다. 텔레그램으로 가입자들이  불법 콘텐츠를 제작, 유통하는 등 범죄를 저질러도 방치하고 오히려 옹호한다는 것이다.

EU가 제정한 디지털 시장법(Digital Markets Act, DMA)에는 거대 기술기업들이 스스로 유해 콘텐츠를 검열하도록 하고 있다. 프랑스, 독일, 미국 등도 규제법을 만들었는데 미국의 캘리포니아 주는, 만약 AI 시스템이 많은 사람을 사망에 이르게 하거나, 5억달러(약 6680억원) 이상의 피해를 일으키는 심각한 문제가 생기면 개발사가 책임을 지도록 하는 ‘AI 안전법’을 만들었다. 다만, 예술과 외설의 경계가 애매하기에 표현의 자유를 침해하지는 않아야 한다는 주장은 인정한다. 

학부모와 여성들이 땡볕에 피켓을 들고 나섰다. 우리는 문제가 커져서, 이래서는 안 된다고 사람들이 들고 나서기 전에 왜 법과 제도적 장치를 만들지 못할까? 선량들은 어디에 관심을 둘까? 딥페이크 문제를 특검하자는 말은 못 들었다. 이 기술은 분명히 활용가치가 높다. 그런데 양날의 칼이다. 칼이 강도에게 쥐어져서는 안 되는 것이다. 피해자의 인생은 망가지는데 규제법이 없어 강 건너 불구경을 하고 있다니.....