딥페이크, 삶과 생계를 망칠 수 있다
법적 문서에서는 "디지털 복제물"로 알려진 딥페이크는 인공지능(AI)을 이용해 살아있거나 이미 사망한 실제 사람들의 얼굴과 목소리를 모방하여 생성된다.
이러한 기술이 규제되지 않을 경우 심각한 피해를 초래할 수 있다. 뉴질랜드에서도 이미 문제로 대두된 금융 사기, 정치적 허위 정보, 가짜 뉴스뿐만 아니라 AI로 생성된 포르노 및 아동 성범죄 콘텐츠의 제작과 유포까지 포함된다.
연예인 및 공연 예술인들에게는 딥페이크 기술의 확산과 발전이 그들의 이미지와 목소리를 통제하고 이를 통해 수익을 창출할 권리를 심각하게 위협할 수 있다.
뿐만 아니라, 딥페이크는 직업 자체를 없앨 가능성도 있다. 디지털 복제물이 있다면 굳이 배우를 고용할 필요가 있을까?
이 문제를 해결하기 위한 한 가지 방안으로, 개인이 자신의 얼굴과 목소리에 대한 지적 재산권(IP)을 행사할 수 있도록 하는 방법이 제안되고 있다.
현재 미국에서는 이를 둘러싼 논의가 진행 중이며, 뉴질랜드 입법자들도 이를 면밀히 주시할 필요가 있다.
자신의 모습 소유하기
현재 뉴질랜드에서 논의되고 있는 해결책 중 하나는 해로운 디지털 커뮤니케이션 법(Harmful Digital Communications Act)의 금지 조항을 디지털 복제물에도 적용하도록 확장하는 것이다.
또한, 형법(Crimes Act), 공정 거래법(Fair Trading Act), 선거법(Electoral Act)의 개정을 통해 규제할 가능성도 있다.
하지만 동시에 AI 기술 투자를 저해하지 않는 방향으로 규제를 설계해야 한다는 정치적 압력도 존재한다. 2024년 뉴질랜드 내각 문서에서도 이러한 우려가 제기된 바 있다.
미국 의회에 제출된 "Nurture Originals, Foster Art, and Keep Entertainment Safe" 법안(일명 No Fakes Bill)은 새로운 연방 지적 재산권을 도입하여, 개인이 딥페이크 제작자 및 배포자를 상대로 권리를 행사할 수 있도록 하는 내용을 담고 있다.
이 법안은 민주·공화 양당의 지지를 받고 있으며, 주요 연예인 노동조합들도 지지를 표명했다. 또한, 미국 저작권청(US Copyright Office) 역시 현재 법 체계로는 이러한 문제를 해결할 수 없으며, 실행 가능한 권리가 시급히 필요하다는 입장을 밝혔다.
뉴질랜드 관점에서 보면 No Fakes Bill은 유용한 아이디어를 제공하면서도 몇 가지 문제점을 내포하고 있다.
이 법안의 혁신적인 점 중 하나는 지적 재산권 보호를 유명인뿐만 아니라 일반인에게도 확대한다는 것이다.
즉, 모든 개인이 자신의 디지털 복제물이 비디오 게임, 포르노 영상, 틱톡 게시물, 영화 및 TV 쇼 리메이크 등에 무단으로 사용될 경우 손해 배상 및 금지 명령을 요청할 수 있다.
그러나 보호 기준이 너무 높다는 점에서 실효성이 떨어질 수도 있다. 법안에 따르면, 디지털 복제물이 "개인의 음성 또는 외형과 쉽게 식별될 수 있어야 한다"고 명시되어 있지만, 피해자가 어느 정도까지 식별 가능해야 하는지는 불분명하다.
예를 들어, 뉴질랜드 배우인 애나 파킨이나 클리프 커티스는 확실히 보호 대상이 될 것이다. 하지만 가족, 친구, 직장 동료만 알아볼 수 있는 일반인은 보호받을 수 있을까?
디지털 복제물의 라이선스화 가능성
미국 법안에 따르면, 새로운 지적 재산권은 라이선스 형태로 사용할 수 있다. 즉, 이 법안은 딥페이크를 전면 금지하는 것이 아니라 개인이 자신의 초상 사용을 통제할 수 있도록 한다.
예를 들어, 배우는 광고회사가 자신의 디지털 복제물을 TV 광고에 사용하도록 라이선스를 부여할 수 있다.
라이선스 계약은 서면으로 작성되고 서명이 필요하며, 사용 목적이 명확히 규정되어야 한다. 또한, 살아있는 개인의 경우 라이선스 기간이 최대 10년으로 제한된다.
이 부분은 긍정적이지만, 뉴질랜드 정책 입안자들은 라이선스 관련 조항의 범위를 신중하게 검토할 필요가 있다.
법안에서는 새로운 지적 재산권이 "전체 또는 일부에 대해 라이선스가 가능하다"고 명시하고 있다. 만약 법원이 "전체"의 의미를 넓게 해석한다면, 개인이 자신도 모르는 사이에 자신의 초상과 음성에 대한 모든 권리를 포기할 가능성도 있다.
또한, No Fakes Bill은 개인이 자신의 디지털 복제물이 명예를 훼손하는 방식으로 사용되는 경우를 보호하는 조항이 부족하다.
예를 들어, 한 가수가 자신의 디지털 복제물을 AI가 생성한 음악 공연에 사용할 수 있도록 라이선스를 부여했다고 가정해보자.
그런데 해당 AI가 백인우월주의 찬가를 부르는 등 해당 가수의 명예를 심각하게 훼손하는 방식으로 사용된다면 어떻게 될까? 법안은 이에 대한 보호 장치를 제공하지 않는다.
패러디와 풍자의 보호
한편, No Fakes Bill은 표현의 자유를 보장하기 위해 선의의 논평, 비평, 학술 연구, 풍자 및 패러디에 대한 보호 조항을 포함하고 있다.
또한, 인터넷 서비스 제공업체(ISP)가 딥페이크 관련 침해 콘텐츠를 신속히 삭제하는 경우 법적 책임을 면제받도록 규정하고 있다.
이러한 조항은 뉴질랜드에서도 도입할 가치가 있다. 또한, 풍자 및 패러디 방어 조항은 현재 뉴질랜드 저작권법에 존재하지 않는 개념이므로, 이를 보완하는 역할을 할 수 있다.
그러나 미국 법안에는 ISP가 딥페이크를 유포하는 웹사이트에 대한 접근을 차단하도록 강제하는 조항이 없다.
현재 50개국 이상(호주 포함)에서는 "사이트 차단 명령"(site-blocking orders)을 통해 이러한 조치를 취할 수 있도록 하고 있지만, 뉴질랜드와 미국은 여전히 이러한 법적 장치가 없다.
국외 웹사이트를 통해 확산되는 딥페이크로 피해를 보는 뉴질랜드 국민에게는 사이트 차단 명령이 실질적인 해결책이 될 수도 있다.
완벽한 해결책은 아니지만...
No Fakes Bill은 딥페이크 문제를 완전히 해결할 수 있는 완벽한 법안은 아니다.
이를 해결하려면 다양한 법적·정책적 접근법이 필요하며, 디지털 복제물이 사용될 때 이를 명확히 공개하도록 의무화하는 방안도 포함되어야 한다.
그럼에도 불구하고, 지적 재산권(IP) 보호를 통해 개인이 자신의 초상과 목소리를 통제할 수 있도록 하는 조치는 딥페이크로 인한 경제적, 명예적, 정서적 피해를 줄이는 데 유용한 도구가 될 수 있다.
이 글을 작성한 Graeme Austin은 웰링턴의 Te Herenga Waka-Victoria University에서 사법학과의 의장이며 Jane C Ginsburg는 컬럼비아 대학교에서 문학 및 예술 재산법 교수이다.