AI 기술을 활용한 첫 지방선거, "의원인가, 챗봇인가?"
AI 문화정치학을 연구하는 와이카토대학 인류학 강사 브론윈 아이작스 박사는 최근 정치 관련 콘텐츠에서 AI 사용이 늘었다고 설명했다. 그는 AI가 값이 싸고, 쉽게 접근할 수 있으며, 많은 양의 콘텐츠를 빠르게 만들어내야 하는 압박을 덜어준다는 점 때문에 후보자들이 관심을 가진다고 말했다. 하지만 이런 콘텐츠의 품질이 '끊임없이 제공되는 컵라면'처럼 의심스러울 수 있다고 말했다.
아이작스 박사는 정부와 소통할 때 아이디어를 전달하는 데에는 장점이 있지만, AI는 잘못된 정보나 편견을 담을 수 있어 주의가 필요하다고 했다.
이번 선거에서는 시장, 일반 지역구, 마오리 지역구 등 총 31명의 후보가 나왔다. Local Democracy Reporting은 이들과 인터뷰를 통해 AI가 이번 지방 선거에서 활용되는 것에 대한 견해를 물었다.
현 시장 타니아 탭셀과 마오리 후보 트레버 맥스웰, 테 와타누이 스킵위스는 AI를 쓰지 않는다고 밝혔다. 일반 후보 매튜 도이즈도 어떤 형태로든 AI를 쓰지 않는다며, 유권자들은 진짜 사람을 뽑는 것이지 챗봇을 뽑는 게 아니라고 말했다. 그는 후보자가 AI를 썼다면 공개해야 한다고 주장했고, 다른 후보들도 동의했다.
마오리 후보 라우리 와루는 AI를 자주 쓰는 사람은 이제 금방 알 수 있다며, 기술은 훌륭하지만 사람의 생각을 완전히 대신할 수는 없다고 말했다.
반면 네빌 레이셀과 재러드 아담스 같은 후보들은 철자나 문법 검사, 로고 제작, 웹사이트 만들기, 영상 편집 같은 실무에 AI를 쓰고 있다고 했다. 하지만 이들도 사용 사실을 공개해야 한다는 입장이었다. 아담스는 AI가 현지인이 쓰지 않는 이상한 표현을 하거나 틀린 정보를 주기도 한다고 말했다.
시장 후보 돈 패터슨은 영상 편집과 이미지 제작에 AI를 썼지만, 사실을 왜곡하거나 사람들을 속이는 데는 쓰면 안 된다고 했다. 그는 윤리적인 문제는 걱정하지 않는다고 덧붙였다.
다른 후보들은 AI를 연구나 행정 업무에 쓰는 것을 실용적으로 보고 있었다. 시장 후보 마리아나 모리슨은 AI가 효율성과 창의성을 높여주지만 모든 결정과 메시지는 결국 자신의 가치와 판단을 따른다고 말했다.
또다른 시장 후보 로버트 리는 자료 조사에는 AI를 쓰지만 글을 직접 작성할 때는 쓰지 않는다고 했다. 그는 AI 덕분에 어떤 후보가 실제보다 더 글을 잘 쓰는 것처럼 보일 수 있다고 걱정했다.
일반 후보 라이언 그레이도 유권자들이 후보가 직접 생각하고 강하게 목소리를 낼 수 있는지 봐야지, AI가 대신 생각해주는 걸 기대하는 건 아니라고 말했다. 제니 채프먼도 비슷한 의견을 내며, AI에 너무 의존하면 비판적 사고가 줄어들 수 있다고 했다.
카운슬 복귀를 노리는 레이놀드 맥퍼슨은 AI 사용이 이제 표준 관행이라고 했지만, 결국 중요한 건 AI를 쓰는 사람의 능력과 판단이라고 강조했다.
시장 후보 샤카이나 프레이저는 페이스북에서 신이 모든 것을 만들었다고 믿는다면서 AI 사용에 대해 신앙적인 관점을 보였다.
한편, 오늘날 AI는 단순히 글 작성뿐 아니라 목소리, 이미지, 영상까지 만들어내고 있고, ‘딥페이크’ 로 알려진 비디오 또는 영상이 급속도로 확산되고 있다.
뉴질랜드 지방자치단체협의회(LGNZ)는 조작된 콘텐츠로 인해 후보자가 왜곡될 경우 심각한 피해를 입을 가능성이 있다고 경고했다.
