슈퍼마켓 안면인식 시험, 로토루아 여성 생일날에 봉변
로토루아 슈퍼마켓에서 얼굴 인식 기술을 시험하는 과정에서 '도둑'으로 오인된 마오리 엄마는 자신의 생일에 끔찍한 사건을 겪었고, '인종차별'의 당혹감을 느꼈다고 말했다. 이에 대해 뉴 월드 슈퍼마켓 웨스트엔드(New World Westend) 매장은 실수였다며 사과하겠다고 밝혔다고 엔젯 해럴드는 보도했다.
안면인식 기술은 고객의 얼굴을 스캔하고 이 이미지를 매장의 알려진 범죄자 또는 용의자 데이터베이스에 있는 이미지와 비교한다.
생일날, 도둑으로 몰려 슈퍼마켓에서 쫓겨나
로토루아에서 12년 간 살면서 일해온 테 아니 솔로몬은 뉴 월드 슈퍼마켓에서 사고 없이 자주 쇼핑을 했다고 말했다. 그녀는 자신의 47번째 생일인 4월 2일 저녁에 10대 아들과 함께 중국 테이크아웃 가게에서 볶음밥과 함께 먹을 갈비를 사러 뉴 월드 슈퍼마켓에 들렀다고 말했다.
테 아니 솔로몬은 고기 코너에 있을 때 두 명의 남성 직원이 그녀에게 접근했고 한 명은 문자 그대로 그녀의 얼굴에 대고 큰 소리로 그녀가 무단 침입했으니 나가야 한다고 말했다고 전했다. 그녀는 사진이 부착된 신분증을 제시했음에도 불구하고 그들이 슈퍼마켓을 떠나라고 주장했다고 전했다.
그녀는 그들에게 세 가지 형태의 신분증을 주었을 때, 그들이 보고 있던 휴대폰에서 모자를 쓴 마오리 여성의 이미지를 보았다고 말했다.
테 아니 솔로몬은 그 사진이 자신이 아니라고 그 직원들에게 말했다. 그녀는 그들이 계속해서 자신의 신원을 의심하고 자신을 도둑임을 암시하자 분노했다고 말했다. 그녀는 그들에게 계속 사진 속의 여성이 자신이 아니라고 말했다. 그녀는 끔찍한 시련이 약 10분 동안 계속되었고, 결국 그녀와 아들은 고기를 사지 못하고 슈퍼마켓에서 쫓겨났고 그녀는 주차장에서 눈물을 흘렸다. 그녀는 무력감을 느꼈고 그 사건으로 인해 그때까지의 멋진 생일이 망쳐졌다고 말했다.
테 아니 솔로몬은 그 매장이 안면 인식 시범 운영을 하고 있다는 사실을 몰랐다고 말했다. 그녀는 슈퍼마켓이 좀도둑으로 인해 손실을 입었다는 것을 이해하지만 자신이 겪은 것과 같은 일을 다른 사람이 다시 당해서는 안 된다고 강조했다.그녀는 남성 직원들에 의해 인종차별을 당했다고 느꼈다며 그들의 행동이 무례했다고 묘사했다. 그녀는 직원들이 안면인식 시범 운영을 위해 훈련을 받았음에도 불구하고 이런 일이 일어났다는 사실이 그녀를 두렵게 만들었다고 말했다.
그 사건에 대한 미팅을 주선하기 위해 슈퍼마켓 매장에서 그녀에게 연락했다.
Foodstuffs, "잘못 인정, 고객에게 사과"
뉴 월드 슈퍼마켓을 소유한 Foodstuffs의 대변인은 4월 2일 매장에서 근무 관리자와 다른 직원이 잘못했다고 인정했다.
고객은 화를 낼 권리가 있으며 고객의 반응을 완전히 이해할 수 있다며, 실수를 하면 이를 인정하고 문제를 바로잡기 위해 신속하게 행동한다고 Foodstuffs 대변인은 말했다.
해당하는 모든 직원은 추가 교육을 받고 해당 사건은 개인정보 보호 감독관실에 보고된다.
Foodstuffs 대변인은 발생한 일에 대해 사과하기 위해 고객에게 직접 연락할 것이라고 밝혔다.
안면 인식 시스템의 경고가 실행되기 전에 훈련받은 두 명의 팀원이 일치하는 이미지가 시스템에 등록된 사람의 것인지 확인해야 한다고 대변인은 말했다. 이번 경우에는 슈퍼마켓 팀이 잘못을 저지른 것이라고 덧붙였다.
New World Westend 매장에서는 소매 범죄가 중요한 문제였으며, 최근에는 고객이 슈퍼마켓 관리자를 폭행해 병원에 입원한 일도 발생했다. 이 매장에서는 올해 100건 이상의 소매 범죄 사건을 보고했으며, 250명 이상의 개인이 무단 침입했다. 이 매장은 고객과 팀의 안전을 매우 심각하게 여기고 있다고 말했다.
안면 인식 기술, 유색인종에 대한 잘못된 일치 가능성이 '더 높음'
지난 주 개인 정보 보호 위원인 마이클 웹스터는 Foodstuffs의 안면 인식 실험(Facial Recognition Trial:FRT))이 개인 정보 보호법을 준수하는지 여부와 해당 슈퍼마켓에서 유해한 행동을 줄이는 데 효과적인지 여부를 모니터링하기 위해 조사를 시작했다.
서면 성명에서는 '편견과 정확성'에 대해 우려하고 있으며 얼굴 인식 기술(FRT)이 슈퍼마켓의 유해한 행동을 줄이기 위한 검증된 도구가 아니라는 점을 걱정했다.
가장 정확한 FRT 소프트웨어에 대한 글로벌 평가에서도 유색인종, 특히 유색인종 여성의 경우 잘못된 일치가 발생할 가능성이 더 높은 것으로 나타났다고 마이클 웹스터는 말했다.
마이클 웹스터는 이 소프트웨어가 뉴질랜드 인구에 대해 훈련되지 않았으며 사람들이 지역 슈퍼마켓에서 잘못된 비난을 받거나 부당하게 금지되는 것을 보고 싶지 않다고 입장을 밝혔다.
컨슈머 뉴질랜드(Consumer New Zealand)의 최고경영자 존 더피는 이 기술의 사용이 프라이버시 관점에서 볼 때 호두를 깨기 위해 큰 망치를 사용하는 것과 같이 매우 침해적이라고 말했다.
그는 Consumer NZ에서 기술이 신뢰할 수 없다는 증거와 일부 인종 그룹을 "프로파일링"할 때 이것이 의미하는 바에 대해 우려되는 점을 공유했다고 말했다. 해외에서의 안면인식 실험에서는 마오리 사람과 파시피카 사람을 구별할 수 있는 가능성은 훨씬 낮을 수 있다고 밝혔다.
존 던피는 상점에 가서 범죄를 저질렀다는 비난을 받는 것은 굴욕적이고 무서운 일이며 뉴질랜드에서 이런 일이 벌어져서는 안 된다고 강조했다.
