ACC는 공공 서비스 전반에 걸쳐 더 많은 인공지능을 사용하려는 정부의 추진에 대한 주요 응원자가 되었으며, 지금까지 초기 테스트에서 상당한 성과를 보였다고 밝혔다. 

사고 보상 공사(Accident Compensation Corporation)는 지난 1년 동안 생성형 AI인 Microsoft의 코파일럿(Copilot)을 시험적으로 테스트한 최초의 정부 기관이다.

최근 공개된 내부 보고서에 따르면, 300명의 사용자 중 5분의 4(80%)가 업무 품질과 속도가 향상되었으며, 난독증이나 청각 문제가 있는 직원들에게 도움이 되었다. 공식 정보법에 따라 RNZ에 발표된 내부 보고서에 따르면 ACC보다 먼저 이 도구를 시험한 다른 정부 기관은 없는 것으로 알려졌다.

이 AI는 고정된 데이터 세트를 바탕으로 운영되며, 개인정보 보호 문제를 최소화하기 위해 주요 고객 기록 시스템과 통합되지 않았다. 또한 AI는 직원들이 입력한 정보를 학습하지 않으며, 정보를 자체적으로 수집하지 않는다.

테스트 결과는 다른 정부 기관들에도 큰 관심을 받고 있으며, AI 도입이 확대되면서 개인정보 보호와 관련된 위험 요소가 증가할 가능성이 있다는 점도 보고서에서 지적되었다.

ACC는 AI가 속도와 효율성을 높일 수 있을 것이라고 생각했다. 그래서 2023년에 ACC 클라이언트의 IP[지식 재산]와 개인 정보를 침해하지 않고도 이러한 이점을 실현할 수 있는지 파악하기로 했다. AI는 고정된 데이터 세트에서 작동했다. 정보를 수집하지 않았고 주요 고객 기록 시스템을 활용하지도 않았기 때문에 개인정보 보호 위험은 낮았다.

보고서에 따르면, 직원이 한 질문이나 직원이 사용한 정보에서 학습하지 않았으며 해당 정보를 학습 뱅크에 추가하지 않았다.

ACC 윤리 패널 보고서는 이 작업에 대해 다른 정부 부서에서 큰 관심을 끌고 있다며, 성숙한 기술 환경을 감안할 때, 참여할 수 있는 승인과 역량을 갖춘 몇 안 되는 정부 기관 중 하나로써, 이 작업의 결과는 M365 Copilot을 사용하고자 하는 다른 정부 기관에 정보를 제공하는 데 도움이 될 것이라고 밝혔다.

윤리위원회에서는 Microsoft가 Crown 기관에 AI 도구를 제공하는 데 있어 충돌이 있다는 문제를 제기했다.

정부의 최고 디지털 책임자가 이 시험을 지지했으며, 정부의 최고 개인정보 보호 책임자와 개인정보 보호 위원회의 승인을 받았다.

두 가지 테스트(처음에는 직원 25명, 그다음에는 직원 300명)에서 서비스 향상과 함께 직원 웰빙이 향상되는 것으로 나타났다. 예를 들어, ADHD 또는 청력이 약한 사람이 회의에 더 집중하거나 독서 장애가 있는 사람이 내용을 수정하도록 돕는 것이었다.

보고서에서는 조사 결과 매우 유익했고, 이에 대한 접근은 매우 수요가 많았다고 전했다.

ACC는 RNZ에 시험 결과 소식을 퍼뜨리고 있다며, 이러한 결과는 다른 공공 부문 기관 및 기술 포럼과 공개적으로 공유되고 있다고 말했다.

최근 정부는 교육 및 보건 목적으로 AI를 언급하고 기업이 정보에 접근하도록 돕기 위해 스스로 생각할 수 없는 '멍청한' 챗봇을 도입하기 시작했다.

ACC 고객은 종종 청구 및 서비스에 대한 장벽, 회사가 보유한 정보, 회사가 해당 정보를 어떻게 사용하는지에 대해 우려를 표명했다. 윤리보고서(the Ethics report)는 데이터와 프롬프트는 대규모 학습 모듈에 보관되지 않으며, 제공하는 데이터와 프롬프트를 학습에 사용하지도 않았다고 밝혔다. 일부 정보는 비즈니스 앱과 같이 제한되어 있다고 덧붙였다.

개인정보 영향 평가도 새로 발표되었다. 이 도구의 주요 위험은 해킹, 부정확성 또는 오용으로 인한 개인 정보 침해라고 밝혔다. 평가 보고서는 AI가 ACC의 권한 있는 클라이언트 기록 시스템과 통합되지 않기 때문에 클라이언트 개인 정보를 침해할 위험이 대부분 완화된다며, 따라서 코파일럿(Copilot)은 해당 시스템에서 개인 정보를 수집, 사용 또는 공개할 수 없다고 전했다.

윤리 위원회가 AI가 적용된 문서에 워터마크를 찍을 가능성을 제기했지만, 철자 검사를 거친 문서에는 워터마크가 찍히지 않은 것으로 나타났고 감사 (Auditing)를 쉽게 하기 위한 흔적을 남겼다. 

모든 사용자는 유용한 질문을 하고 출력을 검토하는 방법에 대한 교육을 받았다. AI 사용이 더 광범위하게 확산되면 위험이 커질 것이라고 문서는 밝혔다. 가장 큰 위험은 잠재적인 내재적 AI 편향이고, 개인정보보호팀은 클라이언트 개인 정보가 도구에 직접 입력되지 않도록 임의 점검을 구현하는 것을 고려할 것을 제안한다고 평가 보고서는 밝혔다.

보고서는 상황을 파악하기 위해 다양한 정기 검토를 제시했다.

AI에는 한계가 있었다. Te reo Māori는 코파일럿(Copilot)에서 지원되는 언어가 아니었고, 평가에 따르면 번역 시도는 철저한 검토가 필요하였다. ACC의 마오리 고문은 시험에 참여했다.

공식 정보법에 따른 대응에 따르면 ACC는 시험에 계약자에게 70,000달러를 지출했지만 상업적 이유로 300년 라이선스에 대해 마이크로소프트에 지불한 금액이나 미래에 지불할 것으로 예상하는 금액을 공개하지 않았다.

마이크로소프트의 매출은 2023년에 12억 달러로 성장했는데, 이는 2022년의 1달러와 2년 전인 2021년의 7억 7,500만 달러에서 증가한 수치이다. 이익은 약 4,000만 달러로 일정하게 유지되었다.

마이크로소프트사에서는 일상적인 AI 동반자라고 부르는 것을 홍보하면서 가장 많이 사용되는 모든 제품과 경험에 마이크로소프트 365 코파일럿(Copilot)을 구축하고 있다고 밝혔다. 코파일럿(Copilot)은 마이크로소프트(Microsoft)가 2023년 3월에 출시한 인공지능(AI) 기반의 서비스로, 사용자의 작업을 지원하고 생산성을 향상시키기 위해 설계되었다.

MS 코파일럿(Copilot)은 부종조사란 의미로, 마이크로소프트(MS)가 엑셀, 파워포인트, 팀즈 등 오피스 365 전 제품군에 AI를 적용하는 서비스의 이름으로 이해하면 된다. MS 코파일럿(Copilot)은 OpenAI의 GPT-4 기술을 사용한다. 마이크로소프트 홈페이지에서는 별도의 Microsoft 365 Personal 또는 Family 구독을 보유한 사용자(유료 사용자)는 더 완전한 기능을 갖춘 데스크톱 앱에서 Copilot을 사용할 수 있는 추가 혜택을 누릴 수 있다고 선전하고 있다.