AI가 쓴 보고서에 속았다…호주 정부 "오류투성이에 환불 받을 것"

호주 정부가 컨설팅 그룹으로부터 받은 용역 보고서에 인공지능(AI)이 지어낸 가짜 정보가 다수 발견되는 일이 발생했다. 존재하지 않는 허위 법원 판결문 등이 보고서에 포함됐다고 한다.

영국 가디언에 따르면, 컨설팅 그룹 딜로이트는 호주 정부에게 의뢰 받은 보고서를 작성하면서 오픈AI의 GPT-4o를 사용했다. 호주 고용노동부가 발주한 일자리 시스템 문제 관련 평가 보고서였다.

지난 7월 딜로이트가 작성한 보고서가 공개되자 학계와 현지 매체들은 다수의 오류를 지적했다. 보고서에 명시된 호주 시드니대 스웨덴 룬드대 교수들이 작성하지 않은 허위 보고서가 각주와 참고문헌으로 제시된 것이다. 구체적으로는 참고문헌 141개 중 14개에서 오류가 발견됐고 본문상에도 인용 문구 등이 조작됐다.

이에 딜로이트는 수정본을 다시 제출하면서 오픈AI의 AI를 사용했다는 사실을 인정했다. 다만 "이 문제는 호주 정부와 소통해 해결했다"면서 "(AI 작성 내용의 오류가) 보고서의 실질 내용, 결과에는 영향을 미치지 않는다"고 해명했다. 호주 정부는 43만9000 호주달러(약 4억원) 규모의 용역비 중 일부를 환불 받을 계획이다.

외신들은 이번 사건이 AI가 만들어 내는 환각의 위험성을 보여준다고 평가했다. 보고서상 오류를 지적한 크리스토퍼 러지 시드니대 로스쿨 교수는 "(딜로이트가 제시한 보고서는) 근본적인 결함이 있어 신뢰할 수 없다"고 밝혔다. 데버라 오닐 호주 상원의원도 "컨설팅회사와 계약할 때는 전문성과 AI 사용에 대한 여부를 확인해야 한다"며 "대형 컨설팅회사 대신 챗GPT를 구독하는 게 나을 수 있다"고 지적했다.