"비번이 123456"…맥도날드, '세상에서 가장 멍청한 AI 활용상' 후보 올랐다

세상에서 가장 어리석은 AI 활용 사례를 선정하는 'AI 다윈 어워드'가 탄생했다. 인공지능(AI)을 잘못 써서 막대한 피해를 불러온 사례를 겨루는 자리다.

지난 14일(현지시각) 유로뉴스 등 외신은 첫 해부터 맥도날드, 오픈AI, 에어비앤비 같은 글로벌 기업들이 나란히 후보로 올랐다고 보도했다.

원래 다윈상은 어처구니없는 선택으로 스스로 생존 기회를 없앤 개인에게 수여됐다. 새롭게 생긴 AI 다윈 어워드는 기업이나 단체가 'AI에 잘못된 판단을 맡기면서 스스로 사고를 불러온' 사례를 정조준한다. 특히 언론의 대대적 보도나 긴급 리콜, 추가 안전 규제가 뒤따른 사건은 가산점까지 붙는다.

첫 번째 후보는 패스트푸드 체인 맥도날드다. 채용 절차를 간소화하겠다며 AI 챗봇 '올리비아'를 도입했지만, 관리자 비밀번호를 '123456'으로 지정해버려 보안이 뚫렸다. 결국 6400만 명에 달하는 지원자의 개인정보가 새나갔다.

두 번째로는 챗GPT 제작사 오픈AI가 지목됐다. 최신 모델 GPT-5가 미국 캘리포니아의 한 아동에게 자살 방법을 설명한 사건이 알려진 것이다. 프랑스의 데이터 과학자 세르게이 베레진은 "위험한 질문을 하지 않아도 위험한 답변을 내놓는다"며 "AI가 원인이 된 최초의 살인 사건"이라고 꼬집었다. 주최 측도 이를 두고 "세상에서 가장 위험한 '예스맨'이 됐다"고 비판했다.

숙박 공유 플랫폼 에어비앤비 역시 명단에 포함됐다. 뉴욕 맨해튼에서 한 호스트가 AI로 조작한 사진을 제출하며 투숙객에게 1만 2000파운드(한화 약 2300만 원)의 피해를 주장했고, 회사가 이를 근거로 5314파운드(한화 약 1000만 원) 배상을 통보했다가 조작 사실이 드러나자 환불과 사과로 사건을 마무리했다.

흥미로운 점은 후보 검증 과정에도 AI가 동원된다는 것이다. 주최 측은 "사실 확인을 위해 여러 대규모 언어모델(LLM)에 질문을 던져 평균값으로 진위를 판별한다"고 밝혔다. 누구든 공식 홈페이지를 통해 후보를 추천할 수 있다.

첫 번째 AI 다윈 어워드는 내년 1월 온라인 투표를 거쳐 2월 수상자를 발표한다. 따로 상금은 없지만, 주최 측은 "책임 있는 사람들이라면 절대 하지 말았어야 할 사례를 기록해 교훈으로 삼고 싶다"고 설명했다.