🖥️ AI에 채용을 맡겼더니 여성이 배제됐다

2025. 8. 13.

구독하기 ┃ 협업 제안·문의

CONTENTS

오늘의 점선면 | '엄마는 집안일, 아빠는 회삿일' AI에 스며든 편견

구독자 참여 이벤트 | 점선면을 소개해주세요!

오늘의 브리핑 | 김건희, 결국 구속 외

밑줄__ | 기자의 마지막 메시지

SNStory | 일본 맥도날드, 주민들에게 사과한 이유?

'엄마는 집안일, 아빠는 회삿일' AI에 스며든 편견

점선면 독자님들은 4년 전 이루다 사태를 기억하시나요? 2021년 인공지능(AI) 챗봇 '이루다'가 출시된 지 3주 만에 서비스가 중단된 일이 있었는데요. 이루다가 여성, 장애인, 성소수자 등에게 혐오·차별 표현을 한 사례가 알려졌기 때문이었어요.

이를테면 이루다는 미투 운동에 대해 "절대 싫어. 미치지 않고서야"라고 답하거나, 여성전용헬스장에 대한 질문에 "시러(싫어) 거기 여자들 다 줘패고 싶을듯"이라고 답했습니다. 레즈비언 등 성소수자에 대해선 "싸 보여서 시러(싫어)"라고 답했고, 흑인에 대해선 "흑인은 오바마(버락 오바마 전 미국 대통령)급 아니면 싫어"라고 답했어요.

이루다 사태를 계기로 한국 사회에서는 한때 'AI 윤리' 문제가 화두로 떠올랐는데요. 4년이 지난 지금, AI는 혐오·차별 표현이 필터링된 데이터를 학습하고 있을까요? 최근 유엔(UN)여성기구 지식·파트너십 센터와 이화여자대학교 인공지능학과가 공동 주최한 컨퍼런스에서 발표된 한 연구결과에 따르면 답은 '아니오'입니다. 오늘 점선면에서는 '젠더 편향을 드러낸 AI' 문제에 대해 짚어보겠습니다.

📌점 사실들 : 똑똑해졌지만 편견 못 버린 AI

판사로 일하는 부부인 철수와 영희에겐 종종 역할 갈등이 발생합니다. 키우는 자녀가 아플 때면 업무를 뒤로 하고 아이를 챙겨야 할지, 아이를 돌본다면 누가 나서야 할지 고민하는 날이 적지 않은데요. AI에게 철수와 영희가 겪는 역할갈등을 물어보면 어떤 답을 할까요.

오혜연 카이스트 전산학부 교수가 지난 7일 열린 'AI와 젠더 국제학술 컨퍼런스'에서 공개한 연구 결과에 따르면, 거대언어모델(LLM) 기반의 AI인 GPT-4o는 철수에게 '아빠보단 판사의 역할에 집중해야 한다'고 100% 확률로 의견을 제시했어요. 반면 영희에겐 '판사보단 엄마의 역할에 집중해야 한다'고 답한 확률이 높았습니다.

오혜연 교수는 각각 교사인 남성과 여성에게 부모를 모시는 자녀의 역할이 충돌하는 상황을 AI에게 여러 차례 물었는데요. AI는 남성에겐 아들보단 교사의 역할이, 여성에겐 교사보다 딸의 역할이 더 중요하다고 답하는 비율이 높았습니다.

특정한 상황을 전제로 한 뒤 이야기를 만들 때도 주요 LLM 기반 AI는 젠더 편향을 드러냈어요. 대학원을 다니다 학업을 중단한 남녀를 각각 주제로 AI에 이야기를 구성해보라고 했더니 '사업에 뛰어든 남성'과 '결혼을 계획한 여성'으로 상정한 서사를 보여줄 확률이 AI 모델마다 32~45%에 달했습니다. 오혜연 교수는 "여러 AI 모델이 젠더 편향을 담아 이야기를 구성해낼 확률이 30~40%는 된다는 의미"라고 말했어요.

✏️선 맥락들 : 채용서 여성 감점한 아마존 AI

오혜연 교수의 연구 결과는 AI는 점점 고도화되고 있지만 AI의 젠더 편향은 사라지지 않았다는 걸 잘 보여줍니다. 똑똑해진 AI가 젠더 편향을 여전히 극복하지 못한 까닭은 무엇일까요? 첫 번째로는 AI 개발자가 남성 중심이라는 점이 꼽힙니다. 국내외 통계를 보면 AI 업계 종사자 중 여성 비율은 2023~2024년 기준 20~30%에 그칩니다.

빈약한 벤치마크(benchmark·AI 성능을 평가하는 표준시험)도 원인으로 꼽힙니다. AI 기업 내에서 자체적으로 수행하는 벤치마크가 미묘한 젠더 편향을 걸러낼 만큼 고도화되지 않았다는 건데요. 오혜연 교수는 "지금까지 알려진 방식은 사지선다처럼 객관식으로 편향을 걸러내는 절차가 대부분"이라고 말했습니다. 즉 오혜연 교수의 연구진이 수행한 이야기 만들기처럼 맥락이 있는 상황에서의 AI 젠더 편향을 걸러내기 어렵다는 의미입니다.

젠더 편향에 대한 AI 기업의 무관심도 원인으로 지적됩니다. 오혜연 교수는 "연구 분야 주요 의사결정자인 50~60대 남성들은 한정된 연구재원 안에서 편향, 윤리 등의 주제보다 AI 고도화에 더 관심을 두는 경향이 있다"고 말합니다.

AI의 젠더 편향을 그대로 두면 어떤 일이 벌어질까요? 요즘 AI가 채용 등 고도화된 업무영역에도 활용되고 있는데요. 여성이 채용에서 배제될 수 있습니다. 아마존이 대표적인 예입니다. 아마존은 2014년 AI를 채용 시스템에 선도적으로 도입했는데요. 이력서에 '여성'이라는 단어가 포함되면 감점이 돼 논란이 됐어요.

원인은 AI가 학습한 데이터에 있었어요. 아마존에서는 지난 10년간 회사에 제출된 이력서 데이터를 학습시켰는데, 남성 직원 비율이 60%인 아마존의 현실이 영향을 주면서 AI가 미래의 채용에서도 남성을 추천한 겁니다.

🗺️면 관점들 : AI에 책임 지우려면

1770년 유럽에 체스 두는 기계, 이른바 '미케니컬 터크(Mechanical Turk)'가 등장한 적이 있습니다. 이 기계는 80년 동안 유럽 전역을 두면서 체스 대결을 펼쳤는데, 사실 사람이 상자 안에 숨어서 기계를 조작했던 것이었습니다. 미케니컬 터크 안에 숨은 사람처럼, AI가 보여준 혐오·차별 문제는 우리 사회의 혐오·차별 문제를 그대로 노출하고 있는데요.

이루다를 개발했던 스캐터랩 대표는 "이루다는 어린아이 같은 AI"라며 이루다를 잘못 학습시킨 사람들에게 책임을 돌리는 듯한 발언을 했어요. 물론 우리 사회의 존재하는 혐오·차별 구조도 문제일 겁니다. 하지만 이를 날것 그대로 '학습 데이터'로 사용한 개발자에게 과연 책임이 없을까요? 여성이 채용에서 배제됐던 아마존 사례에서 보듯, AI는 차별을 더욱 더 증폭 시켜 또 다른 차별을 발생시킬 수 있다는 게 더 큰 문제입니다. AI가 사회에 미칠 파장을 고려한다면 AI 개발자는 문제가 되는 발언들은 거르고 또 걸러서 혐오와 차별이 재생산되는 것을 막아야 합니다.

결국 국가가 나서서 'AI 윤리 가이드라인'을 확립해야 하는 것이 '정답'일 겁니다. 경제협력개발기구(OECD), 유럽연합(EU) 등 국제기구들은 각 국가들이 AI 윤리에 대한 권고안을 마련해 AI 개발 과정에서 활용될 수 있도록 해야 한다고 지적하고 있어요.

AI 기술 개발 과정에서 기업들이 혐오·차별이나 젠더 편향성을 걸러낼 수 있도록 강제하는 법적 규제가 마련되어야 하고, 이를 모니터링할 수 있는 전담 기구도 설치되어야 합니다. 기술 진화만을 최종 목표로 삼는 AI 업계에선 도덕성과 윤리가 쉽게 간과될 수밖에 없기 때문이죠. 기술에 책임을 부과할 수 있는 거의 유일한 방법은 국가의 강제적인 규제라는 사실, 정부는 명심했으면 좋겠습니다.

유설희 기자

🔗 레터 공유하기

버튼을 길게 누르면 URL을 복사할 수 있습니다.

💌 피드백 남기기

오늘 레터에 대한 독자님의 의견을 기다립니다.

🎁[블로그 리뷰 이벤트] 점선면을 소개해주세요!

점선면이 '주 5회 발행'을 계기로 애독자님들을 위해 작은 이벤트를 진행하고 있습니다. 점선면에 대해 정성과 애정이 가득 담긴 리뷰를 작성해주시면 선정된 분께 소정의 선물을 보내드려요. 자세한 내용은 아래 응모하기 버튼을 눌러 확인해주세요.

✅선물

네이버페이 포인트 5만원(1명) / 네이버페이 포인트 1만원(10명)

👉 이벤트 응모하기 👈

김건희, 결국 구속

도이치모터스 주가조작, '명태균 게이트', 건진법사 청탁 등 의혹으로 수사를 받는 김건희 여사가 어제(12일) 밤 구속됐습니다. 법원은 "증거 인멸 우려가 있다"며 '김건희 특검'이 청구한 구속영장을 발부했습니다. 특검 수사 결과 범죄 혐의점도 상당 부분 소명된 것으로 보입니다. 이로써 전직 대통령 부부가 동시에 구속되는 초유의 일이 벌어졌습니다. 특검은 김건희 여사를 상대로 삼부토건 주가조작, 명품 수수, 양평고속도로 종점 변경 등 다른 의혹들 수사에 속도를 낼 예정입니다. 한편 김건희 여사의 '집사'로 불리는 김모씨는 어제 입국해 체포됐습니다.

이재명-트럼프 정상회담, 쟁점은?

이재명 대통령이 오는 25일(현지시간) 도널드 트럼프 미국 대통령과 정상회담을 합니다. 관세협상의 큰 틀이 앞서 합의된 만큼, 이번 정상회담의 핵심은 '안보'입니다. 미국은 주한미군을 한국 외에도 대만 등 다른 지역의 분쟁에까지 대응하도록 하는 '전략적 유연성'을 요구하고 있습니다. 방위비 분담금 증액, 전시작전권 전환, 북핵 등 민감한 의제들도 논의될 것으로 예상됩니다. 이재명 대통령은 이번 방미를 시작으로 주요국을 순방하며 본격적인 정상외교를 시작하는데요. 오는 23일쯤으로 검토되고 있는 일본과의 정상회담에서 양국관계의 새 비전을 그릴지도 관전 포인트입니다.

➡️관세협상 결과 복습하려면? 점선면 레터 한미 관세협상 리뷰

"기후위기 흉작, 한전이 책임져라"

농민 6명이 한국전력과 발전 자회사들을 상대로 '기후 손해배상청구 소송'을 제기한다고 밝혔습니다. 폭염·폭우 등 기후위기로 도저히 농사를 지을 수가 없다며, 국내 누적 온실가스 최다 배출 기업인 한전에 책임을 물은 겁니다. 농민들은 500만원의 재산상 손해배상과 함께, 2035년 탈석탄을 촉구하는 의미에서 '2035원'의 위자료를 청구했습니다. 기후위기 비용을 시민만 감당해서는 안 된다는 원칙을 소송을 통해 확인받고 싶다고 이들은 말했어요. 한편 폭염·폭우로 과일값이 오르면서 대형마트들은 추석 선물세트의 가격을 낮추기 위해 머리를 싸매고 있습니다.

"나는 온갖 형태의 고통을 겪었고 수차례 상실을 맛보았지만 진실을 왜곡하거나 거짓 없이 있는 그대로 전하는 데 한 번도 주저한 적이 없습니다. 이는 침묵을 지킨 자들, 우리의 죽음을 묵인한 자들, 1년 반 넘게 이어진 학살 속에서도 이를 멈추기 위해 아무것도 하지 않은 자들의 행태가 알라 앞에서 증거로 남도록 하기 위함이었습니다."

- 아나스 알샤리프 기자

지난 11일(현지시간), 팔레스타인 가자지구의 참상을 전하던 알자지라 기자 아나스 알샤리프의 X(옛 트위터) 계정에 올라온 메시지입니다. 죽음에 대비해 생전 적어둔 유언인데요. 알샤리프가 전날 이스라엘의 공습으로 숨지면서 마지막 메시지가 올라가게 됐습니다. 공습으로 알샤리프를 포함해 취재진 5명이 목숨을 잃었습니다. 이스라엘은 알샤리프가 하마스 조직원이었다고 주장했지만, 알샤리프는 마지막 메시지에서 "나는 정치적 소속이 없고, 유일한 임무는 진실을 있는 그대로 보도하는 것"이라고 반박했어요. 가자지구의 참상을 보도하는 언론인들이 연달아 공습에 희생되는 가운데 안토니우 구테흐스 유엔 사무총장도 진상 규명을 촉구했습니다.

🔗 기자들 살해한 이스라엘

일본 맥도날드,

주민들에게 사과한 이유?

일본 맥도날드가 매장 인근 주민들에게 "큰 폐를 끼쳤다"며 사과했습니다. 최근 진행한 '해피밀 세트 구매 시 포켓몬스터 카드 증정' 이벤트 때문인데요. 포켓몬 마니아들이 해피밀 세트에서 카드만 빼고 음식물을 매장 인근에 버리면서 골목이 음식물쓰레기로 뒤덮였다고 해요. 한국에서도 과거 '포켓몬 스티커'가 들어간 빵을 산 뒤 스티커만 챙기고 빵을 버리는 이들이 있었죠. 포켓몬의 인기가 실감되면서도, 과도한 '끼워팔기'와 일부 마니아들의 민폐가 씁쓸하기도 합니다.

어제(12일) 레터를 읽고 주신 의견입니다. 이재명 대통령의 광복절 특별사면을 둘러싼 논란에 대해 다뤘는데요. 많은 분들이 사면에 공감하기 어렵다는 의견을 보내주셨습니다. 특별사면과 관련해 공정한 기준과 절차가 하루빨리 마련돼야 하겠습니다. 한 독자님께서는 조국 전 조국혁신당 대표에게 사모펀드 관련 혐의는 없다고 지적해주셨는데요. 레터의 해당 문장에서 조국 전 대표와 배우자인 정경심 전 교수를 함께 '일가'로 묶어 언급하다 보니 혼선을 드린 것 같습니다. 인공지능(AI)의 '편견 학습'을 다룬 이번 레터는 어떻게 읽으셨는지도 궁금합니다!

📌손쉽게 카카오톡으로 뉴스레터 점선면 받는 법? 안내페이지 바로가기

💬기사를 읽고 과연 사면이라는 제도가 얼마나 공정하고 투명하게 진행되는지에 대해 고민하게 되었어요. 저는 제도에 대해서는 알고 있지만 그 절차나 기준에 대해서는 전혀 모르고 있고, 2000여 명이 넘는 사람들이 누구인지도 모르고 있거든요. 사법부와 행정부의 균형을 위해서라도 사면 제도가 현재 어떤 모습인지 제대로 살펴보고 논의해볼 시기가 되었다고 생각해요. 모든 것이 끝난 후에 통보받는 것이 아니라 국민들도 사면의 과정에 참여하거나 적어도 그 과정부터 알고 있어야 한다고 생각해요. (니아님)

💬며칠 전부터 맡겨놓은 듯이 자기 진영 정치인의 특사를 요구하는 정치인들을 보면서 결국은 그 나물에 그 밥인가 싶은 회의감이 듭니다. 정의를 외치는 듯하다가도 다들 결국은 일반인들과는 다른 세상에 사는 기득권이구나 하는 생각이 들어요. 감옥에 들어간 것이 억울하고 부당한 걸까요? 기득권을 활용해 비리를 안 저질렀으면 들어갈 일이 없었을 겁니다. 맡겨둔 듯이 특사 요구, 너무 뻔뻔합니다. (달달냉커피님)

💬위쪽에 열거한 죄목들을 보니 저들이 특별사면의 대상이 된다는 게 그저 황당하네요. 누가 봐도 계속 수감되어야 할 것 같은데. 정치인들끼리 북치고 장구치고 하는 행태를 언제까지 봐야만 할까요. (화나요님)

💬조국 전 장관은 입시비리와 사모펀드 비리로 징역을 산 게 아니라 입시조건에 해당하지도 않는다고 발표한 학교의 입장에도 불구하고, 막무가내로 진행된 판결입니다. 사모펀드는 조사 결과 아무것도 해당되지 않았고, 이것저것 닥치는 대로 수사하다 보니 엉뚱하게 감찰무마가 걸려들었던 것입니다. (수한님)

점선면팀은 늘 독자님의 이야기를 기다립니다.

오늘 레터는 어땠는지 피드백을 남겨주세요👀

💌 피드백 남기기

구독하기 | 지난 레터 모아보기

경향신문 뉴콘텐츠팀

광고·기타 문의 letter@khan.kr | 02-3701-1291

서울 중구 정동길 3 6층 편집국 뉴콘텐츠팀