[K-VIBE] 임기범의 인공지능 혁신 스토리...AI의 윤리적 사용

[※ 편집자 주 = 한국국제교류재단(KF)의 2024년 발표에 따르면 세계 한류 팬은 약 2억2천5백만명에 육박한다고 합니다.

또한 시간과 공간의 제약을 초월해 지구 반대편과 동시에 소통하는 '디지털 실크로드' 시대도 열리고 있습니다.

바야흐로 '한류 4.0'의 시대입니다.

연합뉴스 K컬처 팀은 독자 여러분께 새로운 시선의 한국 문화와 K컬처를 바라보는 데 도움이 되고자 전문가 칼럼 시리즈를 준비했습니다.

시리즈는 매주 게재하며 K컬처 팀 영문 한류 뉴스 사이트 K 바이브에서도 영문으로 보실 수 있습니다.]

알프레드 노벨.

대부분의 사람은 이 이름을 들으면 노벨상을 떠올릴 것이다.

최근 한강 작가가 노벨 문학상을 받아 더더욱 관심이 뜨겁다.

많은 사람이 이 상의 유래를 알고 있겠지만 그 이면의 깊은 의미를 되새겨볼 필요가 있다.

노벨은 다이너마이트를 발명한 사람이며 그의 발명품은 건설 현장에서 획기적인 도구로 쓰였다.

동시에 이 강력한 폭발물은 전쟁에서 무기로 악용되기도 했다.

1888년, 노벨은 놀라운 경험을 하게 됐다.

그의 형이 사망하자 한 프랑스 신문이 실수로 알프레드 노벨의 부고 기사를 게재한 것이다.

살아있는 노벨은 자신의 부고 기사를 읽게 되고, 그 기사는 그를 '죽음의 상인'이라 칭하며 그의 발명이 가져온 파괴와 죽음을 비난했다.

이 사건은 노벨에게 큰 충격을 주었고, 그는 자신의 유산이 어떻게 기억될지 깊이 고민하게 됐다.

결국 그는 자기 재산을 인류 발전에 기여한 이들을 위한 상금으로 남기기로 결심했고, 이것이 바로 노벨상의 시작이었다.

노벨의 이야기는 현대인에게 중요한 교훈을 준다.

기술 그 자체는 선하지도 악하지도 않다.

중요한 것은 인간이 그 기술을 어떻게 사용하느냐에 달린 것이다.

오늘날 우리가 마주한 AI 기술에도 그대로 적용된다.

◇ 딥페이크 사건의 시사점 최근 들어 '딥페이크' (Deepfake)라는 AI 기술의 오남용이 새로운 윤리적 문제를 야기하고 있다.

얼마 전에 발생한 사건은 이 기술의 위험성을 여실히 보여준다.

지난 8월, 신문 지상과 방송을 떠들썩하게 만든 '텔레그램 딥페이크 음란물 유포 사건'은 우리 사회에 큰 충격을 안겼다.

인하대 졸업생의 얼굴을 딥페이크 기술로 합성한 음란물이 텔레그램 방에서 유포됐고, 피해자의 개인정보와 함께 딥페이크 사진, 음성 파일 등이 공유됐다.

더욱 충격적인 것은 가해자들이 피해자를 직접 조롱하고 협박하는 메시지를 보냈다는 점이다.

이 사건은 단순한 개인 정보 유출을 넘어서 AI 기술의 악용이 얼마나 심각한 결과를 초래할 수 있는지를 보여주는 대표적인 사례다.

피해자는 실제로 그런 행동을 한 적이 없음에도 불구하고 마치 실제처럼 보이는 가짜 영상으로 인해 명예와 사생활을 심각하게 침해받았다.

더욱 우려되는 점은 이러한 범죄가 특정 개인을 넘어 직업군을 목표로 하고 있다는 것이다.

'여군 능욕', '여교사 능욕', '여기자 능욕' 등의 제목으로 특정 직업군을 대상으로 한 딥페이크 성폭력 콘텐츠가 제작 유포되고 있다는 사실은 이 문제의 심각성을 더욱 부각한다.

이러한 사례들은 딥페이크 등의 AI 기술이 얼마나 강력하고 동시에 위험할 수 있는지를 여실히 보여준다.

원래 딥페이크 기술은 영화 제작이나 교육용 콘텐츠 제작 등 긍정적인 목적으로 개발됐다.

하지만 이 기술이 악의적인 의도로 사용될 경우 개인의 권리를 침해하고 사회 질서를 어지럽히는 강력한 도구가 될 수 있다는 것이 입증됐다.

AI 기술의 급속한 발전은 우리에게 큰 혜택을 주는 동시에 심각한 윤리적 딜레마를 안겨주고 있다.

AI는 이미 우리 일상 곳곳에 스며들어 있지만 그 영향력은 결국 우리가 이 기술을 어떻게 사용하느냐에 달려 있다.

같은 AI 기술이라도 사용자의 의도와 사용 방식에 따라 유용한 도구가 될 수도 있고 해악을 끼치는 무기가 될 수도 있다.

결국 AI를 둘러싼 많은 윤리적 문제는 기술 자체보다는 그것을 사용하는 인간의 윤리 의식과 직결돼있다.

많은 사람이 AI 윤리를 논할 때 흔히 AI 모델 자체의 윤리성에 초점을 맞추곤 한다.

편향되지 않은 데이터로 학습시키고, 공정한 의사결정을 하도록 알고리즘을 설계하는 등의 노력이 그것이다.

물론 이런 노력은 매우 중요하다.

하지만 간과하지 말아야 할 것은 AI는 결국 인간이 사용하는 도구라는 사실이다.

아무리 윤리적으로 설계된 AI라 할지라도 그것을 사용하는 인간의 의도와 행동에 따라 그 결과는 천차만별이 될 수 있다.

AI 얼굴인식 기술을 사례로 살펴볼 필요가 있다.

이 기술은 범죄 예방이나 실종자 수색 등 선한 목적으로 사용될 수 있지만 동시에 개인의 프라이버시를 침해하거나 특정 집단을 차별하는 데 악용될 수도 있다.

결국 그 기술을 어떻게 사용할 것인가를 결정하는 것은 우리 인간이다.

AI 기술의 발전 속도만큼이나 빠르게 우리의 윤리적 판단 능력도 함께 성장해야 하는 이유가 여기에 있다.

인간의 윤리적 사용이 중요한 또 다른 이유는 AI의 한계 때문이다.

AI는 주어진 데이터와 알고리즘을 바탕으로 작동하지만, 인간처럼 맥락을 이해하거나 도덕적 판단을 내리지는 못한다.

AI 챗봇에 불법적이거나 비윤리적인 정보를 요구하면 그 AI는 윤리적 판단 없이 정보를 제공할 수 있다.

이때 그 정보의 사용에 대한 책임은 전적으로 사용자에게 있다.

따라서 AI를 사용하는 우리는 모두 AI의 한계를 인식하고 그것을 윤리적으로 사용할 줄 아는 능력을 갖춰야 한다.

◇ AI 리터러시의 필요 AI 시대를 살아가는 우리에게 필요한 것은 'AI 리터러시'(AI Literacy)다.

단순히 AI를 다룰 줄 아는 기술적 능력을 넘어 AI의 작동 원리와 한계를 이해하고 윤리적으로 활용할 줄 아는 능력을 의미한다.

학교에서는 AI 윤리 교육을 강화해야 하고, 기업에서는 AI 사용에 대한 윤리 가이드라인을 마련해야 한다.

정부는 AI 윤리에 관한 법과 제도를 정비하고, 시민사회는 AI의 윤리적 사용에 대한 감시자 역할을 해야 한다.

더불어 우리는 AI를 두려워하거나 맹신하지 않는 균형 잡힌 시각을 가져야 한다.

AI는 우리의 삶을 풍요롭게 만들 수 있는 강력한 도구지만 윤리적 판단을 대체할 수 있는 존재는 아니다.

AI가 제시하는 결과를 비판 없이 수용하기보다는 그것이 윤리적으로 옳은지, 사회적으로 바람직한지를 항상 고민해야 한다.

AI 기술의 발전은 이제 거스를 수 없는 대세다.

우리가 선택할 수 있는 것은 이 기술을 어떻게 사용할 것인가 하는 점이다.

AI와 함께하는 미래가 디스토피아가 될지 유토피아가 될지는 전적으로 우리의 선택에 달려 있다.

AI를 윤리적으로 사용할 때 비로소 AI는 인류 발전의 든든한 조력자가 될 수 있을 것이다.

이제 AI는 우리 곁에 가까이 와 있다.

그것을 어떻게 대하고 어떻게 활용할 것인가에 대한 고민과 책임이 필요하다.

AI를 윤리적으로 사용할 때 우리는 AI와 함께 더 나은 미래를 만들어갈 수 있을 것이다.

그 미래는 AI가 아닌 바로 우리의 손에 달려 있다.

임기범 인공지능 전문가.

▲ 현 인공지능경영학회 이사.

▲ 신한 DS 디지털 전략연구소장 역임.

<정리 : 이세영·성도현 기자> raphael@yna.co.kr(끝)