<div><img src="https://file.bodnara.co.kr/up/news/198919-suma1.jpg" />구글이 검색 결과에서 공식 사이트를 표시하는 기능 테스트에 나섰다.the verge에 따르면 일부 사용자 대상으로 진행 중인 해당 테스트는, 구글이 검증한 공식 사이트의 경우 파란색 원형 체크 마크로 다른 사이트들과 구분한다.해당 체크마크에 마우스를 올리면 팝업을 통해 '이 아이콘은 해당 사이트가 공식 사이트임을 표시하지만, 구글이 해당 사업 또는 제품의 신뢰성을 보증하는 것은 아니다'는 내용을 표시한다.구글의 이번 조치는 공식 사이트를 따라한 피싱 사이트로 인한 네티즌들의 피해를 방지하기 위한 조치로 풀이되며, 해당 마크는 웹사이트 검증과 수동 검토, 표준 센터 데이터 등 여러 요인을 감안해 표시된다.</div>

<div>'10년이면 강산도 변한다'는 말이 있다. 10년 전 헤드라인 뉴스를 통해 '과거 속 오늘'을 다시 한 번 되짚어 보고더 발전했는지, 답보상태인지, 되레 퇴보했는지 점검해보고자 한다.<figure><img src="https://www.jeonmae.co.kr/news/photo/202410/1080722_781280_942.jpg" /></figure>[뉴스 타임머신-10년 전 그날] 2014년 10월 8일 카카오톡 '프라이버시 모드' 도입지난 2014년 10월 8일은 두가지 키워드로 정리할 수 있다. 바로 '카카오톡'과 '프라이버시 모드'다.<figure><img src="https://www.jeonmae.co.kr/news/photo/202410/1080722_781279_920.jpg" /></figure>● 비밀대화·수신확인 메시지삭제 기능··· '투명성 보고서' 정례 발표다음카카오가 메신저 카카오톡(카톡)의 새로운 사생활 보호 기능을 선보이며 '카톡 검열 논란' 확산 차단에 나섰다.다음카카오는 2014년 10월 8일 카톡 이용자 정보보호를 위해 '프라이버시 모드'를 연내 도입한다고 밝혔다.프라이버시 모드는 크게 '비밀대화 기능'과 '수신확인 메시지 삭제 기능'으로 나뉜다.비밀대화 기능을 이용하면 대화내용 전체가 암호화돼 카톡 서버가 아닌 사용자 스마트폰에 저장된다. 수사기관이 개별 사용자의 스마트폰을 압수하지 않는 한 대화내용을 검열할 수 없게 되는 것이다.다음카카오는 이 기능을 개발하기 위해 단말기에 암호키를 저장하는 '종단간 암호화(end-to-end encryption)' 기술을 앞서 도입했다.비밀대화 기능은 올해 안으로 1:1 비밀대화방에 먼저 적용된다. 내년 1분기에는 그룹 비밀대화방 기능도 이용할 수 있다.수신확인 메시지 삭제 기능은 수신이 확인된 메시지가 서버에서 자동으로 삭제되는 것을 의미한다. 만약 대화 송수신자가 모두 온라인 상태이면 서버에 대화내용 자체가 저장되지 않는다.다음카카오 측은 "프라이버시 모드 기능을 선택하면 수사기관의 영장집행을 통한 카톡 대화내용 확인 및 제공 자체가 불가능해 질 것으로 보인다"고 말했다.다음카카오는 이러한 보안강화 조치와 함께 사용자 신뢰도 제고를 위해 수사당국의 카톡 사용자 정보요청 건수를 공개하는 '투명성 보고서'를 정기적으로 발표하겠다고 밝혔다.투명성 보고서는 구글, 트위터, 페이스북 등 외국 정보기술(IT) 기업들이 사용자 신뢰를 높이려고 시행하는 제도다.다음카카오 관계자는 "이용자 여러분께 혼란과 불안을 초래한 점에 대해 진심으로 머리숙여 사과드린다"며 "앞으로 이용자 정보보호를 최우선으로 여기고 가능한 모든 조치를 취하겠다"고 말했다.[전국매일신문] 김주현기자joojoo@jeonmae.co.kr저작권자 © 전국매일신문 - 전국의 생생한 뉴스를 ‘한눈에’ 무단전재 및 재배포 금지</div>

'10년이면 강산도 변한다'는 말이 있다. 10년 전 헤드라인 뉴스를 통해 '과거 속 오늘'을 다시 한 번 되짚어 보고. 더 발전했는지, 답보상태인지, 되레 퇴보했는지 점검해보고자 한다.

[10년 전 그날] 카카오톡 '프라이버시 모드' 도입

<div><figure><img src="https://www.dailydental.co.kr/data/photos/20241041/art_172838401575_2289c7.jpg" /></figure>검색어 자동완성 기능을 악용해 특정 병원이나 업체를 홍보하는 사례가 빈번해지자 네이버가 제지에 나섰다. 이 가운데 같은 방법으로 치과 홍보에 나섰던 홍보업체도 몸을 사리는 모습이다.자동완성 서비스는 본래 이용자가 하는 질의를 빠르게 검색할 수 있도록 검색창에 입력되는 문자에 따라 입력 가능성이 높은 질의를 예측해 제공하는 서비스다. 예를 들어 ‘임플란트 잘하는 곳’이라고 검색창에 쓰면 ‘임플란트 잘하는 곳 추천’ 등이 자동완성 돼 나오는 기능을 말한다.하지만 일부 홍보 대행사에서는 프로그램을 악용해 특정 병원의 이름을 반복적으로 검색, 자동완성어가 만들어지도록 인위적으로 조작해온 것으로 확인됐다. 특히 자체 개설한 리워드 지급 사이트를 통해 사이트에 방문한 이용자들에게 특정 단어와 함께 특정 치과를 포털에 검색하면 보상을 지급하는 방법을 써온 것으로 나타났다.이들은 검색어 한 건당 치과로부터 약 25일 노출 기준 20만 원의 작업비용을 받고 있었으며 대체로 한 번에 10개에서 많게는 100개의 단어를 작업하도록 유도하고 있다.# 마케팅업계 자동완성 서비스 홍보 ‘주춤’이에 네이버는 지난 8월 “자동완성 서비스는 검색어의 품질 유지 및 향상을 위해 로직의 구성과 기준을 지속적으로 업데이트하고 있으며, 최근 이용자 검색 편의성을 저해하는 저품질 키워드가 지속 증가함에 따라 판별 로직을 한층 강화할 예정”이라고 공지한 바 있다.네이버가 저품질 키워드 관리를 위해 새롭게 추가한 방식은 대규모 언어 모델(LLM) 기반 로직이다. 이는 저품질로 의심되는 신규 패턴을 발굴·학습하는 방식으로 인공지능을 활용해 텍스트를 수집·학습해 저품질 키워드를 걸러내는 방식이다.네이버는 ▲단순 오탈자나 특수문자가 포함된 키워드 ▲의미 없는 문자·숫자가 포함된 키워드 ▲문맥상 불필요한 중복 단어가 포함된 키워드 ▲검색어와 연관도가 낮은 키워드 ▲기타 비정상적인 경로로 인입됐거나 자동완성 서비스의 목적 및 취지에 맞지 않는 방식 또는 방법으로 인입된 것으로 판단되는 키워드를 저품질 키워드로 규정하고 있다.한편 네이버가 칼을 빼 들자 마케팅 업계에서도 몸을 사리는 모습이다. 실제로 홍보 대행사에 자동완성 서비스 조작 문의를 하자, 관계자는 “최근 네이버가 자동완성 서비스 로직을 바꾸면서 작업이 다소 어려워졌다. 어떤 키워드는 노출되자마자 바로 삭제된다. 또 저품질 키워드로 분류되면 플레이스 노출에도 일부 영향을 주는 것 같아 중단한 것들도 있다. 임플란트 싼 곳이나 저렴한 곳 등의 키워드가 그렇다. 그런 키워드는 이제 작업이 사실상 어렵다”고 내비쳤다.</div>

검색어 자동완성 기능을 악용해 특정 병원이나 업체를 홍보하는 사례가 빈번해지자 네이버가 제지에 나섰다. 이 가운데 같은 방법으로 치과 홍보에 나섰던 홍보업체도 몸을 사리는 모습이다.

‘검색어 자동완성 조작’ 칼 빼든 네이버

<div><figure><img src="https://cdnimage.dailian.co.kr/news/202410/news_1728261680_1414074_m_1.png" /></figure>네이버가 구매자 신뢰도와 거래 안정성을 높이기 위한 ‘안심보장’ 프로그램 활동 내역을 7일 공개했다.네이버는 안심보장 프로그램에 믿을 수 있는 쇼핑 환경 구축을 위한 자사의 정책적, 기술적 노력을 담았다.대표적으로 ▲위조상품 유통 방지를 위한 3단계 대응 강화 ▲어린이 및 생활화학 제품군 중심 위해상품 모니터링 강화 ▲직거래 유도 등 비정상적 거래활동 탐지 로직 고도화가 있다.네이버는 그동안 ‘위조상품 클린 프로그램’을 운영하며 위조 의심 상품 및 판매자에 대한 인공지능(AI) 탐지와 모니터링을 시행했다. 적발 시 판매자에겐 원스트라이크 아웃제도를, 구매자에게는 피해 최소화를 위한 ‘구매보호조치’를 적용하는 등 위조상품 유통 방지 노력을 기울여왔다.이에 더해 올해는 안심보장 프로그램을 통해 ‘가입-소명-검증·운영’ 등 위조상품 3단계 대응 체계를 구축해 월 1000여 개의 몰을 사전 차단하고 있다. 사전탐지 대응률도 90%를 유지하고 있다.먼저 스마트스토어 가입단계부터 위조상품 판매 이력이 있는 사업자를 필터링해 차단하고, 위조상품 적발 시 소명 단계에서 일어나는 허위 소명서류에 대한 검증 허들을 높이는 등 기준 정책을 강화했다.플랫폼이 직접 정가품을 감정하기 어렵다는 한계를 넘기 위해서는 검증·운영 단계에서 전문 파트너 및 정부 기관과의 협업을 지속적으로 강화하고 있다. 현재 230여 개 브랜드사와 감정의뢰 협약 부문에서 협업하고 있으며, 외부 전문 감정 기관과의 협업을 통해 감정 상품의 대응 범위를 명품패션·스포츠·향수·화장품 등으로 확장했다.또 네이버는 특허청 ‘위조상품 유통방지 협의체’에 10년간 참여하며 위조상품 차단 및 피해 예방 등 자율규제 노력에 힘써 왔다. 앞으로도 위조상품 유통 방지를 위해 특허청과 정책적, 기술적 논의에 동참해 민관 협력을 공고히 할 계획이다.어린이, 생활·건강 카테고리의 위해상품 불안감을 해소하기 위해서도 힘 쏟고 있다. 해당 카테고리의 자체 모니터링을 강화하고, 위험 상품 키워드 검색 노출 차단 등 구매자 보호 장치를 적용하고 있다. 제품 안전 인증정보를 필수로 등록해 판매자들도 안전한 쇼핑환경 조성에 동참할 수 있도록 관련 시스템 개발 작업도 진행 중이다.아울러 네이버쇼핑에서 현금 직거래나 외부 사이트로 연결을 유도하는 여러 피싱 환경으로부터 구매자를 보호하기 위한 기술 조치도 고도화했다. 피싱 의심몰을 탐지하는 기술 로직을 강화하고, FDS(위험거래탐지시스템) 기술 적용을 강화한 결과 피해 신고 건수가 지난 1월 대비 80% 이상 감소했다.네이버 정책·RM 유봉석 부문장은 “네이버는 빠른정산, 도착보장 상품의 무료교환반품 지원 등 판매자들이 믿고 거래할 수 있는 환경을 만들며 판매자들의 높은 지지를 받아왔고, 그 중요성을 크게 인지하고 있다”며 “그동안 쌓아온 정책적, 기술적 신뢰도를 바탕으로 구매자를 위한 ‘안심보장’ 환경 조성에 힘쓰고, 민관 협업 체인을 더욱 강화하는 등 중장기적 노력을 이어가겠다”고 말했다.</div>

네이버가 구매자 신뢰도와 거래 안정성을 높이기 위한 ‘안심보장’ 프로그램 활동 내역을 7일 공개했다. 네이버는 안심보장 프로그램에 믿을 수 있는 쇼핑 환경 구축을 위한 자사의 정책적, 기술적 노력을 담았다.

네이버, 구매자 ‘안심보장’ 프로그램 구축…“위조상품 3단계로 대응”

<div><img src="https://img.joongang.co.kr/pubimg/share/ja-opengraph-img.png" />7일 정보통신업계와 관계 당국 등에 따르면 방송통신위원회는 중국 숏폼(짧은 영상) 앱 틱톡이 정보통신망법을 위반했다고 보고 조만간 한국인터넷진흥원(KISA)을 통해 조사에 착수할 계획이다. 틱톡은 마케팅·광고 수신 동의에 해당하는 부분을 개인정보 처리방침 동의 항목에 묶인 ‘필수 동의’ 대신 ‘선택 동의’로 해야 하지만 이용자 가입 즉시 강제로 광고 동의가 이뤄져 문제시되고 있다.</div>

7일 정보통신업계와 관계 당국 등에 따르면 방송통신위원회는 중국 숏폼(짧은 영상) 앱 틱톡이 정보통신망법을 위반했다고 보고 조만간 한국인터넷진흥원(KISA)을 통해 조사에 착수할 계획이다. 틱톡은 마케팅·광고 수신 동의에 해당하는 부분을 개인정보 처리방침 동의 항목에 묶인 ‘필수 동의’ 대신 ‘선택 동의’로 해야 하지만 이용자 가입 즉시 강제로 광고 동의가 이뤄져 문제시되고 있다.

[Biz & Now] 정부 “틱톡 정보통신망법 위반 여부 조사”

<div><figure><img src="https://cdnimage.dailian.co.kr/news/202410/news_1728340912_1414456_m_1.png" /></figure>여기어때는 인공지능(AI) 기술을 토대로 방대한 양의 숙박 리뷰를 핵심만 요약해 볼 수 있는 ‘리뷰 하이라이트’를 선보인다고 8일 밝혔다.여기어때의 기술력으로 학습한 AI가 숙소별로 누적된 이용자의 리뷰를 3개의 핵심 정보로 요약해 제공한다.‘계란 요리가 맛있는’, ‘세탁기가 있는’, ‘화장실과 샤워실이 분리된’ 등과 같이 과거 숙소 방문객의 실제 후기에서 특징을 간추려 각 숙소만의 차별점을 한눈에 살펴보도록 했다.챗GPT를 활용해 수천 개의 리뷰를 효율적으로 요약하는 모델을 구축했고, 사람의 개입 과정을 줄여 다양한 리뷰 정보를 정확하고 빠르게 처리하도록 정확도를 높였다.특히 AI 리뷰 하이라이트는 대다수의 이용자가 리뷰를 통해 만족한 숙소의 특징을 3개의 핵심 구절로 요약하는 것이 가장 큰 특징이다.AI는 최근 1년 이내 등록된 200자 이상의 이용자 리뷰를 최신순으로 정렬 후, 숙소만의 핵심 가치를 보여주는 수식어만 엄선한다.가령 ‘최고의’, ‘추천하는’ 등과 같이 구체적인 정보를 포함하지 않는 수식어는 제외하며, ‘깨끗한’, ‘청결한’과 같이 유사한 의미의 키워드도 중복되지 않도록 검수한다.AI 리뷰 하이라이트는 국내 호텔 및 리조트 카테고리의 숙소에 한해 우선적으로 활용 중이며, 적용 대상의 확대 여부를 검토할 예정이다.이번 AI 기술 활용으로 이용자의 앱 사용 경험은 더욱 개선될 것으로 기대된다.여기어때가 자체 분석한 데이터에 따르면 이용자가 평균적으로 검토하는 제휴점은 약 7.6개, 1개의 제휴점에서 탐색하는 리뷰는 평균 21개에 이를 정도로 시간 소비가 많다. AI가 요점만 짚어주는 리뷰는 효율적인 숙소 탐색 환경을 만들어 줄 것으로 전망된다.서준규 여기어때 커스토머익스피리언스랩(Customer Experience Lab)장은 “이용자는 숙소를 예약할 때 보통 기존 이용자의 후기를 참고하는 데 많은 시간을 쓴다”며 “AI 리뷰 하이라이트는 숙박 시설별 특색을 한눈에 확인할 수 있는 지표가 될 것”이라고 말했다.</div>

여기어때는 인공지능(AI) 기술을 토대로 방대한 양의 숙박 리뷰를 핵심만 요약해 볼 수 있는 ‘리뷰 하이라이트’를 선보인다고 8일 밝혔다.

여기어때, '리뷰 하이라이트' 운영…AI가 핵심만 요약

<div>KT는 인공지능(AI)을 활용한 보이스피싱 종합 탐지 기술 '보이스피싱 탐지 AI 에이전트'와 'AI 보이스피싱 의심번호 알림 서비스'를 개발했다고 8일 밝혔다. 보이스피싱 탐지 AI 에이전트는 통화 음성을 실시간으로 텍스트로 바꾸고 이를 AI sLM(소형언어모델)이 금융 사기와 연관된 문맥을 신속히 탐지하는 기술이다. 통화 내용 중 보이스피싱이 의심되는 정황이 발견하면 고객에게 즉시 알려준다. <figure><img src="https://nimage.newsway.co.kr/photo/2024/10/08/20241008000019_0700.jpg" /></figure>기존 보이스피싱 탐지 방식은 키워드나 패턴을 검색하는 방식에 그쳐 정확도가 다소 떨어졌지만, 이 기술은 신분증, 비밀번호, 금전 요구 등 다양한 위험 상황을 입체적으로 확인한다. 개인정보 보호 측면에서도 분석 데이터를 외부로 보내지 않는 '온디바이스' 방식으로 작동해 정보 유출 우려를 차단했다는 것이 장점이다. 국립과학수사연구원은 보이스피싱 탐지 AI 에이전트 개발을 위해 KT 측에 보이스피싱 스크립트를 익명 처리한 데이터를 제공했다. KT는 이를 활용해 음성 인식 기술과 AI sLM을 최적화했다. KT는 향후 국과수와 지속적으로 협력하며 보이스피싱 탐지를 위한 AI 기술력을 높인다. 보이스피싱 탐지 AI 에이전트는 현재 KT 사내 전문가들에게 베타 서비스 중이다. 10월 중 600만명 이상이 사용하는 브이피(VP Inc.)의 스팸 차단 앱 '후후'에 탑재돼 공식 출시된다. 이로써 후후는 스팸, 스미싱뿐만 아니라 보이스피싱까지 탐지할 수 있는 올인원 서비스로 거듭난다. AI 보이스피싱 의심번호 알림 서비스는 보이스피싱이 의심되는 전화번호를 AI 모델로 사전 탐지해 고객에게 실시간으로 알려주는 기술이다. 이 기술은 경찰청이 제공한 보이스피싱 연루 전화번호의 특징을 'AI 분류(classification) 모델'로 학습해 피싱이 의심되는 번호를 탐지한다. 만약 의심 번호로부터 전화가 오면 고객이 받기 전 주의 문구와 함께 경고 동영상이 재생된다. 고객이 이미 전화를 수신했다면 안내 전화를 통해 한 번 더 알려준다. 고객이 의심 번호로 전화를 걸 때도 동일한 방식으로 안내한다. AI 보이스피싱 의심번호 알림 서비스는 현재 임직원 대상 테스트 중이다. 향후 KT 고객 누구나 사용할 수 있는 부가서비스 형태로 출시를 준비하고 있다. 윤경아 KT AI Tech Lab 상무는 "이번 보이스피싱 탐지 AI 에이전트는 고객의 통화 안전을 위한 KT의 끊임없는 혁신과 노력을 반영한 결과"라며 "앞으로 보이스피싱 범죄자의 '그놈 목소리'와 딥보이스를 악용한 '지인 사칭'까지도 탐지할 수 있는 화자 인식 기술을 개발하는 등 보이스피싱 피해를 줄이기 위해 최선을 다할 것"이라고 말했다. 이종식 KT 네트워크연구소 상무는 "지능화되고 있는 보이스피싱에 노출된 고객의 피해 예방을 위해서 AI 기술연구를 강화하고 있으며, KISA, 경찰청 등 국가기관과 지속 협력해 보이스피싱 피해 근절에 앞장서겠다"라고 강조했다. </div>

KT는 인공지능(AI)을 활용한 보이스피싱 종합 탐지 기술 '보이스피싱 탐지 AI 에이전트'와 'AI 보이스피싱 의심번호 알림 서비스'를 개발했다고 8일 밝혔다.

KT, AI 보이스피싱 탐지 기술 개발···"10월 중 후후에 탑재"

<div><figure><img src="https://www.youthdaily.co.kr/data/photos/20241041/art_17282633750045_c8d3ea.png" /></figure>【 청년일보 】 정부가 개인정보 침해 논란을 일으킨 중국 숏폼 영상 플랫폼 '틱톡'의 개인정보보호법 위반 가능성에 대한 본격적인 조사에 나섰다.7일 정보통신업계 및 관계 당국에 따르면, 개인정보보호위원회(이하 개인정보위)는 최근 틱톡의 개인정보 처리와 관련한 법 위반 사항을 검토 중이다. 개인정보보호법 위반 여부를 확인하기 위해 자료를 수집 및 분석하고 있으며, 필요시 정식 조사로 확대할 방침이다.개인정보위는 틱톡의 개인정보 처리방침을 면밀히 살펴보고 있으며, 현재 진행 중인 점검 상황에 대해서는 구체적인 언급을 자제한 것으로 전해졌다.틱톡은 가입 과정에서 서비스 약관과 개인정보 처리방침을 명확히 제시하지 않아, 이용자의 동의 절차가 개인정보보호법 제22조 1항을 위반할 소지가 있다는 의혹을 받고 있다. 특히, 이용자가 개인정보 수집에 명확하게 동의하지 않았음에도 불구하고, 광고 수신 동의를 사실상 강제하는 방식으로 처리하는 점이 문제로 지적되고 있다.또한, 틱톡의 개인정보 해외 이전 절차에 대한 불투명성도 논란이 되고 있다. 틱톡은 한국 사용자들의 개인정보를 중국 바이트댄스 그룹 산하의 여러 해외 법인으로 이전할 수 있는데, 이들 법인 중 일부는 중국 정부와 밀접한 관계가 있을 수 있다는 우려가 제기되고 있다. 그러나 개인정보 처리방침에서 이러한 법인 명단을 쉽게 확인하기 어려워, 사용자들에게 충분한 정보가 제공되지 않고 있다는 비판이 나온다.틱톡이 한국 이용자 개인정보를 이전할 수 있는 외국 기업에는 중국공산당이 기업 내 당위원회를 통해 영향을 미칠 수 있는 베이징(北京) 여우주쥐 네트워크, 베이징 지탸오 네트워크, 상하이(上海) 쑤이쉰퉁 일렉트로닉 등 모회사 중국 바이트댄스(字節跳動) 그룹의 법인들도 포함돼 있지만 이들 기업 명단은 개인정보 처리방침 페이지에서 여러 단계를 이동해야 확인할 수 있다.【 청년일보=조성현 기자 】</div>

【 청년일보 】 정부가 개인정보 침해 논란을 일으킨 중국 숏폼 영상 플랫폼 '틱톡'의 개인정보보호법 위반 가능성에 대한 본격적인 조사에 나섰다.

정부, 개인정보보호법 '담금질'…'틱톡' 위반 사항 집중점검

<div><img src="https://img.etnews.com/news/article/2024/10/02/news-p.v1.20241002.cdf66ec966b345549a24bf7cbae2f233_P2.png" />에임인텔리전스는 생성형 인공지능(AI)의 취약점을 탐지·최소화하는 솔루션을 제공하는 기업이다.생성형 AI를 위한 보안은 소프트웨어(SW) 보안과 다르다. SW 보안은 짜여진 코드에 대한 악성코드 등을 막는 식이지만, 생성형 AI는 특정 정보를 입력했을 때 어떤 결과가 나올지 알 수 없는 '블랙박스'를 가졌다.이 때문에 생성형 AI는 거짓 결과물을 진짜인 것처럼 생성하는 '환각'과 개발자의 통제를 벗어난 행동을 하는 '탈옥'이라는 취약점이 있다. 해커들은 이를 악용해 AI가 학습한 데이터 중 개인정보 등을 유출시키거나, 비윤리적 답변 등을 이끌어낸다.이 때문에 주목받는 것이 '레드팀'이다. 레드팀은 생성형 AI에 비윤리적·폭력적 입력값을 넣는 일종의 '공격'을 가해 생성형 AI가 잘못된 결과를 생성할 수 있는 변수를 유도한다.에임인텔리전스는 AI 레드팀 솔루션 '에임 레드'를 개발했다.에임 레드는 생성형 AI 모델에서 발생할 수 있는 취약점을 종합한 데이터베이스(DB)를 기반으로 만들어진 AI 모델이다. 이 모델이 평가하고자 하는 AI 모델과 대화하며 문제가 될 수 있는 결과물을 탐지한다.에임인텔리전스는 빠르게 발전하는 AI 악용 기법에 대응할 수 있도록 에임 레드의 업데이트에 집중하고 있다.에임인텔리전스는 최근 AI 가드레일 솔루션 에임 가드(Guard)도 출시했다. 에임 가드는 생성형 AI 입출력 과정에서 필터 역할을 하며 생성형 AI의 취약점을 실시간 탐지·최소화한다.현재 네이버 D2SF, SK텔레콤, 하나은행, 국민은행 등 국내 대기업에 AI 보안 시스템 구축을 위해 협력하고 있다.지난 9월에 유치한 시드 투자를 규모 확장·해외 진출 등의 발판으로 삼을 계획이다.〈인터뷰〉유상윤 에임인텔리전스 대표, “'AI 안정성' 하면 떠오르는 기업으로 만들 것” “AI는 의도없이 사람을 속입니다. AI 서비스 운영을 위해선 취약점을 제대로 이해해야 합니다.”유상윤 에임인텔리전스 대표는 서울대 전기정보공학부 석사 과정 당시 'AI 윤리·공정성' 분야를 연구했다.유 대표는 “생성형 AI 시대가 오면서 다들 성능에만 신경 쓰곤 했지만, AI가 상용화돼 실제 사람들을 마주할 때는 안전성이 허들로 작용할 것이라 생각했다”며 “누군가는 해결해야 한다”는 마음으로 창업을 결심했다.그는 “미국의 경우 AI 보안 분야에는 많은 인재와 돈이 몰리고 있는 상황”이라며 “AI에 있어서 미국보다 1~2년 뒤처졌다고 평가받는 우리나라에서도 AI 보안 분야는 발전할 여지가 많다”고 전망했다.에임인텔리전스는 솔루션 개발과 함께 해외 진출을 계획 중이다. 최근 메타가 주최한 AI 솔루션 공모 프로그램 '라마 임팩트 이노베이션 어워즈'에 참여한 것도 해외 진출에 대한 노력의 일환이다.이 대회에서 에임인텔리전스는 기술력과 사회적 기여도를 높이 평가받아 아시아 태평양 지역 수상자로 선정됐다.유 대표는 “올해 안에 더 많은 고객사를 유치해 다양한 분야에 솔루션을 적용할 것”이라며 “AI 안전성 하면 떠오르는 기업이 되는 것이 궁극적 목표”라며 포부를 밝혔다.현대인 기자 modernman@etnews.com </div>

에임인텔리전스는 생성형 인공지능(AI)의 취약점을 탐지·최소화하는 솔루션을 제공하는 기업이다. 생성형 AI를 위한 보안은 소프트웨어(SW) 보안과 다르다. SW 보안은 짜여진 코드에 대한 악성코드 등을 막는 식이지만, 생성형 AI는 특정 정보를 입력했을 때 어떤 결과가 나올지 알 수 없는 '블랙박스'를 가졌다.

[우리가 AX 주역]〈35〉에임인텔리전스, 생성형 AI 취약점 탐지·최소화 솔루션 제공

구글이 검색 결과에서 공식 사이트를 표시하는 기능 테스트에 나섰다. the verge에 따르면 일부 사용자 대상으로 진행 중인 해당 테스트는, 구글이 검증한 공식 사이트의 경우 파란색 원형 체크 마크로 다른 사이트들과 구분한다.

구글, 검색 결과에 공식 사이트 체크 표시 테스트 진행 중

관련 뉴스