레이디경향(총 1 건 검색)

AI 탐지 플랫폼…딥페이크 범죄 해법 될까?

2024. 08. 30 16:55 화제 이유진 기자

-생성형 AI 역기능 억제 기술 개발 100억 규모 국가사업 수주 -딥페이크, 피싱, 합성 등 AI 활용 신종 범죄 방지 위한 국민 체감형 서비스 개방 예정 -디지털 범죄 대응 미래 사이버 보안 기술 개발 및 근절 대책 마련 기대 딥페이크 성범죄 이슈로 생성형 AI 역기능 탐지 대응 기술이 주목받고 있다. 샌즈랩 제공 인공지능(AI) 기반 사이버 위협 인텔리전스(CTI) 전문 기업 샌즈랩이 ‘생성형 AI 역기능 억제’를 위한 국민 체감형 플랫폼과 사이버 보안 특화 ‘RAG 기반 sLLM 모델 개발’ 소식이 최근 사회 문제로 떠오르고 있는 딥페이크 성범죄 해법과 관련해 주목받고 있다. ‘생성형 AI 역기능’이란 AI 기술이 허위 정보 및 가짜 뉴스 생성, 저작권 침해, 딥페이크 생성, 사이버 범죄 악용 등의 부정적이거나 예상치 못한 방식으로 악용되는 것을 뜻한다. 과학기술정보통신부와 정보통신기획평가원(IITP)은 AI 역기능 억제를 위한 사이버 보안 특화 RAG 기반 sLLM 모델 개발과 국민 체감형 플랫폼 구축을 과제로 총 100억 규모 ‘정보보호 핵심 원천기술 개발사업’을 발주한 바있다. 샌즈랩은 지난 4월 해당 사업을 수주해 엘지유플러스, 포티투마루, 로그프레소, 한국과학기술원(KAIST)와 함께 공동 연구개발 중이다. 샌즈랩은 연구개발 과제 중 하나인 ‘생성형 AI 역기능 탐지 대응 기술’이 적용된 국민 체감형 플랫폼을 통해 최근 사회적 문제로 대두되고 있는 피싱 공격, 가짜 뉴스 생성, 악성코드 대량 생산, 음성 합성, 딥페이크 이미지·영상 제작과 같은 AI를 악용한 신종 디지털 범죄를 탐지 및 대응할 수 있다고 보고 있다. 개발 중인 국민 체감형 플랫폼에는 각종 탐지 기술은 물론 결과 설명을 위한 검색증강생성(RAG), 암호화 해제 등 다양한 AI 관련 기술들이 집약된다. 스미싱 및 보이스피싱 탐지 및 차단을 위한 모바일 앱(애플리케이션) 또한 포함된다. 회사는 엘지유플러스와 공동 연구개발 중인 딥페이크 영상·이미지 탐지 기술로 심층 학습 기반의 알고리즘 개발, 생성적 적대 신경망(GAN) 기술에 대항하기 위한 적대적 학습 방법 적용, 멀티 모달 데이터 분석 등을 통해 더욱 정확하고 정밀하게 딥페이크를 탐지할 수 있다고 보고 있다. 또한 실시간 비디오 스트리밍이나 소셜 미디어 플랫폼에서의 즉각적인 탐지를 위해 모델을 경량화하고 복잡도는 최소화해 탐지 정확도는 유지하거나 향상시킬 수 있는 최적화 기법을 적용 예정이다. 샌즈랩 관계자는 “샌즈랩은 AI 모델을 학습시킬 수 있는 데이터셋을 페타바이트(Petabyte) 규모로 보유하고 있어 사이버 보안 특화 AI 모델과 sLLM의 자체 개발이 가능하며, 이 데이터셋은 AI 모델 개발사들에게 공급 또한 가능해 향후 글로벌 빅데이터 시장에서의 데이터셋 판매 또한 기대하고 있다”라고 말했다.