주간경향(총 9 건 검색)

[오늘을 생각한다] 딥페이크, 당당하거나 숨기거나(2024. 09. 27 16:00)

2024. 09. 27 16:00 오피니언 정주식 ‘토론의 즐거움’ 대표

정주식 ‘토론의 즐거움’ 대표 남성의 성욕이라는 신화는 유독 우리 사회에서 초문명적으로 이해되고 있다. 이런 시선에선 성범죄의 가해자와 피해자는 그저 자연질서의 희생양이 된다. 알아야 할 것은 남성의 성욕이 얼마나 강력하고 자연스러운가 하는 것이 아니라 그런 것은 우리가 만들어야 할 도덕과 관계가 없다는 사실이다. 난징대학살이 한창이던 1937년 7월 일본 파견군 참모장 오카무라 야스지 중장은 각 부대에 이런 내용의 통첩을 보낸다. “정보에 의하면 피점령지에서 강렬한 반일의식을 격화시키는 원인은 각지에서 일본 군인의 강간사건이 알려졌기 때문이다. 군인 개인의 강간행위를 엄중 통제함과 동시에 속히 성적 위안의 설비를 갖추도록 하라.” 이후 일본군에는 위안부가 창설돼 약 20만명의 여성이 ‘점령지 여성 보호’를 위해 동원된다. 일본군 위안부란 아이디어는 병사들의 ‘종족보존 본능’을 통제할 수 없다는 생각에서 비롯됐다. 2015년 송영근 새누리당 의원은 여군 하사 성폭행 사건이 일어나자 “전국의 지휘관들이 외박을 못 나가 섹스를 못 해서 여군 성폭행이 일어난다”고 말했다. 그는 피해자를 “하사 아가씨”라고 불렀다. 2018년 3월 같은 당 차명진 의원은 라디오에 출연해 미투 운동과 관련 “수컷이 많은 씨를 심으려 하는 것은 본능”이라고 말했다. 다른 패널들이 비난하자 “진화론에 의해 입증된 것”이라고 재차 강조했다. 올해 4월 국회의원 당선자 천하람은 일본의 에이브이(AV) 배우들이 출연하는 성인 페스티벌 반대 목소리가 커지자 “남성의 본능을 악마화하지 말라”고 말했다. 이들이 공통으로 빠져 있는 것은 현상과 당위를 혼동한 자연주의적 오류이다. 이러한 생각 속에서 남성의 성욕은 당당하고 자연스러운 것으로만 이해되며 이를 통제하려는 시도는 무용하거나 불순한 것이 된다. 지난 8월 대규모 딥페이크 합성 음란물 범죄가 드러나자 서울경찰청은 피해 예방수칙 1번으로 여학생들이 사진 등의 개인정보를 온라인상에 올리지 말 것을 권유했다. 한 고등학교에서는 여학생들만 강당에 모은 뒤 ‘조심’할 것을 교육했다. 같은 시간 남학생들은 운동장에서 축구를 했다는 소식도 전해졌다. 딥페이크 범죄의 양상이 드러나자마자 내려진 조치가 여성의 몸을 숨기려는 시도들이라는 것은 상징적이다. 성범죄의 발생에서 남성의 성욕이 어찌할 수 없는 상수라면 통제해야 할 대상은 자연스럽게 여성의 몸이 된다. 성범죄를 잘 관리하려면 필요에 따라 여성의 몸을 활용(성범죄·공창·성인 페스티벌)하거나 숨겨야(미니스커트를 입지 마라, 소셜미디어에서 사진을 내려라) 한다. 우리는 폭행범·살인범에게 ‘진화를 통해 발달한 인간의 어쩔 수 없는 공격 본능이 발현됐다’고 말하지 않는다. 프로그래밍 된 본능이 아닌 자유의지에 따라 행동한다고 믿는 것이 문명사회의 약속이다. 그러나 남성의 성욕이라는 신화는 유독 우리 사회에서 초문명적으로 이해되고 있다. 이런 시선에서 본다면 성범죄의 가해자와 피해자는 그저 자연질서의 희생양이 된다. 토마스 헉슬리는 “자연에는 도덕적 목적이 없다”고 말했다. 우리가 알아야 할 것은 남성의 성욕이 얼마나 강력하고 자연스러운가 하는 것이 아니라 그런 것은 우리가 만들어야 할 도덕과 관계가 없다는 사실이다.

오늘을 생각한다

[꼬다리]딥페이크 관련주가 들썩인대(2024. 09. 27 16:00)

2024. 09. 27 16:00 사회 조해람 정책사회부 기자

서울여성회 페미니스트 대학생 연합동아리 회원 등이 지난 8월 29일 서울 서초구 강남역 10번 출구 인근에서 딥페이크 성범죄 규탄 긴급 기자회견을 하고 있다. 권도현 기자 ‘딥페이크 성착취물 사건’은 오래된 물웅덩이를 휘젓듯이 사회를 헤집었다. 사회 밑바닥에 가라앉아 있던 더럽고 나쁜 온갖 것이 수면에 떠 올라 소용돌이쳤다. 뉴스도 세상을 따라 회오리쳤다. 기사가 어지럽게 쏟아졌다. 그래도 세상을 아름답게 보자고 다짐할 때마다 왜 한 번씩 이런 일이 일어날까. 경악하며 뉴스를 읽어가다가 어떤 기사 위에서 시선이 오래 흔들렸다. ‘딥페이크 관련주’가 상한가를 치고 있다는 소식이었다. 솔직히 나는 이 뉴스를 어떻게 해석해야 할지 아직도 모르겠다. 구체적으로 뜯어보면, 정부가 딥페이크 성착취물을 엄벌하겠다고 하자 보안 관련주 주가가 올랐다는 내용이다. 건조한 팩트일 뿐이다. 하지만 어떤 기사들에서는 활자들이 신난 듯 어깨를 들썩이고 있었다. 그러니까 ‘눈길’, ‘반짝’, ‘날개’, ‘고공행진’ 같은 제목을 단 기사들 말이다. ‘딥페이크’라는 단어 옆에 저 말들이 있었다. 자본주의 사회에서 그게 이상한 일이냐고 누군가는 되물을지도 모른다. 나만 께름칙한가 싶어서 나름 열심히 생각해봤다. 돈이 힘이자 뜻이고 의지인 이 사회에서, 투자자들은 딥페이크 피해를 막을 기술을 가진 업체들에 정의로운 응원의 마음을 모아준 것일 수도 있다. 백번 좋게 해석했을 때 그렇다는 말이다. 자본은 감정이 없다. 뜨거우니 모였고, 식으면 떠날 뿐이다. 철저한 수사와 처벌, 재발 방지, 구조적 성차별 해소 같은 데에 자본은 크게 관심을 두지 않는다. 그리고 어떤 사람들도 자본과 관심사가 비슷한 것 같다. 철저한 수사와 처벌, 재발 방지, 구조적 성차별 해소 같은 것들에 앞서 ‘관련주’를 검색하는 사람들. 그것이 ‘아주 이상한 일까지는 아닌’ 세계. 시대의 관심에 호응해 날개 달고 고공을 오르며 기사를 쓰는 우리 기자들. ‘아주 이상하지는 않은’ 이 관련주 세계관에서 사람의 얼굴은 희미하다. 딥페이크 성착취물 사건과 관련주 세계관 사이에는 어떤 선이 그어져 있을까. 타인을 살아 숨 쉬는 인간이 아니라 성적 대상물로 여기는 딥페이크 범죄와 울고 있는 피해자를 소거한 채 돈의 급등세만 따라 들뜨는 관련주 세계관은, 얼마나 멀까. 서로 관련 없어 보이는 두 나무의 뿌리가 아주 깊은 땅속에서 닿아 있는 모습을 상상한다. 새삼스러울 것도 없는 풍경이다. 세월호 참사에서 아이들이 죽을 때 누군가는 유족의 보험금을 산정해 신속하게 보도했다. 우크라이나에서 꼬마가 미사일에 맞아 머리가 터져 죽을 때 관련주는 뉴스를 바삐 오르내렸다. 2022년 미국에서는 초등학교 총기 난사 사건 이후 총기회사 주가가 급등했다. 이태원 참사 때도 누군가는 관련주를 꼼꼼히 정리해 올렸다. 용역 깡패가 철거민을 쫓아내면 개발 호재이고 기후위기, 전염병, 지진 같은 재난도 관련주 앞에서는 일개 종속변수처럼 보인다. 이미 그런 세계다. 혼란스럽고 께름칙해 글을 쓰고 있지만 나도 떳떳하지는 못하다. 이 풍경의 공범이 아니라고 할 수는 없을 것 같다. 다만 우리가 이런 거로 최소한 떳떳해 하지는 말았으면 좋겠다. 사람의 얼굴이 계속 흐릿해지는 세상에서, 앞다퉈 냉소하지는 않기를.

꼬다리

[시사 2판4판]딥페이크인가?(2024. 09. 09 06:00)

2024. 09. 09 06:00 정치 성덕환 선임기자

시사 2판4판

“딥페이크 성범죄에 우리는 분노한다”(2024. 09. 09 06:00)

2024. 09. 09 06:00 사회 김향미 기자

최지수 서페대연 운영위원·최윤이 정의당 페미클럽 대표 인터뷰 최윤이 정의당 페미니스트 여성정치클럽 대표(왼쪽)와 최지수 서울여성회 산하 페미니스트 대학생 연합동아리 운영위원이 지난 9월 4일 서울 영등포구 대림동 언니네작은도서관에서 주간경향과 인터뷰를 하고 있다. 성동훈 기자 “너희는 우리를 능욕할 수 없다.” 지난 8월 29일 서울 지하철 강남역 앞에 모인 여성들은 이렇게 외쳤다. 불법합성물(딥페이크) 성범죄가 전국적으로 학교, 군대, 직장, 가정에 이르기까지 만연해 있다는 것이 드러난 후 여성들이 내놓은 메시지였다. 여기에는 디지털 성범죄가 반복적으로 일어났음에도 이를 방치한 정부, 정치권, 사회 여론에 대한 ‘분노’, 그리고 범죄에 ‘위축되지 않겠다’는 의지가 담겼다. 이 구호를 외쳤던 기자회견에는 서울여성회와 산하 페미니스트 대학생 연합동아리(서페대연), 정의당 페미니스트 여성정치클럽(정의당 페미클럽) 등 14개 단체가 참여했다. 이들 단체는 ‘딥페이크 성범죄 아웃(OUT) 공동행동’을 꾸리고 8월 30일부터 매주 금요일 강남역 앞에서 여성들의 말하기 대회를 연다. 참여단체는 40여개로 늘었다. 거리로 나온 여성들은 무엇을 말하려고 하는가. 지난 9월 4일 서울 영등포구 대림동에 있는 서울여성회 부설 언니네작은도서관에서 최지수 서페대연 운영위원과 최윤이 정의당 페미클럽 대표를 만났다. -딥페이크 성범죄가 드러났을 때 가장 먼저 어떤 생각이 들었나. 최윤이 “너무너무 화가 났다. 사실 딥페이크 성착취물이 없으리라 생각하지 않았지만, 이렇게 피해가 연속적으로 드러나는 것에 대해서 우리 사회에 얼마나 이런 문화가 만연한 것인가란 생각이 들었다. 피해자에 대한 걱정도 들었다. 젠더 폭력 사건은 사건이 종료됐다고 해도 피해자에게는 피해가 지속해 남는다. 더욱이 이번 딥페이크 성범죄는 내가 아는 사람이 가해자일 수 있다. 나의 일상이 위협받는 이런 상황에서 피해자들이 다시 일상을 온전히 살아갈 수 있을까 싶은 거다.” 최지수 “처음엔 지친 마음이 먼저였다. 도대체 몇 번째인가. 그런데 내 주변에 가까운 사람들이 겪는 일이라고 생각하니 가만히 있을 수도 없겠더라. 이번 사건을 접하면서 즉각적으로 다가온 것은 주변 친구들의 동생들 이야기였다. 동생들이 청소년인 경우가 많은데, 이제 개학해서 이런 학교를 계속 나가야 한다는 것에서 참을 수 없는 (분노의) 감정이 들었다.” 두 사람은 2015년 소라넷, 2018년 웹하드 카르텔, 2020년 n번방 사건 등 디지털 성범죄 사건이 반복해 일어났다는 것에 대한 ‘분노’를 말했다. 이 같은 범죄가 근절되지 않는 것은 정부 책임이 가장 크다고 했다. 최윤이 “온라인 성범죄는 얼굴만 바꿔서 계속 나온다. 기술이 발전하면 그걸 악용해서 또다시 젠더 폭력의 도구로 일삼는 이런 사회 구조에 굉장히 분노가 인다. 사건이 발생할 때마다 여성들은 싸워왔는데 수사기관은 ‘텔레그램이 외국기업이어서 잡지 못한다’ 이런 식으로 소극적이었다. 윤석열 정부는 국정과제에서 디지털 성범죄를 5대 폭력으로 규정하고 국가가 피해자를 보호·지원하겠다고 했다. 국정과제를 제대로 이행했으면 이런 사건이 또 발생했을까.” 최지수 “단톡방 성희롱을 비롯해 딥페이크 성착취물까지 굉장히 오랫동안 이런 범죄가 반복돼왔고, 또 그것이 끊임없이 드러나고 있다. 정부, 경찰은 충분히 해결할 수 있음에도 가해자 개인의 책임 문제로 축소한다든지, 텔레그램 수사를 못 한다고 하면서 방조해온 것이다. n번방 사건 이후 법무부에서 만든 TF(태스크 포스)도 흐지부지되지 않았나. 어떤 경우는 여성들이 SNS(사회관계망서비스)에 사진을 올린 것이 잘못이라며 피해자 책임을 묻기도 한다. 여성들에게 더 조심하라고 하는 것이 맞는 대책인가.” 최지수 서페대연 운영위원이 지난 9월 4일 서울 영등포구 언니네작은도서관에서 주간경향과 인터뷰하고 있다. 성동훈 기자 “내 주변에 가까운 사람들이 겪는 일이라고 생각하니 가만히 있을 수도 없겠더라. 그들이 청소년인 경우가 많은데, 이제 개학해서 이런 학교를 계속 나가야 한다는 것에서 참을 수 없는 분노의 감정이 들었다.”- -최지수 서페대연 운영위원 -딥페이크 성범죄 사건을 두고 ‘사회 신뢰가 깨졌다’고 말했다. 최지수 “누군가의 몸을 성적으로 모욕하고 놀이처럼 즐기는 것이 중대한 성범죄라는 것이 상식이 돼 있지 않은 사회다. 단순히 기분이 나쁜 것이 아니라 내 옆에 있는 사람이, 내 옆을 멀쩡히 지나는 사람이 나를 인간으로 존중하지 않고 하찮게 여긴다는 것이 충격인 것이다. 주변 사람을 믿지 못하면 일상 유지가 굉장히 힘들지 않나. 사회 신뢰가 깨진 상황에 대한 분노가 피해자들에게 가장 와닿지 않나 생각한다.” 최윤이 “SNS라는 일상적인 공간에서 스스로 드러낼 수 없게 된 사회다. 나를 아는 사람이 나를 놀잇감으로 이용했다는 것에서 신뢰가 박살 난 거다. 텔레그램과 같은 성범죄 공간을 국가가 방조하다 보니 가해자들은 반성하지 않는다. 가해자들이 스스로 지키기 위해 공모하고 서로 힘이 돼준다. 특히 정부와 정치권은 사회 신뢰를 쌓고 시민을 보호할 의무와 책임이 있는데, 그걸 외면해왔다. 그것이 이번에 강남역에서 여성과 남성들이 모인 이유다.” 이들은 이 같은 분노를 표출하고 지속해 싸우겠다는 의미에서 강남역 앞 집회에서 말하기 대회를 연다고 말했다. 정부와 정치권에 대한 총력 대응을 주문하는 동시에 ‘능욕 문화’에 저항해 나가겠다는 것이다. ‘능욕’의 사전적 의미는 ‘남을 업신여겨 욕보임’과 ‘여자를 강간하여 욕보임’이다. 텔레그램 딥페이크 성범죄는 ‘지인 능욕방’이라는 공간에서 자행됐다. -강남역에서 ‘너희는 우리를 능욕할 수 없다’는 구호를 외쳤다. 최지수 “능욕 문화를 분석하면 ‘구조적 성차별이 존재하는 사회에서 남성 집단이 자신들의 주체성을 확인하기 위해 여성을 지배하는 것을 보여줌으로써 내부 결속을 만들고 우월성을 확인하려는 행위’다. 여성을 동등한 인간, 동료 시민으로 보지 않고 도구나 물건으로 보는 것이다. 여성이 주체성을 가진 인간이며 시민이기 때문에 능욕할 수 있다는 생각이 얼마나 대단한 착각인가를 말하고 싶다. ‘능욕할 수 없다’는 우리 스스로 훼손될 수 없다는 것을 선언하는 의미가 있다.” 최윤이 “능욕 문화가 언제부터 있었을까. 여성을 대상화하고 놀잇감으로 치부하는 문화라면, 내 삶 전반에 있었던 것 같다. 여성과 연관된 흔한 욕설부터 학교, 커뮤니티, 게임까지 곳곳에 만연한 문화다. 능욕이란 말 자체가 불쾌하다. 이걸 인정할 수 없다. 순결주의와 성상품화가 뿌리 깊은 사회에서 왜곡된 생각인데, 그 자체를 거부하겠다는 의미다.” 최윤이 정의당 페미클럽 대표가 지난 9월 4일 서울 영등포구 언니네작은도서관에서 주간경향과 인터뷰를 하고 있다. 성동훈 기자 “수사기관은 소극적이었다. 윤석열 정부는 국정과제에서 디지털 성범죄를 5대 폭력으로 규정하고 국가가 피해자를 보호·지원하겠다고 했다. 국정과제를 제대로 이행했으면 이런 사건이 또 발생했을까.”- -최윤이 정의당 페미클럽 대표 -왜 강남역인가. 여성들의 말하기는 왜 중요한가. 최윤이 “2016년 5월 17일 강남역 인근 한 공용화장실에서 여성 살인사건이 있었다. 그때 수많은 여성이 ‘운이 좋아서 살아남았다’고 말했다. 강남역은 추모와 애도의 공간이면서 여성혐오가 만연한 사회라는 것을 읽어낸 장소다. 말한다는 것은 ‘살아 있다’라는, 즉 존재를 드러내는 것이다. 모든 여성이 다 같은 경험을 하는 것은 아니지만 피해자 여성이 숨어야 하는 사회를 거부하고 여성의 존재를 지우려는 시도를 거부하는 것이다. 집회 이름이 ‘분노의 불길’이다. 서로 불이 붙으면서 화력이 세지는 것처럼 말하기를 통해 서로 용기를 얻고 이 목소리를 확산해나갈 수 있다고 생각한다.” 최지수 “강남역 살인사건은 ‘페미니즘 리부트(reboot·재시동)’ 계기가 됐다. 성평등 사회를 만들자고 요구해왔지만, 국가가 그 요구를 받지 않고 미온적이었다. 오히려 페미니스트들의 목소리를 묵살하려는 세력이 정치·사회 영역에서 힘을 얻었다. 페미니즘을 이야기하는 것이 위험해지는 상황에 이르렀다. 이를 넘어서고 더 시끄럽게 대대적으로 말하는 것이 중요하다. 강남역에서 공유한 문제의식·시대인식을 되새기고 지지와 연대를 만들어 갈 수 있을 것이다. 위축되지 않고 넘어설 것이다.” 윤석열 대통령은 지난 8월 27일 국무회의에서 딥페이크 성범죄에 강력히 대응하라고 주문했다. 앞서 경찰은 지난 8월 26일부터 허위영상물 특별 집중단속을 시작했고, 이어 허위영상물 제조 방조 혐의로 텔레그램 법인 내사에 들어갔다. 국회에선 정당별로 TF가 꾸려지고 지난 8월 말부터 관련 법률 개정안이 수십건 발의됐다. 방송통신심의위원회가 텔레그램에 성범죄 영상물 삭제 요청을 하고, 텔레그램도 사과와 함께 요청에 응하겠다는 답변을 해왔다고 한다. 교육청별로 각급 학교에서 예방 교육도 진행하고 있다. ‘총력전’을 방불케 한다. 부처별·기관별로 이번엔 성과를 낼 수 있을지 주목된다. 다만 컨트롤타워가 돼야 할 여성가족부의 권한, 기능, 예산이 축소된 상황에서 ‘실효성이 얼마나 있느냐’는 질문이 뒤따른다. 서울여성회와 서울여성회 페미니스트 대학생 연합동아리, 정의당 페미니스트 여성정치클럽 등 14개 단체 회원들이 지난 8월 29일 서울 서초구 강남역 10번 출구 인근에서 딥페이크 성범죄 규탄 긴급 기자회견을 하고 있다. 권도현 기자 두 사람은 ‘피해자 관점의 대책’을 주문했다. 최지수 “실제 사건을 해결할 수 있는 변화를 가져올까, 막막하다는 생각이 든다. 그래도 지금 (정부·국회 등에서) 나오는 대책은 사실 다 필요하다. 다만 광의의 성폭력 문제 해결로 놓고 보면 지금 빈 곳 하나는 피해자 지원이다. 성폭력 문제를 가해자 중심으로 보고 해결하려다 보니 ‘피의자를 특정해야 수사가 시작된다’라거나 ‘주동자를 잡으면 해결된다’ 등의 인식이 있다. 피해자 관점으로 법과 제도의 개편이 필요한 것 같다. 피해자가 증거 수집, 피의자 특정, 재판 대응 등을 다 해야 한다. 그 자체도 비용과 심리적 부담이 크다. 피해자가 신고하면 ‘원스톱’으로 수사 의뢰가 되고 수사·재판 과정에서 필요한 보호와 법률 지원 등을 받을 수 있는 통합 지원체계가 필요하다.” 최윤이 “제가 접한 사례에 따르면 피해자 A씨는 경찰에 신고한 후 수사 과정에서 허위영상물에 나오는 인물이 본인이 맞는지 계속 확인하는 과정이 있었다고 했다. 영상 하나하나 보면서 확인하는데 본인 영상만 아니라 다른 사람의 영상을 보는 것도 괴로웠다고 했다. 피해자가 수사, 재판 과정에서 피해를 계속해서 말해야 한다. 그것 자체로도 피해가 된다. 피해자 통합지원센터를 만들어야 한다고 주장하는 이유다.” 현재 피해자는 여가부 산하 한국여성인권진흥원 디지털성범죄피해자지원센터(디성센터)와 수사기관에 피해 영상물에 대한 삭제 지원을 요청할 수 있다. 다만 디성센터나 경찰에는 플랫폼 사업자에 직접 삭제 요청을 할 수 있는 권한이 명확히 있지 않아 대개는 방심위를 통해야 하는 한계가 있다. 더욱이 2025년 정부 예산안에서 디성센터 예산은 올해 34억7500만원에서 32억6900만원으로 삭감됐다. 최지수 운영위원은 “피해자가 지금 얼마나 많고 어떤 어려움을 겪는지를 보면 사실 전 사회가 달려들어 이 문제의 해결에 나서야 한다. 해결하려면 돈(예산)을 써야 한다”고 했다. 최윤이 대표는 “정부가 이제 젠더 폭력 피해자 현실을 좀 마주하고 예산안 재편성을 통해서 실질적인 피해자 지원 및 보호 시스템을 구축해야 한다”고 말했다. -온·오프라인에서 젠더 폭력이 계속되는데, 무엇을 바꿔야 한다고 보나. 최지수 “여성이 피해자인 젠더 폭력 사건이 발생하면 ‘남성혐오’라는 프레임으로 젠더 갈라치기를 시도하는 사회·정치 문화도 바꿔야 한다. 범죄자 규모를 따지기도 하는데 어느 드라마에서 ‘모두가 즐겁게 놀던 모래판 위에 바늘 하나가 떨어지면 아무도 그 모래판에 올라가지 못한다’란 대사가 나온다. 바늘 몇 개 떨어졌느냐가 문제가 아니다. 구조적 성차별이 존재하는 사회라는 것을 직시하고 성평등한 사회를 만들어가는 걸 국가 과제로 삼아야 한다고 생각한다.” 최윤이 “(경남) 진주에서 머리 길이가 짧다는 이유로 편의점 여성 노동자에게 폭력을 가한 사건이 있었다. 이때 피해자를 돕던 남성도 폭력을 당했는데, 왜곡된 남성성을 거부하는 남성한테도 이 폭력은 갈 수 있는 것이다. 성차별이 존재하는 사회구조를 바꾸는 것이 근본적인 대책일 것이다. 당장은 경찰이 ‘가해자를 한 명도 빠짐없이 모두 잡겠다’고, 22대 국회가 ‘이 문제를 뿌리 뽑겠다’고 선언해야 한다. 가해자가 안심할 수 없게 해야 한다.”

특집

레이디경향(총 1 건 검색)

AI 탐지 플랫폼…딥페이크 범죄 해법 될까?

2024. 08. 30 16:55 화제 이유진 기자

-생성형 AI 역기능 억제 기술 개발 100억 규모 국가사업 수주 -딥페이크, 피싱, 합성 등 AI 활용 신종 범죄 방지 위한 국민 체감형 서비스 개방 예정 -디지털 범죄 대응 미래 사이버 보안 기술 개발 및 근절 대책 마련 기대 딥페이크 성범죄 이슈로 생성형 AI 역기능 탐지 대응 기술이 주목받고 있다. 샌즈랩 제공 인공지능(AI) 기반 사이버 위협 인텔리전스(CTI) 전문 기업 샌즈랩이 ‘생성형 AI 역기능 억제’를 위한 국민 체감형 플랫폼과 사이버 보안 특화 ‘RAG 기반 sLLM 모델 개발’ 소식이 최근 사회 문제로 떠오르고 있는 딥페이크 성범죄 해법과 관련해 주목받고 있다. ‘생성형 AI 역기능’이란 AI 기술이 허위 정보 및 가짜 뉴스 생성, 저작권 침해, 딥페이크 생성, 사이버 범죄 악용 등의 부정적이거나 예상치 못한 방식으로 악용되는 것을 뜻한다. 과학기술정보통신부와 정보통신기획평가원(IITP)은 AI 역기능 억제를 위한 사이버 보안 특화 RAG 기반 sLLM 모델 개발과 국민 체감형 플랫폼 구축을 과제로 총 100억 규모 ‘정보보호 핵심 원천기술 개발사업’을 발주한 바있다. 샌즈랩은 지난 4월 해당 사업을 수주해 엘지유플러스, 포티투마루, 로그프레소, 한국과학기술원(KAIST)와 함께 공동 연구개발 중이다. 샌즈랩은 연구개발 과제 중 하나인 ‘생성형 AI 역기능 탐지 대응 기술’이 적용된 국민 체감형 플랫폼을 통해 최근 사회적 문제로 대두되고 있는 피싱 공격, 가짜 뉴스 생성, 악성코드 대량 생산, 음성 합성, 딥페이크 이미지·영상 제작과 같은 AI를 악용한 신종 디지털 범죄를 탐지 및 대응할 수 있다고 보고 있다. 개발 중인 국민 체감형 플랫폼에는 각종 탐지 기술은 물론 결과 설명을 위한 검색증강생성(RAG), 암호화 해제 등 다양한 AI 관련 기술들이 집약된다. 스미싱 및 보이스피싱 탐지 및 차단을 위한 모바일 앱(애플리케이션) 또한 포함된다. 회사는 엘지유플러스와 공동 연구개발 중인 딥페이크 영상·이미지 탐지 기술로 심층 학습 기반의 알고리즘 개발, 생성적 적대 신경망(GAN) 기술에 대항하기 위한 적대적 학습 방법 적용, 멀티 모달 데이터 분석 등을 통해 더욱 정확하고 정밀하게 딥페이크를 탐지할 수 있다고 보고 있다. 또한 실시간 비디오 스트리밍이나 소셜 미디어 플랫폼에서의 즉각적인 탐지를 위해 모델을 경량화하고 복잡도는 최소화해 탐지 정확도는 유지하거나 향상시킬 수 있는 최적화 기법을 적용 예정이다. 샌즈랩 관계자는 “샌즈랩은 AI 모델을 학습시킬 수 있는 데이터셋을 페타바이트(Petabyte) 규모로 보유하고 있어 사이버 보안 특화 AI 모델과 sLLM의 자체 개발이 가능하며, 이 데이터셋은 AI 모델 개발사들에게 공급 또한 가능해 향후 글로벌 빅데이터 시장에서의 데이터셋 판매 또한 기대하고 있다”라고 말했다.