딥페이크 | 섹션 검색

최신순 전체 제목

검색 옵션

닫기

범위: 전체; 제목; 본문; 기자명; 연재명; 이슈명; 태그

기간: 전체; 최근 1일; 최근 1주; 최근 1개월; 최근 1년

정렬: 정확도순; 최신순; 오래된순

초기화 옵션 적용

주간경향(총 9 건 검색)

[오늘을 생각한다] 딥페이크, 당당하거나 숨기거나(2024. 09. 27 16:00): 2024. 09. 27 16:00 오피니언 정주식 ‘토론의 즐거움’ 대표; 정주식 ‘토론의 즐거움’ 대표 남성의 성욕이라는 신화는 유독 우리 사회에서 초문명적으로 이해되고 있다. 이런 시선에선 성범죄의 가해자와 피해자는 그저 자연질서의 희생양이 된다. 알아야 할 것은 남성의 성욕이 얼마나 강력하고 자연스러운가 하는 것이 아니라 그런 것은 우리가 만들어야 할 도덕과 관계가 없다는 사실이다. 난징대학살이 한창이던 1937년 7월 일본 파견군 참모장 오카무라 야스지 중장은 각 부대에 이런 내용의 통첩을 보낸다. “정보에 의하면 피점령지에서 강렬한 반일의식을 격화시키는 원인은 각지에서 일본 군인의 강간사건이 알려졌기 때문이다. 군인 개인의 강간행위를 엄중 통제함과 동시에 속히 성적 위안의 설비를 갖추도록 하라.” 이후 일본군에는 위안부가 창설돼 약 20만명의 여성이 ‘점령지 여성 보호’를 위해 동원된다. 일본군 위안부란 아이디어는 병사들의 ‘종족보존 본능’을 통제할 수 없다는 생각에서 비롯됐다. 2015년 송영근 새누리당 의원은 여군 하사 성폭행 사건이 일어나자 “전국의 지휘관들이 외박을 못 나가 섹스를 못 해서 여군 성폭행이 일어난다”고 말했다. 그는 피해자를 “하사 아가씨”라고 불렀다. 2018년 3월 같은 당 차명진 의원은 라디오에 출연해 미투 운동과 관련 “수컷이 많은 씨를 심으려 하는 것은 본능”이라고 말했다. 다른 패널들이 비난하자 “진화론에 의해 입증된 것”이라고 재차 강조했다. 올해 4월 국회의원 당선자 천하람은 일본의 에이브이(AV) 배우들이 출연하는 성인 페스티벌 반대 목소리가 커지자 “남성의 본능을 악마화하지 말라”고 말했다. 이들이 공통으로 빠져 있는 것은 현상과 당위를 혼동한 자연주의적 오류이다. 이러한 생각 속에서 남성의 성욕은 당당하고 자연스러운 것으로만 이해되며 이를 통제하려는 시도는 무용하거나 불순한 것이 된다. 지난 8월 대규모 딥페이크 합성 음란물 범죄가 드러나자 서울경찰청은 피해 예방수칙 1번으로 여학생들이 사진 등의 개인정보를 온라인상에 올리지 말 것을 권유했다. 한 고등학교에서는 여학생들만 강당에 모은 뒤 ‘조심’할 것을 교육했다. 같은 시간 남학생들은 운동장에서 축구를 했다는 소식도 전해졌다. 딥페이크 범죄의 양상이 드러나자마자 내려진 조치가 여성의 몸을 숨기려는 시도들이라는 것은 상징적이다. 성범죄의 발생에서 남성의 성욕이 어찌할 수 없는 상수라면 통제해야 할 대상은 자연스럽게 여성의 몸이 된다. 성범죄를 잘 관리하려면 필요에 따라 여성의 몸을 활용(성범죄·공창·성인 페스티벌)하거나 숨겨야(미니스커트를 입지 마라, 소셜미디어에서 사진을 내려라) 한다. 우리는 폭행범·살인범에게 ‘진화를 통해 발달한 인간의 어쩔 수 없는 공격 본능이 발현됐다’고 말하지 않는다. 프로그래밍 된 본능이 아닌 자유의지에 따라 행동한다고 믿는 것이 문명사회의 약속이다. 그러나 남성의 성욕이라는 신화는 유독 우리 사회에서 초문명적으로 이해되고 있다. 이런 시선에서 본다면 성범죄의 가해자와 피해자는 그저 자연질서의 희생양이 된다. 토마스 헉슬리는 “자연에는 도덕적 목적이 없다”고 말했다. 우리가 알아야 할 것은 남성의 성욕이 얼마나 강력하고 자연스러운가 하는 것이 아니라 그런 것은 우리가 만들어야 할 도덕과 관계가 없다는 사실이다.; 오늘을 생각한다

[꼬다리]딥페이크 관련주가 들썩인대(2024. 09. 27 16:00): 2024. 09. 27 16:00 사회 조해람 정책사회부 기자; 서울여성회 페미니스트 대학생 연합동아리 회원 등이 지난 8월 29일 서울 서초구 강남역 10번 출구 인근에서 딥페이크 성범죄 규탄 긴급 기자회견을 하고 있다. 권도현 기자 ‘딥페이크 성착취물 사건’은 오래된 물웅덩이를 휘젓듯이 사회를 헤집었다. 사회 밑바닥에 가라앉아 있던 더럽고 나쁜 온갖 것이 수면에 떠 올라 소용돌이쳤다. 뉴스도 세상을 따라 회오리쳤다. 기사가 어지럽게 쏟아졌다. 그래도 세상을 아름답게 보자고 다짐할 때마다 왜 한 번씩 이런 일이 일어날까. 경악하며 뉴스를 읽어가다가 어떤 기사 위에서 시선이 오래 흔들렸다. ‘딥페이크 관련주’가 상한가를 치고 있다는 소식이었다. 솔직히 나는 이 뉴스를 어떻게 해석해야 할지 아직도 모르겠다. 구체적으로 뜯어보면, 정부가 딥페이크 성착취물을 엄벌하겠다고 하자 보안 관련주 주가가 올랐다는 내용이다. 건조한 팩트일 뿐이다. 하지만 어떤 기사들에서는 활자들이 신난 듯 어깨를 들썩이고 있었다. 그러니까 ‘눈길’, ‘반짝’, ‘날개’, ‘고공행진’ 같은 제목을 단 기사들 말이다. ‘딥페이크’라는 단어 옆에 저 말들이 있었다. 자본주의 사회에서 그게 이상한 일이냐고 누군가는 되물을지도 모른다. 나만 께름칙한가 싶어서 나름 열심히 생각해봤다. 돈이 힘이자 뜻이고 의지인 이 사회에서, 투자자들은 딥페이크 피해를 막을 기술을 가진 업체들에 정의로운 응원의 마음을 모아준 것일 수도 있다. 백번 좋게 해석했을 때 그렇다는 말이다. 자본은 감정이 없다. 뜨거우니 모였고, 식으면 떠날 뿐이다. 철저한 수사와 처벌, 재발 방지, 구조적 성차별 해소 같은 데에 자본은 크게 관심을 두지 않는다. 그리고 어떤 사람들도 자본과 관심사가 비슷한 것 같다. 철저한 수사와 처벌, 재발 방지, 구조적 성차별 해소 같은 것들에 앞서 ‘관련주’를 검색하는 사람들. 그것이 ‘아주 이상한 일까지는 아닌’ 세계. 시대의 관심에 호응해 날개 달고 고공을 오르며 기사를 쓰는 우리 기자들. ‘아주 이상하지는 않은’ 이 관련주 세계관에서 사람의 얼굴은 희미하다. 딥페이크 성착취물 사건과 관련주 세계관 사이에는 어떤 선이 그어져 있을까. 타인을 살아 숨 쉬는 인간이 아니라 성적 대상물로 여기는 딥페이크 범죄와 울고 있는 피해자를 소거한 채 돈의 급등세만 따라 들뜨는 관련주 세계관은, 얼마나 멀까. 서로 관련 없어 보이는 두 나무의 뿌리가 아주 깊은 땅속에서 닿아 있는 모습을 상상한다. 새삼스러울 것도 없는 풍경이다. 세월호 참사에서 아이들이 죽을 때 누군가는 유족의 보험금을 산정해 신속하게 보도했다. 우크라이나에서 꼬마가 미사일에 맞아 머리가 터져 죽을 때 관련주는 뉴스를 바삐 오르내렸다. 2022년 미국에서는 초등학교 총기 난사 사건 이후 총기회사 주가가 급등했다. 이태원 참사 때도 누군가는 관련주를 꼼꼼히 정리해 올렸다. 용역 깡패가 철거민을 쫓아내면 개발 호재이고 기후위기, 전염병, 지진 같은 재난도 관련주 앞에서는 일개 종속변수처럼 보인다. 이미 그런 세계다. 혼란스럽고 께름칙해 글을 쓰고 있지만 나도 떳떳하지는 못하다. 이 풍경의 공범이 아니라고 할 수는 없을 것 같다. 다만 우리가 이런 거로 최소한 떳떳해 하지는 말았으면 좋겠다. 사람의 얼굴이 계속 흐릿해지는 세상에서, 앞다퉈 냉소하지는 않기를.; 꼬다리

[시사 2판4판]딥페이크인가?(2024. 09. 09 06:00): 2024. 09. 09 06:00 정치 성덕환 선임기자; 시사 2판4판

“딥페이크 성범죄에 우리는 분노한다”(2024. 09. 09 06:00): 2024. 09. 09 06:00 사회 김향미 기자; 최지수 서페대연 운영위원·최윤이 정의당 페미클럽 대표 인터뷰 최윤이 정의당 페미니스트 여성정치클럽 대표(왼쪽)와 최지수 서울여성회 산하 페미니스트 대학생 연합동아리 운영위원이 지난 9월 4일 서울 영등포구 대림동 언니네작은도서관에서 주간경향과 인터뷰를 하고 있다. 성동훈 기자 “너희는 우리를 능욕할 수 없다.” 지난 8월 29일 서울 지하철 강남역 앞에 모인 여성들은 이렇게 외쳤다. 불법합성물(딥페이크) 성범죄가 전국적으로 학교, 군대, 직장, 가정에 이르기까지 만연해 있다는 것이 드러난 후 여성들이 내놓은 메시지였다. 여기에는 디지털 성범죄가 반복적으로 일어났음에도 이를 방치한 정부, 정치권, 사회 여론에 대한 ‘분노’, 그리고 범죄에 ‘위축되지 않겠다’는 의지가 담겼다. 이 구호를 외쳤던 기자회견에는 서울여성회와 산하 페미니스트 대학생 연합동아리(서페대연), 정의당 페미니스트 여성정치클럽(정의당 페미클럽) 등 14개 단체가 참여했다. 이들 단체는 ‘딥페이크 성범죄 아웃(OUT) 공동행동’을 꾸리고 8월 30일부터 매주 금요일 강남역 앞에서 여성들의 말하기 대회를 연다. 참여단체는 40여개로 늘었다. 거리로 나온 여성들은 무엇을 말하려고 하는가. 지난 9월 4일 서울 영등포구 대림동에 있는 서울여성회 부설 언니네작은도서관에서 최지수 서페대연 운영위원과 최윤이 정의당 페미클럽 대표를 만났다. -딥페이크 성범죄가 드러났을 때 가장 먼저 어떤 생각이 들었나. 최윤이 “너무너무 화가 났다. 사실 딥페이크 성착취물이 없으리라 생각하지 않았지만, 이렇게 피해가 연속적으로 드러나는 것에 대해서 우리 사회에 얼마나 이런 문화가 만연한 것인가란 생각이 들었다. 피해자에 대한 걱정도 들었다. 젠더 폭력 사건은 사건이 종료됐다고 해도 피해자에게는 피해가 지속해 남는다. 더욱이 이번 딥페이크 성범죄는 내가 아는 사람이 가해자일 수 있다. 나의 일상이 위협받는 이런 상황에서 피해자들이 다시 일상을 온전히 살아갈 수 있을까 싶은 거다.” 최지수 “처음엔 지친 마음이 먼저였다. 도대체 몇 번째인가. 그런데 내 주변에 가까운 사람들이 겪는 일이라고 생각하니 가만히 있을 수도 없겠더라. 이번 사건을 접하면서 즉각적으로 다가온 것은 주변 친구들의 동생들 이야기였다. 동생들이 청소년인 경우가 많은데, 이제 개학해서 이런 학교를 계속 나가야 한다는 것에서 참을 수 없는 (분노의) 감정이 들었다.” 두 사람은 2015년 소라넷, 2018년 웹하드 카르텔, 2020년 n번방 사건 등 디지털 성범죄 사건이 반복해 일어났다는 것에 대한 ‘분노’를 말했다. 이 같은 범죄가 근절되지 않는 것은 정부 책임이 가장 크다고 했다. 최윤이 “온라인 성범죄는 얼굴만 바꿔서 계속 나온다. 기술이 발전하면 그걸 악용해서 또다시 젠더 폭력의 도구로 일삼는 이런 사회 구조에 굉장히 분노가 인다. 사건이 발생할 때마다 여성들은 싸워왔는데 수사기관은 ‘텔레그램이 외국기업이어서 잡지 못한다’ 이런 식으로 소극적이었다. 윤석열 정부는 국정과제에서 디지털 성범죄를 5대 폭력으로 규정하고 국가가 피해자를 보호·지원하겠다고 했다. 국정과제를 제대로 이행했으면 이런 사건이 또 발생했을까.” 최지수 “단톡방 성희롱을 비롯해 딥페이크 성착취물까지 굉장히 오랫동안 이런 범죄가 반복돼왔고, 또 그것이 끊임없이 드러나고 있다. 정부, 경찰은 충분히 해결할 수 있음에도 가해자 개인의 책임 문제로 축소한다든지, 텔레그램 수사를 못 한다고 하면서 방조해온 것이다. n번방 사건 이후 법무부에서 만든 TF(태스크 포스)도 흐지부지되지 않았나. 어떤 경우는 여성들이 SNS(사회관계망서비스)에 사진을 올린 것이 잘못이라며 피해자 책임을 묻기도 한다. 여성들에게 더 조심하라고 하는 것이 맞는 대책인가.” 최지수 서페대연 운영위원이 지난 9월 4일 서울 영등포구 언니네작은도서관에서 주간경향과 인터뷰하고 있다. 성동훈 기자 “내 주변에 가까운 사람들이 겪는 일이라고 생각하니 가만히 있을 수도 없겠더라. 그들이 청소년인 경우가 많은데, 이제 개학해서 이런 학교를 계속 나가야 한다는 것에서 참을 수 없는 분노의 감정이 들었다.”- -최지수 서페대연 운영위원 -딥페이크 성범죄 사건을 두고 ‘사회 신뢰가 깨졌다’고 말했다. 최지수 “누군가의 몸을 성적으로 모욕하고 놀이처럼 즐기는 것이 중대한 성범죄라는 것이 상식이 돼 있지 않은 사회다. 단순히 기분이 나쁜 것이 아니라 내 옆에 있는 사람이, 내 옆을 멀쩡히 지나는 사람이 나를 인간으로 존중하지 않고 하찮게 여긴다는 것이 충격인 것이다. 주변 사람을 믿지 못하면 일상 유지가 굉장히 힘들지 않나. 사회 신뢰가 깨진 상황에 대한 분노가 피해자들에게 가장 와닿지 않나 생각한다.” 최윤이 “SNS라는 일상적인 공간에서 스스로 드러낼 수 없게 된 사회다. 나를 아는 사람이 나를 놀잇감으로 이용했다는 것에서 신뢰가 박살 난 거다. 텔레그램과 같은 성범죄 공간을 국가가 방조하다 보니 가해자들은 반성하지 않는다. 가해자들이 스스로 지키기 위해 공모하고 서로 힘이 돼준다. 특히 정부와 정치권은 사회 신뢰를 쌓고 시민을 보호할 의무와 책임이 있는데, 그걸 외면해왔다. 그것이 이번에 강남역에서 여성과 남성들이 모인 이유다.” 이들은 이 같은 분노를 표출하고 지속해 싸우겠다는 의미에서 강남역 앞 집회에서 말하기 대회를 연다고 말했다. 정부와 정치권에 대한 총력 대응을 주문하는 동시에 ‘능욕 문화’에 저항해 나가겠다는 것이다. ‘능욕’의 사전적 의미는 ‘남을 업신여겨 욕보임’과 ‘여자를 강간하여 욕보임’이다. 텔레그램 딥페이크 성범죄는 ‘지인 능욕방’이라는 공간에서 자행됐다. -강남역에서 ‘너희는 우리를 능욕할 수 없다’는 구호를 외쳤다. 최지수 “능욕 문화를 분석하면 ‘구조적 성차별이 존재하는 사회에서 남성 집단이 자신들의 주체성을 확인하기 위해 여성을 지배하는 것을 보여줌으로써 내부 결속을 만들고 우월성을 확인하려는 행위’다. 여성을 동등한 인간, 동료 시민으로 보지 않고 도구나 물건으로 보는 것이다. 여성이 주체성을 가진 인간이며 시민이기 때문에 능욕할 수 있다는 생각이 얼마나 대단한 착각인가를 말하고 싶다. ‘능욕할 수 없다’는 우리 스스로 훼손될 수 없다는 것을 선언하는 의미가 있다.” 최윤이 “능욕 문화가 언제부터 있었을까. 여성을 대상화하고 놀잇감으로 치부하는 문화라면, 내 삶 전반에 있었던 것 같다. 여성과 연관된 흔한 욕설부터 학교, 커뮤니티, 게임까지 곳곳에 만연한 문화다. 능욕이란 말 자체가 불쾌하다. 이걸 인정할 수 없다. 순결주의와 성상품화가 뿌리 깊은 사회에서 왜곡된 생각인데, 그 자체를 거부하겠다는 의미다.” 최윤이 정의당 페미클럽 대표가 지난 9월 4일 서울 영등포구 언니네작은도서관에서 주간경향과 인터뷰를 하고 있다. 성동훈 기자 “수사기관은 소극적이었다. 윤석열 정부는 국정과제에서 디지털 성범죄를 5대 폭력으로 규정하고 국가가 피해자를 보호·지원하겠다고 했다. 국정과제를 제대로 이행했으면 이런 사건이 또 발생했을까.”- -최윤이 정의당 페미클럽 대표 -왜 강남역인가. 여성들의 말하기는 왜 중요한가. 최윤이 “2016년 5월 17일 강남역 인근 한 공용화장실에서 여성 살인사건이 있었다. 그때 수많은 여성이 ‘운이 좋아서 살아남았다’고 말했다. 강남역은 추모와 애도의 공간이면서 여성혐오가 만연한 사회라는 것을 읽어낸 장소다. 말한다는 것은 ‘살아 있다’라는, 즉 존재를 드러내는 것이다. 모든 여성이 다 같은 경험을 하는 것은 아니지만 피해자 여성이 숨어야 하는 사회를 거부하고 여성의 존재를 지우려는 시도를 거부하는 것이다. 집회 이름이 ‘분노의 불길’이다. 서로 불이 붙으면서 화력이 세지는 것처럼 말하기를 통해 서로 용기를 얻고 이 목소리를 확산해나갈 수 있다고 생각한다.” 최지수 “강남역 살인사건은 ‘페미니즘 리부트(reboot·재시동)’ 계기가 됐다. 성평등 사회를 만들자고 요구해왔지만, 국가가 그 요구를 받지 않고 미온적이었다. 오히려 페미니스트들의 목소리를 묵살하려는 세력이 정치·사회 영역에서 힘을 얻었다. 페미니즘을 이야기하는 것이 위험해지는 상황에 이르렀다. 이를 넘어서고 더 시끄럽게 대대적으로 말하는 것이 중요하다. 강남역에서 공유한 문제의식·시대인식을 되새기고 지지와 연대를 만들어 갈 수 있을 것이다. 위축되지 않고 넘어설 것이다.” 윤석열 대통령은 지난 8월 27일 국무회의에서 딥페이크 성범죄에 강력히 대응하라고 주문했다. 앞서 경찰은 지난 8월 26일부터 허위영상물 특별 집중단속을 시작했고, 이어 허위영상물 제조 방조 혐의로 텔레그램 법인 내사에 들어갔다. 국회에선 정당별로 TF가 꾸려지고 지난 8월 말부터 관련 법률 개정안이 수십건 발의됐다. 방송통신심의위원회가 텔레그램에 성범죄 영상물 삭제 요청을 하고, 텔레그램도 사과와 함께 요청에 응하겠다는 답변을 해왔다고 한다. 교육청별로 각급 학교에서 예방 교육도 진행하고 있다. ‘총력전’을 방불케 한다. 부처별·기관별로 이번엔 성과를 낼 수 있을지 주목된다. 다만 컨트롤타워가 돼야 할 여성가족부의 권한, 기능, 예산이 축소된 상황에서 ‘실효성이 얼마나 있느냐’는 질문이 뒤따른다. 서울여성회와 서울여성회 페미니스트 대학생 연합동아리, 정의당 페미니스트 여성정치클럽 등 14개 단체 회원들이 지난 8월 29일 서울 서초구 강남역 10번 출구 인근에서 딥페이크 성범죄 규탄 긴급 기자회견을 하고 있다. 권도현 기자 두 사람은 ‘피해자 관점의 대책’을 주문했다. 최지수 “실제 사건을 해결할 수 있는 변화를 가져올까, 막막하다는 생각이 든다. 그래도 지금 (정부·국회 등에서) 나오는 대책은 사실 다 필요하다. 다만 광의의 성폭력 문제 해결로 놓고 보면 지금 빈 곳 하나는 피해자 지원이다. 성폭력 문제를 가해자 중심으로 보고 해결하려다 보니 ‘피의자를 특정해야 수사가 시작된다’라거나 ‘주동자를 잡으면 해결된다’ 등의 인식이 있다. 피해자 관점으로 법과 제도의 개편이 필요한 것 같다. 피해자가 증거 수집, 피의자 특정, 재판 대응 등을 다 해야 한다. 그 자체도 비용과 심리적 부담이 크다. 피해자가 신고하면 ‘원스톱’으로 수사 의뢰가 되고 수사·재판 과정에서 필요한 보호와 법률 지원 등을 받을 수 있는 통합 지원체계가 필요하다.” 최윤이 “제가 접한 사례에 따르면 피해자 A씨는 경찰에 신고한 후 수사 과정에서 허위영상물에 나오는 인물이 본인이 맞는지 계속 확인하는 과정이 있었다고 했다. 영상 하나하나 보면서 확인하는데 본인 영상만 아니라 다른 사람의 영상을 보는 것도 괴로웠다고 했다. 피해자가 수사, 재판 과정에서 피해를 계속해서 말해야 한다. 그것 자체로도 피해가 된다. 피해자 통합지원센터를 만들어야 한다고 주장하는 이유다.” 현재 피해자는 여가부 산하 한국여성인권진흥원 디지털성범죄피해자지원센터(디성센터)와 수사기관에 피해 영상물에 대한 삭제 지원을 요청할 수 있다. 다만 디성센터나 경찰에는 플랫폼 사업자에 직접 삭제 요청을 할 수 있는 권한이 명확히 있지 않아 대개는 방심위를 통해야 하는 한계가 있다. 더욱이 2025년 정부 예산안에서 디성센터 예산은 올해 34억7500만원에서 32억6900만원으로 삭감됐다. 최지수 운영위원은 “피해자가 지금 얼마나 많고 어떤 어려움을 겪는지를 보면 사실 전 사회가 달려들어 이 문제의 해결에 나서야 한다. 해결하려면 돈(예산)을 써야 한다”고 했다. 최윤이 대표는 “정부가 이제 젠더 폭력 피해자 현실을 좀 마주하고 예산안 재편성을 통해서 실질적인 피해자 지원 및 보호 시스템을 구축해야 한다”고 말했다. -온·오프라인에서 젠더 폭력이 계속되는데, 무엇을 바꿔야 한다고 보나. 최지수 “여성이 피해자인 젠더 폭력 사건이 발생하면 ‘남성혐오’라는 프레임으로 젠더 갈라치기를 시도하는 사회·정치 문화도 바꿔야 한다. 범죄자 규모를 따지기도 하는데 어느 드라마에서 ‘모두가 즐겁게 놀던 모래판 위에 바늘 하나가 떨어지면 아무도 그 모래판에 올라가지 못한다’란 대사가 나온다. 바늘 몇 개 떨어졌느냐가 문제가 아니다. 구조적 성차별이 존재하는 사회라는 것을 직시하고 성평등한 사회를 만들어가는 걸 국가 과제로 삼아야 한다고 생각한다.” 최윤이 “(경남) 진주에서 머리 길이가 짧다는 이유로 편의점 여성 노동자에게 폭력을 가한 사건이 있었다. 이때 피해자를 돕던 남성도 폭력을 당했는데, 왜곡된 남성성을 거부하는 남성한테도 이 폭력은 갈 수 있는 것이다. 성차별이 존재하는 사회구조를 바꾸는 것이 근본적인 대책일 것이다. 당장은 경찰이 ‘가해자를 한 명도 빠짐없이 모두 잡겠다’고, 22대 국회가 ‘이 문제를 뿌리 뽑겠다’고 선언해야 한다. 가해자가 안심할 수 없게 해야 한다.”; 특집

일상 덮친 딥페이크, 빅테크 책임 어디까지?(2024. 09. 09 06:00): 2024. 09. 09 06:00 사회 김은성 기자; “표현의 자유와 범죄 방조는 달라, 빅테크 사회적 책임져야” “기술만으로 n번방 못 막아, 성착취 범죄 등 핀셋 규제 시급” n번방 사태가 생성형 인공지능(AI)과 만나 더 악랄하게 돌아왔다. 딥페이크(AI 기반 이미지 합성) 성범죄가 기업과 군대 등의 일터를 넘어 전국 초·중·고등학교까지 확산했다. 가디언과 월스트리트저널 등 주요 외신은 “몰카를 근절하려 분투한 한국이 이제는 딥페이크와 전투를 벌이고 있다”며 “한국이 세계적 (딥페이크 성착취물) 문제의 진앙”이라고 집중적으로 보도했다. AI 발전으로 딥페이크를 악용한 부작용 사태는 이미 ‘예견된’ 일이었다. 세계 각국은 작년 선거철을 맞아 딥페이크를 악용한 가짜뉴스 등으로 몸살을 앓았다. 한국도 지난해 12월 선거를 앞두고 딥페이크를 악용한 사례가 늘자 공직선거법을 개정해 선거운동 목적의 딥페이크 영상을 제작·편집·유포·상영·게시할 수 없게 했다. 정부와 국회의 관심은 선거에서 끝났다. AI를 악용한 딥페이크 성범죄가 발생해도 느슨한 제재와 처벌로 방치했다. IT(정보기술) 전문가들은 기술적인 접근만으로는 딥페이크 성범죄를 원천적으로 차단할 수 없는 만큼 교육을 비롯한 제도적 보완 조치가 선행돼야 한다고 입을 모은다. 아동 성범죄로 한정된 디지털 위장 수사 범위를 성인까지 확대하는 등의 실효성 있는 대책도 필요하다고 주문한다. 딥페이크 불법 생성물 탐지 기술은 사후 조치로 사전에 범죄를 예방하지 못하는 데다, 탐지 기술을 우회하는 신기술이 계속 발전하고 있어서다. ■ 단속 비웃는 텔레그램 흥행 신기록, 수사 응할까 지난 9월 5일 앱 분석 서비스 모바일인덱스에 따르면 성착취물 유포의 온상이 된 메신저 텔레그램의 국내 이용자가 지난 8월 역대 최대 규모로 급증했다. 8월 텔레그램의 월간 활성 이용자(MAU)는 347만1421명으로 전월 대비 31만1130명 늘었다. 2021년 앱 마켓 집계가 시작된 이후 최대 증가폭이다. 노이즈 마케팅과 호기심으로 이용이 급증한 것으로 추정된다. 특히 증가폭의 30%인 10만명이 10대 이하로 집계돼 딥페이크 범죄가 계속 이어질 수 있다는 우려도 나온다. 일부 온라인 커뮤니티 등에서는 “보안이 철저한 텔레그램 특성상 경찰 단속에 잡히지 않는다”, “한국 정치인들이 가장 많이 쓰고 있어 수사가 제한적일 수밖에 없다” , “잠깐 시끄럽다가 끝날 것”이라는 말이 나온다. 실제로 경찰은 수사의 어려움을 인정하면서 텔레그램의 성범죄 방조 혐의를 두고 내사에 착수했다. 텔레그램이 수사에 응할지는 미지수다. IT 업계 관계자는 “경찰의 집중단속에도 텔레그램 이용자가 급증하는 것을 보면, 수사에 응하지 않아도 한국서 사업을 하는데 불이익을 받을 게 없다고 판단할 것”이라며 “강력한 제재가 없는 한 ‘보안’을 경쟁력으로 내세우는 텔레그램이 전략을 바꾸지 않을 것으로 보인다”고 말했다. 이어 그는 “표현의 자유를 지키는 것과 범죄를 방조하는 것은 다른 차원의 문제”라면서 “안전이 보장된 서비스가 한국에서 지속가능성을 갖고 안착할 수 있다는 신호를 공적 규제로 보여줘야 한다”고 했다. 국회에서는 텔레그램 같은 빅테크 기업에 불법 콘텐츠 삭제 의무를 부여하는 내용의 법안들이 발의되고 있다. 딥페이크 성착취물 제작을 사전에 막는 게 사실상 불가능한 만큼 유통 진원지인 빅테크 기업에 범죄를 방조하지 않도록 사회적 책임을 지우자는 것이다. IT 업계 관계자들 말을 종합하면 폐쇄형 이미지 생성 AI는 프롬프트 입력 단계에서 부적절한 단어 차단 등으로 사전 필터링을 하거나, 생성 단계에서 불법 콘텐츠를 일부 차단할 수 있다. 반면 오픈소스(개방형) 방식을 채택한 딥페이크 생성과 합성은 막을 방법이 아직 없다. 오픈소스 AI 모델은 기술의 발전과 함께 누구나 쉽게 몇번의 클릭으로 딥페이크 성착취물을 만들 수 있게 했다. 기술의 고도화로 딥페이크는 얼굴과 목소리까지 위조해 진짜와 가짜를 구분하기조차 쉽지 않다. 누구나 자신의 피해 사실조차 모른 채 다양한 딥페이크 범죄의 표적이 될 수 있어 심각성이 크다. 딥페이크 성착취물 생성 방지와 출처 확인을 위해 AI 생성물에 워터마크(표식) 부착을 의무화하는 기술이 개발되고 있지만, 워터마크를 지우는 AI 기술도 빠르게 발달하고 있다. 또 범죄자가 작정하고 만들어 유포하는 악의적인 생성물엔 워터마크가 들어갈 수 없는 한계가 있다. IT 보안업계 관계자는 “AI로 만든 불법 콘텐츠를 사전에 검사해 걸러내는 것도 AI로, AI와 딥페이크 모두 가치 중립적인 기술”이라며 “디지털 공간이라는 특성상 사람이 악의적으로 만든 불법 콘텐츠를 사전에 막는 건 불가능해 기술이 범죄에 쓰이지 않게 제도를 정비하고 유통을 차단하는 방향으로 가야 한다”고 당부했다. 지난 8월 30일 대구 수성구 시지중학교에서 학교전담경찰관(SPO)이 학생들을 대상으로 딥페이크 성착취물 범죄 예방 교육을 하고 있다. 연합뉴스 ■ 탐지 AI 있지만 한계, 빅테크 법적 개입 근거 필요 미국과 영국 등 주요 국가들은 빅테크에 대한 법적 의무를 강화하고 있다. 빅테크 기업들이 성착취물 방치로 사람들을 끌어모으며 광고 수익을 올리고 있는 만큼 불법 콘텐츠 유통에 책임을 져야 한다는 취지다. 미국에서는 빅테크 기업의 본고장인 캘리포니아를 비롯해 27개 주 정부에서 딥페이크를 규제하는 법안을 마련했다. 영국은 빅테크 기업에 아동 안전을 위협하는 콘텐츠가 게재된 사실을 알고도 적절한 조처를 하지 않으면 경영진 개인을 처벌할 수 있도록 한 온라인 안전법을 지난해 제정했다. 유럽연합(EU)과 프랑스 등은 이미 법을 제정해 플랫폼에 불법·유해 콘텐츠에 대한 삭제, 감시, 감독 의무를 부과했다. 프랑스가 파벨 두로프 텔레그램 창업자를 지난 8월 체포한 것도 법적 근거가 있어서 가능했다. 프랑스 검찰은 미성년자 성착취물과 관련한 사건을 수사하면서 텔레그램에 용의자 신원을 알려달라고 요청했지만, 텔레그램이 응답하지 않자 지난 3월 두로프에 대한 체포영장을 발부했다. 한국은 앞선 국가들처럼 해외 빅테크 사업자에게 책임을 물을 수 있는 법적 근거가 없다. 그간 한국은 미국과 외교 분쟁 우려 등으로 빅테크 기업에 대한 규제 법안을 마련하지 못했다. 또 텔레그램처럼 국내에 대리인이나 사무소가 없는 국외 사업자에게는 콘텐츠 삭제를 요청할 수 없다. 다만 공직선거법에 한해 선거일 90일 전부터 선거일까지 딥페이크 영상 등을 제작, 편집, 유포, 상영 또는 게시하는 행위를 금지하고 있을 뿐이다. 딥페이크 성착취물의 유통을 제한하거나 플랫폼이 의무적으로 자체 삭제하도록 하는 법은 없다. 김명주 서울여자대학교 정보보호학부 교수(국제인공지능윤리협회 회장)는 “해외 빅테크 기업들이 범죄를 방조하고 그에 따른 막대한 광고 수입 등으로 돈을 버는 영리행위를 하는 만큼 불법 콘텐츠 유통에 책임을 촉구할 필요가 있다”면서도 “다만 국내 플랫폼의 경우 자율 규제로 사전에 불법 콘텐츠가 걸러져 국내 기업들이 피해를 보지 않도록 정교한 접근이 필요하다”고 말했다. 딥페이크 성범죄 문제가 심각한 만큼 국회와 업계 전문가들의 합의를 이끌어낼 수 있는 최소한의 ‘원포인트 입법’ 부터 속도감 있게 진행해야 한다는 주문도 나왔다. 임종인 고려대학교 정보보호대학원 명예교수(대통령실 사이버 특별보좌관)는 “방심위가 불법 콘텐츠 삭제를 요청하려 해도 법적 근거가 있어야 빅테크 기업이 협력을 한다”며 “표현의 자유를 침해한다는 논란에 휩싸이지 않도록 아동성착취와 리딩방 사기 등 모두가 인정하는 사회적 범죄에 대한 영상을 규제하는 원포인트 법을 만들고 향후 보완작업을 해야 한다”고 말했다. 이어 “한국은 시장 규모가 작아 텔레그램 접속 금지 등의 제재를 해도 실효성이 없다. 아동 성범죄로 한정된 디지털 위장 수사 범위를 성인까지 확대하는 등의 실효적인 대책도 필요하다”며 “한국에 대리인을 둬 접촉 창구를 만들도록 강제하고 국제 사회와 공동 대응하는 방안 마련도 시급하다”고 주문했다. AI 기술 발전을 막을 수 없는 만큼 이용자의 의식 전환 교육이 먼저라는 지적도 나온다. 김명주 교수는 “국회는 입법을 미뤘고 법원은 집행유예 등의 느슨한 처벌로 딥페이크 성범죄의 위험성을 방치했다. 어른과 국가의 직무 유기 속 피해자인 10대들이 아무 교육 없이 AI에 노출돼 딥페이크 참사가 빚어졌다”며 “아이들은 물론 기술을 모르는 학부모 등의 성인도 함께 디지털 윤리에 대한 교육을 받아야 피해가 확산하지 않을 것”이라고 강조했다.; 특집

[꼬다리] ‘딥페이크 피해 학교 지도’가 보여주는 것(2024. 08. 30 16:00): 2024. 08. 30 16:00 사회 박채영 기자; ‘딥페이크 피해 학교 지도’에 딥페이크 피해를 당한 것으로 추정되는 학교들이 표시돼 있다. 온라인 화면 캡처 ‘내 주변에서도 범죄가 발생할 수 있구나’라는 생각이 처음 든 것은 스무 살 때였다. 재수 학원에 다닐 때였는데, 옆 반 담임 강사가 학생들을 불법 촬영한 혐의로 경찰에 잡혀갔다. 사건은 ‘강남 유명 학원 강사 여학생 몰카’라는 기사로 짧게 보도됐다. 그전까지 나에게 범죄는 <그것이 알고 싶다> 같은 심각한 방송 프로그램에서나 보던 예외적이고 흉악하고 비일상적인 무언가였는데, 기사에서 다뤄지는 디지털 성범죄 사건이 매일매일 가는 학원에서 벌어진 것은 충격이었다. 사건은 또 있었다. 고등학교를 졸업한 지 몇 년 지난 때였다. 갑자기 만들어진 고등학교 여자 동창 단톡방에서 나쁜 소식이 전해졌다. 우리가 학교에 다녔던 그 기간에 학교 기숙사를 불법 촬영한 사람이 있었고, 그 영상이 지금 온라인에 돌아다니고 있다는 것이었다. 화가 났고 무서웠다. 무엇보다 3년 동안 먹고 자며 집처럼 지낸 기숙사에서 불법 촬영 사건이 벌어졌다는 사실에 기함했다. 내가 10대와 20대를 특별히 범죄에 취약한 환경에서 보냈다고 생각하지는 않는다. 일상 속에서도 범죄는 예상치 못한 지점에서 불쑥불쑥 나타났다. 성인이 돼서 주변 친구들과 이야기하고, 기자로서 여러 사건을 목격하면서 디지털 성범죄가 평범한 사람의 일대기에 무작위로 불쑥 끼어드는 경험이 꽤 흔하다는 것도 알게 됐다. 최근 딥페이크 성착취물 사건을 보면서 이런 생각을 굳히게 된다. 몇몇 대학교에서 먼저 드러난 딥페이크 성착취물 피해가 초·중·고등학교, 군대, 가정에서도 발생했다는 폭로가 나오고 있다. 10년도 넘게 지났는데 여성들의 지극히 일상적인 공간에서 디지털 성범죄가 발생하는 상황은 달라지지 않았다. 카메라에서 인공지능(AI)으로 도구와 방법만 바뀌었을 뿐이다. 소셜미디어 엑스(X·구 트위터)에서 딥페이크 피해가 발생한 학교 리스트가 공유되고, ‘딥페이크 피해 학교 지도’까지 만들어진 것도 봤다. 지도에 표시된 피해 학교는 제보를 통해 수집된 거라 정확하지 않다고 하지만 500개가 넘는다. 조그만 땅덩어리를 그린 지도에 빽빽하게 피해 학교가 표시된 것을 보고 암담해졌다. 피해 학교 지도를 만드는 것이 바람직한지 아닌지를 떠나서, 그 지도야말로 “언제 어디서든 디지털 성범죄가 발생할 수 있다”는 말을 그대로 보여준다고 생각한다. 그래도 “언제 어디서든 디지털 성범죄가 발생할 수 있다”는 말이 “피해자가 평소에 더 조심했어야 한다”는 결론으로 이어지거나 여성들을 불안하게 만드는 말로 쓰이지는 않았으면 한다. 마음 놓고 쉬어야 하는 집이나 길게는 하루의 절반 가까운 시간을 보내는 직장이나 학교에서 뭘 어떻게 어디까지 조심할 수 있는지 감도 안 잡히기 때문이다. 이 말이 부디 모두의 일상을 위협하는 디지털 성범죄를 경각심을 가지고 몰아내는 데 쓰였으면 좋겠다. N번방 사건 때도, 그리고 이제는 잊힌 수많은 디지털 성범죄 사건이 드러날 때마다 매번 지겹게 하는 이야기이지만 말이다.; 꼬다리

딥페이크가 만들어낸 두 얼굴의 시대(2020. 10. 16 15:48): 2020. 10. 16 15:48 경제 김태훈 기자; 김정은 북한 국무위원장과 블라디미르 푸틴 러시아 대통령, 전·현직 미국 대통령인 버락 오바마와 도널드 트럼프까지. ‘딥페이크(deepfake)’ 영상에 나오는 주인공들이다. 인공지능을 이용해 특정인의 얼굴을 다른 화면에 덧입혀 디지털 영상을 위조하는 이 기술을 활용하면 각국의 지도자가 실제로 말하고 움직이는 듯이 꾸밀 수 있다. 살아 있는 사람들만 가능한 것도 아니다. 살바도르 달리나 앤디 워홀 등 이미 세상을 떠난 예술가의 얼굴도 딥페이크 기술로 재현해 생생하게 살아 있는 것처럼 보이게 한 시도 역시 눈길을 끈 바 있다. 기술의 발달로 생활의 모든 영역에서 진짜 얼굴과 가짜 얼굴의 차이를 눈여겨봐야 하는 시대가 온 것이다. 디즈니연구소가 공개한 고해상도 딥페이크 영상. 윗줄 가장 왼쪽의 배우 얼굴에 아랫줄 배우들의 얼굴을 덧입힌 영상을 나란히 제시하고 있다. / 디즈니연구소 지난 9월 29일 미국 비영리단체 리프리젠트어스(RepresentUs)가 유튜브에 올린 영상에는 김정은 국무위원장이 “민주주의는 선거가 실패하면 사라지고 마는 취약한 것”이라고 말한다. 누구나 김정은 위원장의 얼굴이란 걸 알 수 있지만 여기 나오는 그의 얼굴과 행동은 진짜가 아니다. 단지 얼굴만 덧씌워 합성한 티가 나는 것도 아니고, 표정과 목소리까지 실제에 가깝게 구현하기 때문에 얼핏 봐선 부자연스러운 점을 찾기 힘들다. 해당 단체는 미 대선을 앞두고 투표를 독려하려는 목적으로 이 영상을 만들어 공개했다. 앤디 워홀 등 예술가 얼굴 생생히 재현 현실의 인물을 등장시켜 가공하는 딥페이크 기술과는 다소 다르지만, 컴퓨터그래픽으로 가공한 가상의 인물을 만들어내는 기술까지 포함하면 그 발전상은 놀랍다. 글로벌 가구·생활용품 기업인 이케아의 일본 하라주쿠점 모델 ‘임마(IMMA)’는 젊은 여성의 모습을 본뜬 가공의 인물이다. 해당 업체의 가구로 둘러싸인 집에서 자연스럽게 생활하는 모습을 표현한 사진 같은 광고 그림들은 모두 컴퓨터그래픽으로 만들었다. 다양한 동작부터 머리카락 한올까지 섬세하게 재현한 이 가상모델은 이미 전 세계에서 유명해져 소셜미디어(SNS)에 팬들까지 생긴 인플루언서가 됐을 정도다. 딥페이크 기술은 인공지능으로 사람의 얼굴 윤곽과 표정 변화를 학습해 다른 새로운 영상에 적용시킬 수 있다. 보다 정교하고 사실적으로 보이려면 본뜨는 대상의 다양한 얼굴 사진이나 영상이 필요하다. 그래서 연예인이나 정치인 같은 유명인의 얼굴일수록 활용도가 높다. 영화와 음반 제작 등 엔터테인먼트 분야에서 주로 활용되고 있는 것도 이 때문이다. 새롭게 촬영할 필요 없이 기존의 자료를 편집·합성하면 배우나 모델의 몸값을 절감하면서도 새로운 영상물을 만들어낼 수 있다. 이전까지는 상상에 머물렀거나 조악하고 단편적인 수준에 그쳤던 얼굴 합성이 실제 영상으로 구현되는 양상은 빠른 속도로 이뤄지고 있다. 미국의 디즈니연구소는 지난 6월 100만 픽셀급으로 해상도를 높인 딥페이크 영상을 공개하며 상업영화에 딥페이크 기술을 적용할 가능성을 선보인 바 있다. 해상도가 낮아 큰 화면에서는 티가 날 수밖에 없던 한계를 극복할 수 있게 되면서 예견된 변화도 있다. 나이가 들거나 세상을 떠나 지금은 재현할 수 없는 배우들의 예전 모습을 머지않아 영화에 자연스럽게 등장시킬 수 있게 된 것이다. 그러나 현재로서는 딥페이크의 순기능보다는 역기능이 더욱 부각된 상태다. 국내에서는 성착취 영상을 공유한 혐의로 재판을 받고 있는 ‘박사방’ 운영자 중 한명인 강훈(18)이 여성인 지인의 사진을 나체 사진과 합성해 유포한 혐의로도 수사를 받았다. 또 200여명에 이르는 국내 연예인을 포함한 딥페이크 1000여건이 해외에 서버를 둔 사이트 등에서 공유되고 있어 경찰이 수사에 들어가는 등 피해는 점차 늘고 있다. 가까운 일본에서도 이달 초 딥페이크를 이용한 가짜 음란물 영상을 만들어 유포한 혐의로 피의자 2명이 체포된 바 있다. 네덜란드 사이버 보안기업 ‘딥 트레이스’가 발표한 보고서를 보면 지난해 이 회사가 확인한 딥페이크 사진·영상은 1만4678건으로, 전년 대비 84% 급증했다. 이 가운데 96%가 유명 할리우드 여배우 등의 얼굴을 음란물 영상에 끼워 넣어 만들어진 것으로 파악됐다. 문제는 발전한 기술을 누구나 쉽게 쓸 수 있는 여건이 만들어지며 세계적으로 이런 성착취 성격의 영상들이 늘어나고 있다는 데서 심각성을 더한다. 최근 출시되고 있는 컴퓨터 그래픽처리장치(GPU)가 높은 성능에 비해 전보다 낮은 가격으로 인기를 끌고 있는 상황도 딥페이크가 누구나 쉽게 접근할 수 있는 기술로 자리 잡는 배경이 되고 있다. ‘생성적 적대 신경망(GAN)’이라 불리는 인공지능 기술은 영상에서 움직이는 장면뿐 아니라 음성 변조 등에도 폭넓게 활용될 수 있다. 누구나 쉽게 접근할 수 있게 공개된 프로그래밍 소스를 이용해 영상을 조작할 수 있고, 프로그래밍 언어를 모르더라도 조작된 영상을 바로 내려받을 수 있는 웹사이트까지 등장했을 정도여서 대중화되는 속도도 빠르다. 딥페이크 영상 제작·배포 처벌 대상 현재까지는 일반인의 얼굴 사진이나 음성은 인공지능이 충분히 학습할 만큼 데이터가 축적되지 않아 딥페이크에 악용된 예가 적었지만 이러한 변화에 따라 평범한 사람들도 자신의 얼굴이 악용될까 걱정할 때가 닥칠 수도 있다. 관련 정책 전문가들이 가장 우려하는 대목 중 하나도 이 부분이다. 음성통화로 시도하는 보이스피싱을 넘어 영상통화로 지인의 얼굴과 목소리를 전달하며 돈을 입금하라고 요구할 경우 이러한 사기 방법을 피할 대책이 뾰족하게 나와 있지 않다. 게다가 단 한장의 사진으로도 딥페이크 영상을 만들어내는 기술이 나오고 있어 기술 분야 기업은 물론 정부로서도 선제적으로 대책을 내놔야 한다는 목소리가 높다. 김유향 국회입법조사처 과학방송통신팀장은 “딥페이크의 가장 큰 위험은 일반 국민은 물론 정부도 무엇이 진짜 또는 가짜인지를 식별할 수 없는 상황이 될 수도 있다는 것”이라며 “정부 차원에서도 사용자 활용 허위동영상 판정 도구 배포 등 기술적·정책적 노력이 이뤄져야 한다”고 밝혔다. 창과 방패의 싸움이 된 딥페이크 영상 제작과 진위 감별 기술개발의 대결은 기본적으로 같은 기술적 토대를 바탕으로 하고 있다. 딥페이크 인공지능이 ‘진짜 같은 가짜’ 영상을 더욱 정교하게 만들도록 학습되는 반면, 딥페이크 탐지 인공지능은 가짜 영상에서 어떤 부분이 편집되었는지를 학습하게 되는 차이가 있을 뿐이다. 마이크로소프트나 구글이 탐지 도구를 개발하고 탐지용 데이터베이스를 구축하는가 하면, 페이스북과 트위터는 해당 플랫폼을 통해 유포되는 게시물들을 찾아 삭제하는 조치를 시행하고 있다. 과학기술정보통신부도 ‘AI 학습용 데이터 구축사업’의 주요 과제 중 하나로 딥페이크 탐지용 인공지능을 개발하는 사업을 진행한다. 영상 변조에 활용된 알고리즘을 파악해 이를 기반으로 만들어진 영상을 탐지하고 원본 및 딥페이크 영상 데이터베이스도 구축하는 것이 목표다. 이전까지는 처벌 대상이 아니었던 딥페이크 영상 제작·배포 행위가 성폭력범죄 특례법 개정안에 따라 지난 6월부터 처벌 대상이 된 점도 과거와는 달라진 점이다. 하지만 딥페이크 기술이 가져올 역기능은 줄이고 순기능을 강화하기 위한 보다 진전된 대책을 요구하는 목소리도 높다. 이승환 소프트웨어정책연구소 책임연구원은 “딥페이크 기술은 명과 암이 존재하나 현재 부정적인 인식이 더 강해 이를 고려한 정책수립이 요구된다”며 “정부는 딥페이크 산업 활성화를 고려한 정책조합을 구상하는 동시에 모니터링을 강화하고 자율규제나 입법규제, 과징금 부과 등 다양한 수준의 규제를 고려할 필요가 있다”고 지적했다.

[알아두면 쓸모있는 과학](16) 진짜 같은 가짜 영상 만드는 ‘딥페이크’(2020. 04. 06 15:13): 2020. 04. 06 15:13 문화/과학 목정민 과학칼럼니스트; 피해자를 협박해 음란 동영상을 찍게 한 뒤 이를 공유한 n번방 운영자 조주빈이 경찰에 체포됐습니다. “멈출 수 없던 악마의 삶을 멈춰줘서 감사하다.” 조씨가 검찰에 송치되면서 남긴 말입니다. ‘그들’은 피해자들을 성착취한 영상을 한낱 유흥거리로 즐겼습니다. 가까운 친구가 가해자로 둔갑하기도 했습니다. 가해자는 지인의 영상을 음란물과 합성했습니다. 이렇게 만들어진 ‘지인 능욕 영상’을 n번방에 공유한 것으로 알려져 있습니다. 이 영상을 만드는 데 사용된 기술은 최근 사회문제로 대두되고 있는 ‘딥페이크(deepfake)’입니다. 인공지능을 이용해 디지털 영상을 감쪽같이 위조하는 기술입니다. 미국 코미디언 빌 헤이더(위 사진)가 토크쇼에 나와 배우 아널드 슈워제네거의 성대모사를 하는 동안 얼굴이 조금씩 변해 몇 초 만에 슈워제네거의 얼굴로 변하는 딥페이크 영상 / 유튜브 캡처 딥페이크 기술이란? 미국 매사추세츠공대가 발행하는 기술분석 잡지 <MIT 테크놀로지 리뷰>는 지난해 초 가장 조심해야 할 인공지능의 위험요소 중 하나로 딥페이크 기술을 지목했습니다. 사람이 정보를 조작하는 수준을 넘어 인공지능의 힘을 빌려 진짜 같은 가짜 정보가 범람하는 세상이 올 수 있다는 이유에서였습니다. 일각에서는 딥페이크 기술의 발전으로 ‘진실의 종말’ 시대가 올 것이라는 비관적 전망도 내놓고 있습니다. 딥페이크란 AI 기술인 딥러닝의 ‘딥(deep)’과 가짜라는 뜻의 ‘페이크(fake)’를 합친 단어입니다. 특정 인물의 얼굴과 신체 부위를 전혀 다른 영상과 합성하기 위해 딥러닝이라는 AI 기술과 안면 매핑(facial mapping), 안면 스와핑(face-swapping) 기술을 복합적으로 이용합니다. 딥페이크는 ‘생성적 적대 신경망(GAN)’이라는 AI 기술이 세상에 나오면서 등장했습니다. GAN은 이미지의 진위를 판단하는 ‘감별자’ 알고리즘과 이미지를 만들어내는 ‘생성자’ 알고리즘을 대립시켜 영상을 조작하는 원리입니다. AI는 대립을 통해 원본과 조작 영상물의 오차를 최대한 줄여나갑니다. 화폐 위조범과 경찰에 비유해볼까요. 위조범이 만든 가짜 화폐를 경찰이 단속합니다. 그러면 화폐 위조범은 더욱 정교하게 가짜 화폐를 만들게 됩니다. 경찰도 더욱 고도화된 수사기법으로 가짜 화폐를 적발해냅니다. 둘은 쫓고 쫓기는 경쟁을 하고 이 과정에서 가짜 화폐는 점점 고도화됩니다. 딥페이크를 통한 가짜 영상도 이와 비슷한 원리를 따릅니다. 가짜 이미지 제작 기술은 오래전부터 있었습니다. 과거 이미지는 수작업으로 편집됐기 때문에 확대하면 조작한 티가 났습니다. 그런데 영상편집 기술이 AI 기술인 GAN과 만나자 진짜와 가짜를 감별해내기가 어려워졌습니다. AI는 합성하고자 하는 얼굴의 모습이나 표정이 다르더라도 알아서 자연스럽게 합성해주기 때문입니다. 딥페이크는 누구나 손쉽게 사용할 수 있는 기술이라는 점에서 위협적입니다. 딥페이크는 프로그래밍 소스가 공개돼 있습니다. 일정 수준 이상 프로그래밍 언어를 구사할 수 있는 사람이라면 가정용 컴퓨터로도 영상을 조작할 수 있습니다. 프로그래밍 언어를 모르더라도 조작된 영상을 바로 내려받을 수 있는 웹사이트까지 등장했습니다. 마음만 먹으면 영상을 손쉽게 만들어낼 수 있는 것입니다. 가짜 영상을 만들어 범죄로까지 악용할 수 있는 기술이 대중화되는 아이러니가 발생한 것입니다. GAN 기술은 날로 발전해 지난해에는 사진 한 장으로 동영상을 만들어내는 기술도 나왔습니다. 삼성전자와 모스크바 AI연구소는 사진 단 한 장만으로도 말하는 얼굴 동영상을 만들어낼 수 있는 신기술을 발표했습니다. 국내외에서 목소리를 위조하는 기술도 연구 중입니다. 가짜 영상과의 ‘동거’ 물론 딥페이크 기술은 잘만 활용되면 큰 이점을 가져다줄 수 있습니다. 그러나 이 기술이 악용될 때가 문제입니다. 가장 큰 우려는 누구도 무엇이 진짜인지 가짜인지 구별해낼 수 없다는 데 있습니다. 딥페이크가 더욱 확산되면 자신이 본 영상이 진짜인지 가짜인지 확신할 수 없게 될 것입니다. 특히 ‘사악한 속임수’를 의도하고 딥페이크 영상을 유포할 경우 개인의 사생활 침해는 물론 여론 조작까지 가능합니다. 딥페이크 영상은 국가안보 분야에서도 위협적인 요소로 거론됩니다. 실제 딥페이크로 제작된 가짜 영상이 인터넷상에서 논란이 된 사례가 많이 있습니다. 미국의 뉴미디어인 버즈피드는 오바마 전 미국 대통령이 “트럼프는 정말 쓸모없는 사람”이라고 말하는 영상을 게시했습니다. 이 영상은 딥페이크 영상의 파급력을 알리기 위해 오바마 전 미국 대통령과 코미디언의 목소리, 얼굴 모습을 합성한 가짜 영상이었습니다. 낸시 펠로시 하원의장도 딥페이크 영상 때문에 곤욕을 치렀습니다. 영상 게시자는 영상의 재생 속도를 의도적으로 조절했습니다. 그 결과 마치 낸시 펠로시 의장이 혀가 꼬여 말을 잘 못 하는 것처럼 보였습니다. 우리나라에서는 딥페이크로 조작된 음란 동영상이 특히 큰 문제가 되고 있습니다. 앞서 언급한 지인능욕방에 공유된 수많은 동영상이 대표적 사례입니다. 딥페이크로 만들어진 가짜 동영상이 얼마나 많은지 전 세계에 유통 중인 딥페이크 영상의 25%가 한국의 여성 연예인 영상과 합성된 것이라는 소름끼치는 조사 결과까지 나온 상황입니다. 딥페이크로 인한 피해자가 늘면서 개선의 목소리 또한 커지고 있지만 갈 길은 멉니다. 먼저 국내에는 딥페이크 규제 법안이 전무합니다. 지난해 10월 국회입법조사처에서 발표한 보고서는 “국회에 허위정보에 대한 법안 20여 건이 제출돼 있지만 딥페이크에 대한 대응은 부재한 상황”이라며 “딥페이크는 기존의 허위정보와는 차원이 다른 위험성을 내포하므로 기술적 정책적 노력이 필요하다”고 지적했습니다. 해외에서는 딥페이크를 막기 위한 탐지 기술 개발이 한창입니다. 미국은 국방부 산하 방위고등연구계획국(DARPA)에 미디어포렌식(MediFor) 팀을 구성해 딥페이크 콘텐츠를 확인하는 도구를 개발하고 있습니다. 딥페이크 영상이 눈 깜박임이 없다든지, 조명의 일관성이 없는 특징을 이용해 탐지하는 기술도 개발 중입니다. 그런데 딥페이크 탐지 기술이 가짜 영상을 모두 잡아낼 수 있을까요? 탐지 기술이 고도화되면 딥페이크를 이용한 조작 기술도 고도화될 것입니다. 앞서 언급한 쫓고 쫓기는 전쟁이 벌어지는 것이죠. 그 사이 영상으로 인한 피해는 고스란히 피해자와 영상으로 거짓 정보를 습득한 대중의 몫으로 남을 것입니다. AI라는 눈부신 과학기술이 인간의 거짓과 탐욕에 악용되는 현실은 참으로 씁쓸합니다. 현실 앞에서 우리가 제일 먼저 갖춰야 할 것은 거짓 동영상을 보더라도 이 영상이 진실인지 가짜인지를 비판적으로 생각해보는 미디어 리터러시 능력일 것입니다.; 알아두면 쓸모있는 과학

2020 미국 대선, ‘딥페이크’와의 전쟁이다(2019. 07. 05 15:18): 2019. 07. 05 15:18 국제 김재중 국제부 기자; ‘딥러닝’과 ‘페이크뉴스’를 합성한 딥페이크는 많은 비용이나 시간, 기술을 들이지 않고도 손쉽게 만들 수 있는 데다, 과거의 합성사진·동영상과는 비교할 수 없을 정도로 정교하다. 할리우드의 영화 제작자인 조던 필의 영상(오른쪽)에 버락 오바마 전 미국 대통령의 모습을 입혀 도널드 트럼프 대통령을 모욕하는 발언을 하는 것처럼 조작한 딥페이크 영상. / 유튜브 캡처 인공지능(AI)을 통해 정교하게 만들어져 진짜보다 더 진짜처럼 보이는 가짜 동영상이나 음성파일을 가리키는 ‘딥페이크’에 대한 경각심이 높아진 가운데 2020년 대선 레이스에 돌입한 미국 정치권과 언론계가 대책 마련에 부심하고 있다. 소셜미디어(SNS)가 일상화된 2016년 치러진 미국 대선이 ‘가짜뉴스’로 몸살을 앓았다면, 2020년 대선은 선정적인 내용의 딥페이크가 범람하면서 판세를 뒤흔들 수 있다는 우려가 퍼지고 있는 것이다. 특히 2016년 미국 대선 당시 러시아가 SNS를 통해 가짜정보를 유포하는 등 광범위하고 조직적으로 개입한 사실이 드러난 상황이어서 외부세력이 딥페이크를 악용해 의도적으로 개입할 수 있다는 경고도 나온다. 커지는 ‘딥페이크’ 경고음 미국 하원 정보위원회는 지난 6월 13일(현지시간) 딥페이크와 AI의 위험성을 논의하기 위한 청문회를 개최했다. 청문회에 증인으로 참석한 대니얼 시트론 메릴랜드대 로스쿨 교수는 “딥페이크의 유통은 개인과 사회에 폭발적인 영향을 미칠 잠재력을 지니고 있다”면서 “개인의 평판, 정치담론, 선거, 저널리즘, 국가 안보, 민주주의의 초석인 진실이 공격받을 수 있다”고 말했다고 <폴리티코>가 전했다. 청문회를 주재한 애덤 시프 하원 정보위원장도 “악의적인 인물이 딥페이크를 이용해 혼란과 분열, 위기를 조장할 수 있고, 이 기술은 대선을 포함한 선거운동 전체를 방해할 수 있다”고 말했다. 싱크탱크 외교정책연구소(FPRI)의 클린트 와츠는 구체적으로 러시아, 중국 등 미국에 적대적인 경쟁국들을 ‘잠재적 용의자’로 거론했다. “러시아와 중국, 그리고 다른 권위주의적 적대국 및 그들의 대리세력들은 자신의 국내외에 있는 반체제 및 비판세력의 신뢰도를 실추시키고, 서구식 민주주의에 공포와 갈등을 조장하며, 미국과 미국 동맹국 청중들이 접하는 현실을 왜곡하기 위한 허위정보 캠페인의 일환으로 딥페이크를 사용할 가능성이 높다.” 앞서 지난 1월 미국 ‘정보공동체’의 수장인 코츠 국가정보국장(DNI)도 크리스토퍼 레이 연방수사국(FBI) 국장, 지나 해스펠 중앙정보국(CIA) 국장, 로버트 애슐리 국방정보국(DIA) 국장 등과 함께 상원 정보위원회의 예산 관련 회의에 출석해 딥페이크에 대한 우려를 표명한 바 있다. “새로운 기술의 속도와 적응은 세계를 우리가 이해할 수 없는 방향으로 계속 몰고갈 것이다. 정보 공동체가 이 게임에서 앞서 가도록 하고 우리가 이런 위협에 대처할 수 있도록 자원을 확보하는 것이 중요한 도전이 되고 있다.” 딥페이크는 이세돌 9단과의 대국에서 완승을 거둔 인공지능 ‘알파고’를 통해 우리 귀에도 익숙해진 기계학습 방식인 ‘딥러닝’과 가짜뉴스를 뜻하는 ‘페이크뉴스’를 합성한 단어다. 딥페이크는 기계학습 모델 2개를 활용한 ‘생성적 적대 신경망(GAN)’을 통해 생성된다. 구글에서 기계학습을 연구하는 이안 굿펠로가 2014년 학술논문을 통해 처음 발표한 GAN은 기계학습의 패러다임을 획기적으로 바꿔놓았다고 평가받는다. 기계학습은 크게 지도학습과 비지도학습, 강화학습으로 나뉜다. 기존 기계학습은 정제된 데이터, 즉 정답을 최대한 많이 제공함으로써 인공지능이 스스로 학습할 수 있도록 하는 방식이라면, 비지도학습은 정답을 알려주지 않은 상태에서 스스로 학습토록 하는 방식이다. 예를 들어 개와 고양이를 구별하지 못하는 사람이 있다고 치자. 지도학습은 여러 가지 개와 고양이 사진에 각각 이름표를 달아 스스로 분류할 수 있도록 유도하는 방식이라면, 비지도학습은 어떤 사진이 개이고 어떤 사진이 고양이인지 구분하지 않은 사진들을 보여줌으로써 스스로 특징을 유형화할 수 있도록 한다. GAN은 ‘생성자’와 ‘감별자’라는 2개의 비지도학습 모델을 동원한다. 생성자는 기존 데이터를 가지고 그럴듯한 가짜 데이터를 만든다면, 감별자는 이 데이터가 진짜인지를 가려내는 학습을 한다. 두 모델을 계속해서 경쟁시키는 과정에서 생성자가 만들어낸 데이터의 품질은 더욱 높아진다. 미국 코미디언 빌 헤이더(위쪽)가 토크쇼에 나와 배우 아널드 슈워제네거의 성대모사를 하는 동안 얼굴이 조금씩 변해 몇 초 만에 슈워제네거의 얼굴로 변하는 딥페이크 영상. / 유튜브 캡처 이미 시중에는 이런 원리를 이용한 프로그램과 앱들이 유통되고 있다. 딥페이크라는 용어가 처음 등장할 무렵엔 주로 연예인의 얼굴을 합성한 그럴듯한 누드사진이나 포르노 동영상이 유통됐고, 이후 일반인의 얼굴을 입힌 조작 동영상이 소셜미디어 등에 등장했다. 장난삼아 올린 것이든, 특정인의 이미지를 깎아내리기 위해 만든 것이든 너무 정교하게 만들어진 가짜영상의 파장이 커지면서 사회문제로 대두됐다. 막오른 딥페이크와의 전쟁 물론 연예인이나 유명인의 얼굴을 패러디하거나 합성한 사진·동영상이 제작되고 유통된 역사는 매우 길다. 하지만 딥페이크는 많은 비용이나 시간, 기술을 들이지 않고도 손쉽게 만들 수 있는 데다, 과거의 합성사진·동영상과는 비교할 수 없을 정도로 정교하다. 그리고 보편화된 인터넷과 소셜미디어는 온라인에 등장한 자극적인 내용의 딥페이크를 실시간으로 전달한다. 딥페이크의 먹잇감이 된 사람이 허위임을 스스로 해명하거나, 미디어가 검증 결과를 내놓는다고 해봐야 사태는 이미 걷잡을 수 없이 확산된 이후가 될 가능성이 높다. 실제로 지난해 8월 워싱턴대 연구진이 딥페이크의 위험성을 보여주기 위해 제작한 버락 오바마 전 대통령의 딥페이크 동영상을 본 사람들은 경악했다. 그리고 올해 들어서는 민주당 낸시 팰로시 하원의장이 술에 취해 횡설수설하는 듯한 동영상이 트위터 등에 돌면서 파문을 일으켰다. 이 동영상은 딥페이크도 아니었고 그저 동영상 재생속도를 75% 수준으로 늦춘 것에 불과했는데도 사람들은 깜빡 속아 넘어갔다. 미국 정부는 국토안보부와 정보기관 등을 중심으로 딥페이크에 대처하기 위한 노력에 이미 돌입했다. 유력 주자 선거캠프에도 비상이 걸렸다. 미디어 분석 플랫폼인 ‘지그널 랩스’의 조시 긴즈버그는 <옵서버>와의 인터뷰에서 “누군가가 가정용 컴퓨터로 20달러를 들여 만든 딥페이크가 대선의 판도를 바꿀 수 있다면 정말 무서운 얘기”라고 말했다. 지그널 랩스는 대선주자 캠프들과 계약을 맺고 딥페이크와 가짜뉴스를 걸러내는 작업을 하고 있다. 기술적 대응도 시도되고 있다. 다트머스대의 이미지 포렌식 전문가인 해니 파리드 교수가 대표적이다. 그는 CNN과의 인터뷰에서 AI를 통해 딥페이크를 98%까지 식별해내는 기술을 개발했다면서 언론인 등을 위해 연말쯤 관련 툴을 공개할 예정이라고 밝혔다. 소셜미디어 플랫폼에 대한 규제 압력도 높아지고 있다. 애덤 시프 하원 정보위원장은 “지금이야말로 소셜미디어 기업들이 사용자들을 허위정보로부터 보호하기 위한 정책들을 마련해야 할 때”라고 강조했다. 소셜미디어 스스로 딥페이크를 걸러낼 기술과 기준을 마련해야 한다는 촉구인 것이다.

맨위로