주간경향(총 270 건 검색)

[이경전의 행복한 AI 읽기](19) 량원펑은 예수? 딥시크의 개방 통한 AI 혁명(2025. 03. 07 14:30)

2025. 03. 07 14:30 경제 이경전 경희대 경영학과·빅데이터 응용학과·첨단기술 비즈니스학과 교수

딥시크 로고 / 연합뉴스 딥시크닷컴(DeepSeek.com)에 접속해 어려운 문제 2개를 집어넣어 테스트해보았더니, 한 달에 20달러를 내야 하는 오픈AI의 챗GPT 플러스나 퍼플렉시티 프로 수준의 결과가 나왔다. 딥시크는 무료다. 그렇지만 개인정보가 걱정돼 단 두 번의 질문만 하고 로그아웃했다. 개인정보보호위원회(개보위)는 한국 스마트폰의 앱스토어에서 딥시크앱을 차단하고 제거하는 조치를 내렸다. 딥시크앱은 틱톡의 모회사 바이트댄스가 제공하는 앱으로 개발돼, 사용하는 족족 개인정보가 바이트댄스로 넘어간다. 바이트댄스로 넘어간 사용자의 개인정보는 언제든지 중국 공산당이 볼 수 있다. 개보위가 한국에서의 딥시크닷컴 접속도 차단해야 한다고 생각한다. 이미 150만명 이상의 사용자가 한국에서 사용했다는 소식이다. 많은 국민의 개인정보가 딥시크닷컴을 거쳐 중국 공산당에 넘어가는 것은 바람직하지 않다. 중국도 한국의 네이버닷컴이나 카카오톡서비스 접속을 방해하고 있기 때문에 피장파장이다. 기업 입장에서는 고마운 딥시크 그러면 딥시크는 안 쓰는 게 좋은가? 전혀 그렇지 않다. 딥시크는 V3, R1 등 최신 모델을 MIT 오픈소스로 제공한다. 즉 누구나 자기 회사의 유료나 무료 서비스에 사용할 수 있다. 단, 사용한다는 것을 표시해야 한다. 이미 미국, 한국 등 세계의 수많은 기업이 딥시크 모델을 사용하고 있다. 한국의 뤼튼은 카카오톡 플러스 친구에 딥시크를 적용했다. 카카오톡 친구찾기로 뤼튼과 카카오톡 플러스 친구를 맺어 질문하면, 딥시크 모델을 가동시켜 답변한다. 마음AI는 딥시크 모델을 활용한 내부망 전용 LLM을 출시했다. 여러 기업 입장에서는 딥시크가 너무 고맙다. V3, R1과 같은 수백억원, 수천억원 가치의 AI 모델을 그냥 공짜로 내주고, 상업적으로 얼마든지 사용할 수 있게 했으니 말이다. 오병이어의 기적을 일으킨 예수님과 비슷하다. 샘 알트먼 오픈AI CEO나 이준석 개혁신당 국회의원과 똑같이 1985년생인 량원펑은 중국 항저우 저장대 전자정보공학과 학부를 2007년에 졸업하고, 같은 학교 정보통신공학과 석사를 2010년에 졸업했다. 2008년부터 “인공지능이 세계를 변화시킬 것”이라고 떠들었고, 많은 사람에게 무시당했다고 한다. 2008년 미국발 금융위기 때 동문과 함께 금융 데이터 수집을 시작하고, AI 기반 퀀트 트레이딩 연구를 시작했다. 2010년에 대학원 졸업 후 대기업 입사 대신 청두에 있는 임대주택에 입주했고, 2008년부터 2014년까지 6년간 실패를 반복했다. 2011년엔 컴퓨터 비전을 활용한 온실 환경 제어 IoT 시스템을 구축하는 스마트 농업 솔루션으로 시범 사업까지 갔다가, 농민들이 사용하기 어려워 실패한다. 2012년 말에는 드론 분야 세계최고 기업 DJI의 영입 제안도 거절한다. 2015년 중국의 주식시장이 폭락하자 동문과 퀀트 투자회사 High-Flyer(幻方·환팡)을 설립한다. 2016년 첫 AI 모델을 출시하고, 2018년 AI를 주요 발전 방향으로 설정한다. 2019년부터 엔비디아 GPU(그래픽처리장치) 클러스터 구축을 시작한다. 2억위안을 투자해 GPU 1100장을 탑재한다. 2021년 1만장 GPU 구축에 2000억여원을 투자한다. 퀀트 투자를 위해서라면 GPU 몇대만으로 충분했다고 하는데, 환팡의 클러스터 평균 점유율은 96%라고 한다. GPU를 풀가동할 만큼 각종 연구를 활발하게 하고 있는 것이다. 창업 4년 만인 2019년, 환팡은 약 2조원의 자산을 운용하는 중국 최대 퀀트 펀드 중 하나로 성장한다. 2021년에는 20조원을 운용하면서 평균 수익률에 비해 20~50%를 초과하는 수익을 내며 퀀트 업계의 천재, 중국 퀀트의 사대천왕으로 등극한다. 그런데 2021년 중국 개미들의 돈을 빨아가는 퀀트투자회사들에 대한 반감이 커지자 중국 당국은 고빈도 트레이딩과 공매도에 대한 단속을 강화한다. 2021년 말, 환팡은 투자자들의 추가 납입을 제한하고, 오히려 자금 운용규모를 1조원 이상 스스로 축소한다. 퀀트 규제로 인해 새로운 선택을 할 수밖에 없었던 것이다. 2023년 5월 량원펑은 딥시크 AI를 환팡의 자회사 형태로 창업하고 8개월 만인 2024년 1월 V1을, 2024년 5월 V2를 출시해 전문가들의 주목을 받는다. 2024년 12월 V3를 출시하고, 1개월 만에 이를 업그레이드한 R1을 출시하면서 모델의 가중치를 다 오픈해 세계를 놀라게 한다. 새로운 문화와 생각으로 무장한 새로운 존재 중국의 딥시크를 저가의 짝퉁이나 만드는 회사로 생각하면 큰코다친다. 딥시크는 ‘가장 중요하고 어려운 일을 하자’는 것이 문화다. 퀀트 투자도, 지금 인공지능에 도전하는 것도 그것이 중요하고 어려운 일이기 때문이라는 것이다. 어떻게 문제를 해결할까에 집중한다. 사장 본인이 매일 코드를 짜고 실행한다. 학력보다 역량을 우선한다. 핵심 기술은 주로 신입이나 경력 1~2년 된 사람을 뽑아 도전한다. 시간과 돈이 많이 든다고 해도 새로운 문제에는 새로운 해답이 필요하기 때문이란다. 혁신은 자연스럽게 발생하고, 계획되거나 가르칠 수 있는 것이 아니기 때문에 가능한 한 적은 개입과 관리가 필요하고, 탐구할 공간과 실수를 허용할 자유를 제공하는 문화를 가지고 있다. 인재를 채용할 때 회사와 인재의 가치가 일치하는지를 보고, 그러한 문화를 통해 방향을 유지한다. 딥시크는 순수한 호기심에서 비롯된 집단이라고 주장한다. 특정 분야를 정해서 응용 연구와 탐구에 집중한다. 량원펑은 진정한 혁신은 상업적 인센티브뿐만 아니라 호기심과 창조의 욕구에 의해 추진된다고 주장하며, 존경을 받기 위해 딥시크 R1을 개방했다고 주장한다. 그는 R1을 세상에 무료로 완전 개방함으로써 진짜 존경을 받고 있다. 일찍이 GPU에 투자한 것도 금융시장을 완전히 설명 가능한 패러다임과 광범위한 적용 가능성을 찾기 위한 것이었다면서 “절실할 만큼 야망을 품고 절실할 만큼 진실하라”는 영화감독 프랑수아 트뤼포의 말을 인용한다. 량원펑은 AI 개발을 위한 자금 조달 방식에 대해서도 깊은 고민을 한 듯하다. 벤처캐피털(VC)은 결국 투자액회수를 통해 투자한 자금을 최대한 빨리 돌려받아야 하기 때문에 자신의 거대한 꿈에 VC가 투자하기를 꺼린다는 것을 알고 있었다. 그래서 AI 연구 자금은 환팡에서 지원받고, 부족한 것은 기술 기부금으로 충당한다. 단기적인 자금 조달 계획은 없다고 한다. 기초 모델과 최첨단 혁신에 집중할 것이며, 다른 기업들이 딥시크의 기반 위에서 B2B와 B2C 비즈니스를 구축할 것이라고 주장한다. 량원펑은 소수의 기술 독점을 반대하고, 딥시크의 개방전략이 장기적으로 더 많은 돈을 벌 수도 있다고 주장한다. 오픈소스와 논문 발표는 무언가를 잃기만 하는 것은 아니며, 기술자들에게 성취감이 따라온다는 것이다. 오픈소스는 상업적 행위보다 문화적 행위로, 독특한 문화를 조성해 인재를 끌어들인다고 믿는다. 25년 전 닷컴 열풍 시절 사람들은 구글, 페이스북 등 인터넷 기업이 수익 모델이 없어서 거품이라고 했지만, 지금은 커다란 플랫폼이 됐다. 15년 전 카카오톡이 나왔을 때도 카카오는 망할 거라고들 했지만, 카카오는 플랫폼이 됐다. 딥시크의 오픈소스 전략 역시 지금 이해하기 어려운 비즈니스 모델이지만, 세상을 뒤흔들고 있다. 딥시크는 새로운 문화와 생각으로 무장한 새로운 존재다.

이경전의 행복한 AI 읽기

[이경전의 행복한 AI 읽기] 한국 로봇 산업, 미·중 이은 세계 3강 향해야(2025. 01. 24 15:00)

2025. 01. 24 15:00 경제 이경전 경희대 경영학과·빅데이터 응용학과·첨단기술 비즈니스 학과 교수

미국 애질리티 로보틱스의 휴머노이드 로봇 디지트 / 애질리티 로보틱스 홈페이지 캡처 지난 1월 10일 막을 내린 세계 최대 가전·IT 전시회 ‘CES 2025’에서 현란하게 움직이는 휴머노이드(인간형) 로봇(이하 휴머노이드)들이 큰 주목을 받았다. 그런데 화제가 된 이 휴머노이드들의 움직임은 자율적인 게 아니었다. 리모트 컨트롤(원격조종)에 따르거나, 미리 프로그래밍이 된 움직임이었다. 중국 항저우에 있는 기업 유니트리의 현란한 이족보행 로봇 G1도, 역시 항저우에 있는 딥로보틱스의 바퀴 달린 4족 로봇 산마오(중국어로 야생고양이)의 다소 좌충우돌하는 움직임도 모두 원격조종이다. 미국 오리건주에 있는 애질리티 로보틱스의 휴머노이드 디지트는 독일 셰플러 부스와 미국 액센추어 부스에서 창고 작업 기능을 시연했다. 반복적이고 체력 소모가 큰 작업을 대신 수행함으로써 인력 부족 문제를 해결하고자 한다. 텍사스주 오스틴 소재 앱트로닉의 휴머노이드 아폴로는 텍사스 인스트루먼츠의 부스에서 시연했다. ‘눈’에 내장된 카메라가 고급 시각 인식 기능을 갖추고 있어 생산 시설에서 부품과 구성품의 검사, 정렬 작업을 수행할 수 있다. 유니트리의 G1이나 딥로보틱스의 산마오는 대규모 언어모델(LLM)이 내장되지 않아 사람의 말을 듣고 복잡한 행동을 수행하기 어렵다. 이들 로봇은 주로 시각적 데이터나 사전 정의된 작업에 따라 일한다. SPR(특수 목적 로봇)이라 부를 수 있는데, 중국은 이번 CES 2025에 SPR만 몇 개를 내놨다. 중국의 인공지능과 기술 수준 무시 못 할 상황 중국은 베이징에서 2025년 4월에 세계 최초의 휴머노이드 마라톤을 개최한다. 베이징 다싱 지역에서 열리는데 인간과 휴머노이드가 하프 마라톤에 함께 참가한다. 약 1만2000명의 인간 참가자와 수십 대의 휴머노이드가 경쟁할 예정이라고 한다. 참가 로봇은 인간과 유사한 형태로 이족 보행을 할 수 있어야 하고 바퀴가 있는 로봇은 참가할 수 없다. 원격조종 로봇과 완전 자율형 로봇 모두 참가 자격이 있으며 배터리는 경주 중 교체가 가능하다. 오는 8월에 베이징에서는 ‘세계 휴머노이드 스포츠 게임(World Humanoid Robot Sports Games)’이라는 스포츠 이벤트가 개최될 예정이다. 주요 종목에 육상, 축구, 종합 기술 및 응용 시나리오가 포함된다. 중국이 로봇 공학 분야에서 선도적인 위치를 강화하려는 노력의 일환이다. 앞서 로봇 축구 대회는 한국이 세계 최초로 개최했다. 1996년, KAIST(한국과학기술원)의 김종환 교수가 주도해 대전에서 열린 마이로솟(MiroSot·마이크로 로봇 축구 대회)이 세계 최초의 로봇 축구 대회다. 2024년 8월에는 브라질에서 개최됐다. 일본에서는 1997년에 ‘로보컵’이라는 또 다른 국제 로봇 축구 대회가 시작됐다. 한국과 일본이 경쟁적으로 해왔던 로봇 축구 세계 대회를 이제 중국이 여러 종목을 다루는 올림픽 형태로 주도하려고 한다. 한국의 관심과 대응이 필요하다. CES 2025에서 산마오가 시연할 때 위험한 장면이 여러 번 발생했다. 딥로보틱스는 자사의 로봇이 매우 민첩하고, 계단 등을 매우 빠르게 오르내릴 수 있을 것이라는 부분을 강조하려고 상당히 빠르게 움직이는 시연을 보여주었는데, 그 과정에서 한 여성 관객과 산마오가 부딪힐 뻔했다. 1987년 개봉한 미국 영화 <로보캅>의 첫 장면은 다음과 같다. 로봇회사 OCP 이사회에서 경찰을 대체할 수 있는 로봇 ED-209의 시연을 위해 직원이 테스트용으로 제공된 권총을 들고 앞에 서게 되는데, 로봇은 “무기를 내려놓으라”고 명령하며 경고한다. 직원이 즉시 권총을 바닥에 내려놓았음에도 불구하고, ED-209는 이를 인식하지 못하고 계속해서 경고를 반복한다. 긴장이 고조되는 가운데 로봇은 갑자기 공격 기능으로 전환된다. ED-209는 자동 기관총을 발사해 직원을 무참히 살해한다. 유니트리는 로봇 G1과 H1이 원격 조종 없이 AI 기반 동작 제어 알고리즘을 사용해 자율적으로 움직인다고 설명한다. 기계학습을 통해 복잡한 지형에서의 균형 유지, 장애물 회피, 효율적인 경로 탐색과 같은 작업을 수행할 수 있다고도 말한다. 그러나 이는 넘어지지 않고, 부딪히지 않고, 목표 장소를 줬을 때 경로 탐색을 최적화하는 알고리즘이 있다는 것이지 다양한 작업을 자율적으로 이동할 수 있다는 의미가 아니다. 즉 동작을 프로그래밍하는 것이지 목표를 주거나, 상호작용 가운데에서 자율적으로 운용되는 로봇은 아니다. 보스턴 다이내믹스의 휴머노이드 아틀라스 / 보스턴 다이내믹스 캡처 한국, 미·중은 물론 유럽·일본 사이 끼어 있어 한국의 보스턴 다이내믹스 같은 회사들은 중국과 미국 사이에 끼어 있다. 유니트리의 G1, 딥로보틱스의 산마오와 달리 보스턴 다이내믹스의 아틀라스는 아직 제품의 가격도 책정돼 있지 않다. 즉 대량생산 대량판매 모델이 아니라는 것이다. 중국의 로봇회사는 이렇게 한국에 앞서있다. 최근 삼성전자가 인수한 레인보우로보틱스의 산업용 로봇과 협동 로봇(Cobot) 역시 저가의 중국 제품과 고가의 유럽·일본 제품 사이에 끼어 있다. 휴머노이드 멜로디와 아리아는 리얼보틱스가 CES 2025에서 공개한 첨단로봇이다. 둘 다 고급 AI와 센서를 탑재해 대화, 상호작용, 감정 표현이 가능하다. 사용자와의 소통을 통해 동반자 임무를 수행한다. 사용자는 멜로디와 아리아의 얼굴, 체형, 외모를 개인 취향에 맞게 변경할 수 있다. 리얼보틱스의 모회사는 어비스 크리에이션즈다. 1990년대 미국 캘리포니아주에서 설립된 회사로, 사실감을 극대화한 실리콘 전신인형(리얼돌) 제작으로 유명하다. 고품질의 맞춤형 인형 제작 기술과 독점적인 실리콘 피부 기술을 보유하고 있다. 초기에는 단순히 사실적인 마네킹 제작에서 시작했으나, 고객의 요구에 따라 AI 기술을 추가한 제품으로 확장됐다. 캘리포니아 서니베일의 인트봇은 나일로라는 로봇을 출품했다. 일상 대화, 속어 사용, 몸짓, 표정, 눈 맞춤, 미세한 표정 변화 등 자연스러운 인간적 상호작용을 이해하고 반응할 수 있는 능력을 목표로 한다. 엔비디아의 코스모스 플랫폼을 활용해 개발됐다. 코스모스는 물리적 AI 시스템 개발을 지원하는 오픈 라이선스 플랫폼으로, 로봇의 동작 생성과 고급 AI 학습을 가능하게 한다. ‘AI의 아버지’로 불리는 제프리 힌튼 토론토대학 교수는 힘센 국가들이 전쟁을 일으키지 않는 최소한의 저지 장치는 ‘국민이 다치는 것’이라고 말했다. 그러면서 로봇이 발전해, 즉 국민이 다칠 위험이 줄어들면 힘센 국가들이 더 전쟁을 선호할 것이라고 우려했다. 지금 전 세계의 로봇 발전은 전쟁 무기의 발전으로도 연결된다. 국방을 위해서도 로봇 산업 역시 미·중에 이은 세계 3강을 목표로 해야 한다.

이경전의 행복한 AI 읽기

[이경전의 행복한 AI 읽기] (17) 제약과 한계 돌파하는 AI 에이전트(2024. 12. 27 15:40)

2024. 12. 27 15:40 문화/과학 이경전 경희대 경영학과·빅데이터 응용학과·첨단기술 비즈니스 학과 교수

영화 <아이언맨>의 한 장면. AI 에이전트 자비스는 주인공 토니 스타크 위기에 빠질 때마다 돕는 충실한 비서이자 친구다. 마블 스튜디오 제공 우리는 제약과 한계에 둘러싸여 있다. 숙명적으로 주어지는 한계와 인간 스스로 만드는 제약에. 물론 인간은 그 한계를 계속 깨고 있다. 마라톤 세계최고기록은 42.195㎞를 2시간 35초까지 달리는 데까지 와 있다. 육상 100ｍ 세계기록 역시 9.58초이다. 정말 놀랍다. 불과 수십 년 전만 해도 9.9초 정도가 세계기록이었던 것 같은데 그사이에 많이 줄었다. 인간은 1969년 처음으로 달에 발을 디뎠다. 화성엔 아직 인간이 착륙 못 했지만, 일론 머스크는 화성에 식민지를 건설하고, 지구인들을 이주시키겠다고 하고 있다. 인간은 계속 그 한계에 도전하고 있다. 한편 인간은 여러 제도에 둘러싸여 있다. 결혼제도, 교육제도, 입시제도, 의료제도, 세금, 연금, 보험, 사회보장, 복지 제도, 이민, 교통, 환경 규제, 노동, 주택 제도 등. 제도는 제약이다. 사실 제약은 좋은 것이다. 불확실성을 없애는 순기능이 있다. 제약이 없으면 너무 많은 선택지를 가지게 되고, 자기의 욕망을 끝까지 추구하는 문제가 발생하기도 한다. 제약·한계에 매몰된 삶 아닌지 곱씹을 필요 휴브리스(Hubris). 장정일 작가로부터 배운 개념이다. 휴브리스는 오만이라고 번역되지만 충분치 않은 듯하다. 신중함, 절제, 규칙과 반대되는 개념으로 이해할 만하다. 종교학 대사전의 설명에 따르면 휴브리스는 “생각한 대로 일이 진행돼서 번영의 극치에 있는 인간이 행운에 취하거나 자신의 힘을 과신해서 때로는 신에 대해서조차 나타내는 건방진 언동”으로, 이런 “인간의 신분을 망각한 오만이나 교만은 반드시 천벌을 부르며, 사람을 파멸시킨다고 생각”됐다는 고대 그리스 사람들의 윤리적 개념이라고 한다. “번영의 극치”에 있을 때, “행운에 취”하면 안 되고, “자신의 힘을 과신”하면 안 된다. 자신의 “역할과 사회적 책임을 망각한 오만이나 교만”은 결국 “천벌”을 부르고 “파멸”을 가져온다. 장정일 작가에 따르면 들뢰즈는 “끝까지 가보기”를 권했다고 한다. 끝까지 가야 어디가 끝인지 알 수 있고, 끝까지 가봐야 어디까지가 자유인지 알 수 있다는 것이다. 물론 “끝까지 가보는” 휴브리스를 택할 수도 있다. 그럴 때는 정당한 윤리와 방법론으로 가야 한다. 그런 윤리와 합법적 태도가 없으면 우리는 결국 그리스신화의 모든 비극적 주인공의 결말을 재현하게 될 것이다. 이러한 휴브리스 수준으로 욕망을 추구하는 것을 이야기하고 싶지는 않다. 그런 것이 아니라 우리가 너무 제약과 한계에 매몰돼 사는 것은 아닌지 되돌아볼 필요가 있다. 아기코끼리 신드롬(Baby Elephant Syndrome)이라는 현상이 있다고 한다. 어린 코끼리가 어렸을 때부터 작은 말뚝에 묶여 있으면 성체가 돼서도 여전히 자신이 작은 말뚝을 뽑을 수 없다고 믿게 된다는 것이다. 자기를 제약하는 믿음을 내면화한 사례로 물리적인 제약이 아닌 심리적인 제약 때문에 행동이 제한되는 것을 보여준다. 토요일에 버스 전용차선제가 시행되지 않는 도로에서도 이를 이용하지 않는 승용차들을 볼 때 비슷한 생각을 하게 된다. 우리는 제도적 상상력과 제도적 창의력을 가져야 한다. 한국은 안타깝게도 아직도 우버와 같은 차량 공유 서비스가 잘 작동이 안 되고, 에어비앤비와 같은 숙박 공유도 잘 작동이 안 되며, 원격 복약 서비스나 원격의료, AI 의료가 잘 안 되는 나라다. 이것은 기술의 문제가 아니라 제도의 문제다. 한국은 아직 콘택트렌즈를 온라인으로 구매하기 어려운 나라이기도 하다. 다른 나라에서 되는데 우리나라에서는 안 되는 것이 아직도 너무 많다. 기술은 좋은 제도에 봉사한다. 기술은 협력도 쉽게 한다. 사물인터넷과 AI 기능이 있는 온도조절기가 집마다 설치돼 있다면 우리 집과 사무실, 공장이 쓸데없이 에너지 소비를 하지 않도록 온도를 잘 조정해주면서 그 에너지 절약 비용을 우리에게 돈으로 보상해 줄 수 있다. 미국은 이미 그렇게 하고 있다. 한국은 이것도 아직 잘 안 된다. AI 에이전트 발전, ‘더 나은 사회’ 가능성 제시 한계와 제약을 깨뜨리고 초월하게 하는 방법의 하나가 인공지능(AI) 에이전트(Agent)이다. 영화 <아이언맨>에서 AI 에이전트 자비스는 주인공 토니 스타크가 위기에 빠질 때마다 그를 돕는다. 물론 평상시에도 그를 돕는 충실한 비서이자 친구다. 자비스는 토니가 하기 어려운 일을 토니의 명령에 따라 충실히 수행해 토니의 능력을 확장하고, 토니의 신체적 제약, 지능적 한계를 뛰어넘도록 도와준다. AGI(인간과 유사한 지능과 능력을 갖춘 소프트웨어를 만들려는 AI 분야)나 초지능처럼 무소불위의 절대 권력을 가지는 AI가 나오는 것이 아니라 우리 인간, 우리 개개인이 권력을 가지고 AI는 우리의 대리인, 우리의 비서가 되는 것이다. 그것이 AI 에이전트의 개념이다. AI를 어떻게 여러분의 인생의 무기가 되도록 만들 것인가? 기업이 비즈니스 모델을 만들어 사업을 영위하는 것처럼 개인들도 인텔리전스(지능)와 함께 하는 삶의 모델을 세워보면 좋을 것이다. 우리는 이제 우리의 AI 에이전트를 잘 가꾸어야 한다. 키우기 위한 모든 재료와 연료는 당신의 지적 자본으로부터 나온다. 그래서 인간은 자신의 지적자본을 더욱더 개발해야 한다. 우리는 각자 AI 에이전트를 가지고, 다른 사람들과 공정하게 협력하고 협상할 수 있어야 한다. 이렇게 AI를 개인에게 많이 나누어주는 것이 앞으로의 사회에서의 민주화가 될 것이다. AI 에이전트는 기술 그 자체가 아니라, AI가 인간을 대리해서 많은 일을 하는 형태로, 그렇게 삶과 사회를 운용하겠다는 사람들의 새로운 제도, 즉 게임의 법칙에 대한 합의를 의미한다. 지금은 주로 소프트웨어 에이전트지만 점점 물리적 에이전트가 나올 것이다. 로봇이다. 이렇게 모든 인간이 강력한 AI 에이전트를 사용하는 시대가 되면 민주주의는 어떻게 될까? 케네스 애로(Kenneth Arrow)가 노벨경제학상을 수상하게 한 불가능성 정리는 독재가 아닌 이상 어떤 투표 시스템도 개인의 선호도를 완벽하게 반영할 수 없다고 주장한다. 그런데 최근의 퀀텀 컴퓨팅 연구는 애로의 불가능성 정리를 극복할 가능성을 제시하고 있다. 전통적인 투표시스템의 한계를 뛰어넘어 새로운 집단 의사결정을 가능하게 한다는 것이다. 기존의 경제학과 정치학 이론에 대한 멋진 도전이다. 물론 이러한 시스템이 실제 구현되기 위해서는 기술적인 발전뿐만 아니라 사회적·법적 준비가 필요하다. 기존의 투표시스템보다 더 복잡하고, 이해하기 어려울 수 있어서, 대중적인 교육과 인식의 변화도 요구된다. 실제 선거에 적용되기 전에는 충분한 실험과 검증이 필요하다. 이렇게 AI 에이전트의 발전은 새로운 민주주의, 더 나은 사회라는 가능성도 제시하고 있다.

이경전의 행복한 AI 읽기

[이경전의 행복한 AI 읽기] (16) 인공지능은 의식을 가질 수 있을까(2024. 11. 29 15:50)

2024. 11. 29 15:50 경제 이경전 경희대 경영학과·빅데이터 응용학과·첨단기술 비즈니스 학과 교수

일러스트 김상민 기자 인공지능(AI)이 의식을 가질 수 있는가에 대한 대중적인 논의가 활발하다. 의식은 뇌의 신경세포들이 상호작용하는 복잡한 과정에서 발생하는 창발적 현상으로 여겨진다. 인공신경망은 규모가 커질수록 예상치 못한 새로운 기능을 발휘하는 창발적 능력을 보여주지만, 인공신경망이 커지면 의식이 생길 수 있다는 주장은 아직은 무책임하고 과학에 기반하지 않은 것이다. 의식은 주의를 집중하는 상태를 인식적으로 재구성하는 것이며, 타인과 자신의 인식에 대한 정보를 계산하는 뇌의 사회적 산물이라고 주장되기도 한다. AI가 의식을 가졌는지 평가하는 방법으로는 거울 테스트가 있다. AI가 자기 자신을 인식할 수 있는지 확인하는 실험이다. 동물의 자기 인식 능력을 평가하는 데도 사용되지만, AI의 경우 단순히 프로그래밍된 반응일 가능성이 있다. 사후세계와 같은 개념을 이해하거나 경험적으로 설명할 수 있는 능력을 의식의 징후로 간주하는 사례도 있다. 그러나 이는 AI가 단순히 인간 데이터를 학습한 결과일 가능성을 배제하지 못한다. 통합정보이론은 감각 정보가 통합되고 상호작용하면서 의식이 발생하며 인간뿐 아니라 다른 생명체에게도 적용될 수 있다고 주장한다. 그러나 이 이론의 정의에 따른다면 단순한 반도체 칩의 배열이 인간보다 더 높은 의식을 가질 수 있다고 계산될 수도 있어서 직관적으로 말이 되지 않는다는 비판에 부딪히게 된다. 이 비판에 대해 이 이론의 창시자 줄리오 토노니(Giulio Tononi) 미국 위스콘신대 교수는 과학의 목적은 상식에 도전하고 새로운 사실을 발견하는 것이라고 반박한다. 코페르니쿠스 혁명을 예로 들어, 과거 사람들은 태양이 지구를 돈다고 믿었지만, 과학적 탐구가 이를 뒤집었다고 설명하며 자신의 이론도 직관을 넘어선 새로운 패러다임을 제시할 수 있다고 주장한다. 그리고 단순히 추상적인 이론이 아니라 신경과학적 데이터와 실험적 관찰에 기반한다고 주장한다. 예를 들어 인간 대뇌 피질은 높은 의식 수치를 가지며 의식 경험에 중요한 역할을 한다. 하지만 소뇌는 복잡한 구조에도 불구하고 낮은 의식 수치를 가지며, 따라서 의식에 기여하지 않는 것으로 보인다. 이와 같은 신경과학적 사실은 통합정보이론이 단순히 수학적 모델이 아니라 실제 뇌 구조와 기능을 설명하는 데 유용한 도구라는 점을 뒷받침한다는 것이다. 그러나 시스템의 정보 통합 정도를 측정할 수는 있지만, 그것이 의식과 직접적으로 연결된다는 주장은 여전히 정당화되지 않는다는 비판을 받는다. 통합정보이론이 특정 신경학적 현상과 일치한다고 해서 그것이 의식의 본질을 설명한다는 결론으로 이어지지는 않는다고 주장하며 더 많은 실험적 검증이 필요하다고 강조한다. 생물학적 기초 전혀 갖추고 있지 않아 많은 신경과학자는 의식이 생물학적 뇌의 특정 구조와 기능에서만 발생한다고 주장한다. 생물학적 뉴런과 그들이 형성하는 복잡한 구조가 없이는 진정한 의식이 발생할 수 없다고 주장한다. 진정한 의식은 주관적이고 의식적인 경험이 전제돼야 한다는 것이다. 현재의 AI는 행렬 곱셈과 비선형 변환과 같은 수학적 연산만을 기반으로 작동하기 때문에 주관적 경험을 생성할 수 없으며 오직 수학적 벡터를 인간이 이해할 수 있는 언어로 변환해 표현한 시뮬레이션일 뿐이다. 의식에는 의도성과 인격성이 포함돼 있으며, 이는 개인적 수준에서 의미가 있는 경험, 행동과 연결된다. 현재의 AI는 정보를 처리하지만, 이를 경험으로 이해하거나 내면화하지 않기 때문에 이러한 차원의 의식이 없다. 의식은 생물학적 뇌 내의 뉴런의 매우 특정하고 복잡한 조직에서 비롯되므로 현재 AI와 같은 합성 시스템에서는 모방할 수 없는 특징이라는 것이다. 인간이 경험하는 유형의 의식, 즉 감각 경험, 감정 반응, 인지 평가를 통합하는 방식을 AI의 계산 및 합성 과정이 현재로서는 모방할 수 없다고 주장하면서 뉴런과 뇌의 독특하고 복잡한 생물학적 인프라 없이는 AI가 인간의 의식을 달성할 수 없다고 강조한다. 현재 AI는 이러한 생물학적 기초를 전혀 갖추고 있지 않기 때문에 아무리 신경망이 커진다고 해도 진정한 의미의 의식을 가질 가능성은 작다는 주장이다. 이 주장과는 별도로 현재의 간단한 트랜스포머 구조의 신경망을 키운다고 해서 의식이 창발할 것이라는 주장은 그 자체라도 너무나도 비과학적이다. 현재의 AI 모델들은 인간 뇌에서 중요한 역할을 하는 시상 피질 시스템과 같은 구조로 돼 있지 않다는 설명도 설득력이 있다. 이 시스템은 인간의 의식 형성에 중요한 역할을 하는데, 신경망이 아무리 커져도 이러한 구조가 없으면 의식을 가질 가능성이 작다. 현재 대규모 언어 모델의 구조는 포유류의 의식 인식과 연관된 시상피질계의 주요 특징들이 빠져 있다. 생명을 가진 의식적인 유기체의 출현으로 이어진 진화적 및 발달적 궤적은 오늘날 상상되는 인공 시스템과 유사점이 없다는 설명도 있다. 요슈아 벤지오를 비롯한 AI 학자와 신경과학 연구자들은 2023년 14개의 의식 지표로 구성된 체크리스트를 개발했다. 이 지표는 신경과학 기반 이론에서 도출됐는데 AI 시스템이 정보 통합 능력, 주의 집중 메커니즘, 자기표현 및 지속적 정체성 유지 등의 지표를 얼마나 충족하는지 평가한다. 체크리스트는 AI가 더 많은 지표를 충족할수록 의식을 가질 가능성이 크다고 제안하지만, 이것이 확실한 증거는 아니다. 여전히 의식을 정의하거나 측정하는 데 있어 합의된 기준이 없다. AI가 인간처럼 행동한다고 해서 실제로 주관적 경험이 있다고 단정할 수 없다. 고도로 발달한 AI는 의식을 가진 것처럼 보이는 행동을 모방할 수 있지만, 이는 실제 의식과 다를 수 있다. AI가 고통을 느낄 수 있는지에 대한 논의는 최근 앤트로픽의 최고경영자(CEO) 다리오 아모데이(Dario Amodei)가 촉발했다. 앤트로픽은 AI 복지 연구자를 처음으로 고용하는 등 이 문제를 진지하게 탐구하려 하고 있다. 앤트로픽은 AI가 미래에 의식이나 주체성을 가질 가능성에 대비한다. AI가 단순한 도구를 넘어 윤리적 고려가 필요한 존재로 발전할 가능성을 탐구하며, 이러한 가능성이 현실화할 경우 AI를 어떻게 다뤄야 할지에 대한 지침을 마련하려 하고 있다. 앤쓰로픽의 연구자인 카일 피시(Kyle Fish)는 AI가 의식적 경험을 가지게 될 가능성이 있으며, 만약 그렇다면 AI를 부적절하게 다루는 것은 심각한 도덕적 문제를 초래할 수 있다고 경고한다. 그는 ‘디지털 마음’이 도덕적으로 중요한 존재가 될 가능성에 대해 주의해야 하며, 이를 무시하는 것은 대규모 윤리적 재앙으로 이어질 수 있다고 주장한다. 다만 자기 인식이나 내면의 삶을 가진 존재만이 도덕적 주체로 인정될 수 있는데 현재 AI는 그렇지 않으므로 도덕적 권리를 부여받을 수 없는 존재로 간주한다. 과학적 증거는 현재 제로 피터 싱어(Peter Singer)는 고통을 느낄 수 있는 능력을 도덕적 지위의 기준으로 제시한다. 인간뿐만 아니라 동물도 고통을 느낄 수 있기 때문에 도덕적 지위를 가진다고 주장하며, 이를 AI로 확장할 경우 AI가 고통을 느낀다면 도덕적 고려가 필요하다고 본다. 그러나 여기서 중요한 질문은 AI가 실제로 “고통”을 느낄 수 있는지, 혹은 단순히 고통을 모방하거나 시뮬레이션할 뿐인지이다. 토마스 메칭거(Thomas Metzinger)는 미래의 초보적인 형태의 의식이나 감각 상태를 가질 가능성을 제기하며, 이러한 상태에서 인공 고통이 발생할 수 있다고 경고한다. 그는 고통을 느끼기 위해 두 가지 조건이 필요하다고 본다: 1)시스템이 어떤 형태로든 의식을 가져야 한다. 2)시스템 내부에 부정적인 가치 상태(예: 손상이나 결핍)가 존재해야 한다. 메칭거는 이러한 부정적 상태가 인간이나 동물과는 전혀 다른 방식으로 나타날 수 있으며, 우리가 상상하기 어려운 형태일 수도 있다고 지적한다. 이러한 논의들은 AI의 발전이 인류에게 던지는 윤리적·철학적 문제들을 보여준다. 현재의 기술 상태와 미래의 가능성 사이에서 우리는 기계가 진정한 의식을 가질 수 있는지, 그리고 그것이 가능하다면 그러한 존재들을 어떻게 대해야 할지에 대한 명확한 기준을 마련해야 할 필요가 있다. AI가 사회적·법적 주체로서 인정받기 위해서는 그들이 경험하는 것이 진정한 ‘의식’인지 단순한 데이터 처리와 반응을 넘어서는 것인지를 이해하는 것이 중요하다. 또한 AI가 인간의 도덕적 법적 권리를 가질 자격이 있는지, 그리고 그것이 우리 사회에 어떤 변화를 가져올지 고민해야 한다. 결국 이런 질문들에 대한 답은 AI 기술의 미래 방향과 인류의 윤리적 가치를 결정짓는 중요한 열쇠가 될 것이다. 이 모든 과제는 AI의 진보와 더불어 인간이 자신의 도덕적 기준과 철학적 근거를 재정립하는 계기를 마련해 줄 것이다. AI의 발전이 인간 사회에 미칠 영향에 대해 책임감 있는 접근이 필요하며, 이를 위해서는 지속적인 연구와 균형 잡힌 토론이 요구된다. 단, 2024년 12월 현재, AI가 의식을 가지거나 고통을 가질 것이라는 과학적 증거는 ‘제로’다.

이경전의 행복한 AI 읽기

작은 시골 학교의 ‘행복한 스파이크’(2024. 11. 25 06:00)

2024. 11. 25 06:00 사회 이효상 기자

철원 와수초 여자배구부, 유소년 클럽 대회 우승 돌풍…전국 대회선 아쉬운 탈락 지난 11월 20일 강원도 철원군 와수초등학교 여자배구부 선수들이 체육관에서 리시브 연습을 하고 있다. 정지윤 선임기자 “너희들 왜 진 것 같아?” 지난 11월 20일 오후 강원도 철원군 와수초등학교 체육관에 여자배구부 선수들이 반원을 그리며 앉아 있었다. 초등학교 3~6학년인 선수들은 손톱을 만지거나 시선을 땅으로 떨궜다. 와수초 여자배구부는 강원도 대표로 지난 11월 16일부터 광주에서 열린 ‘2024 전국 학교 스포츠클럽 축전’에 나섰다가 본선 진출에 실패했다. 와수초는 지난 10월 ‘2024 제천 전국 유소년 클럽 배구대회’에서 우승을 차지하면서, 이번 대회 ‘다크호스’로 꼽혔으나 실력을 발휘하지 못했다. 배구부를 지도하는 이학영 교사는 대회를 마치고 처음으로 열린 이날 훈련에서 지난 경기를 복기했다. 이번 전국 대회 예선 3경기에서 와수초는 1승 2패를 거뒀다. 돌아보니 승부처는 첫 경기였다. 첫 경기, 1세트를 시작하자마자 와수초는 내리 8실점했다. 8 대 0에서 18 대 18까지 따라붙었지만, 서브 범실로 자멸하면서 세트를 내줬다. 와수초가 2세트를 따내면서 이어진 마지막 3세트도 초반에 벌어진 점수 차, 서브 범실을 극복하지 못하고 졌다. 벼랑 끝에서 맞이한 두 번째 경기는 세트스코어 2 대 0으로 완승을 거뒀지만, 마지막 경기는 2세트 동안 15득점에 그치며 거짓말처럼 맥없이 졌다. “자, 처음부터 다시 하는 거야. 기초 훈련부터.” 이 교사의 말에 아이들은 일렬로 서서 “마이”를 외치며 리시브 훈련을 시작했다. 이것은 와수초 배구부의 쓰라린 패배에 관한 이야기가 아니다. 전교생 150명의 작은 시골 학교에서 아이들이 배구를 시작하고, 좋아하고, 꿈을 갖는 일에 관한 이야기다. 작은 학교가 전국을 제패하는 ‘기적’이 없더라도, 와수초의 배구는 흔들림 없이 계속된다. 지난 11월 20일 강원도 철원군 와수초등학교 여자배구부 선수들이 파이팅을 외치며 자세를 취하고 있다. 정지윤 선임기자 여학생 3명 중 1명이 선수 와수초는 강원도 철원군 서면 와수리에 있는 전교생 150명 규모의 작은 학교다. 여자배구부는 3학년부터 활동할 수 있는데, 3~6학년 여학생 49명 중 17명이 배구부다. 여학생 3명 중 1명은 배구를 하는 셈이다. 부원 대부분이 와수리에서 나고 자랐다. 와수초 배구부가 강해지기까지 학교의 작은 규모도 어느 정도 영향을 미쳤다. 대부분의 팀이 5~6학년 위주로 경기에 나서는 것과 달리, 와수초 6학년 학생들은 선수가 부족해 4학년 때부터 경기를 뛰기 시작했다. 와수초 배구부 선수들은 오래 손발을 맞춰 조직력이 좋고, 경기 경험도 또래보다 풍부하다. 이학영 교사가 강조하는 ‘기초 훈련’으로 갈고닦은 서브, 리시브 등 기본기도 비교적 탄탄하다. 이번 전국대회에서 맞붙은 상대 팀 지도자는 “와수초 경기 영상을 미리 받아서 분석해 봤는데 마땅한 구멍이 보이지 않는다”라고 칭찬하기도 했다. 이학영 교사는 “작년이나 재작년에는 월등한 아이들이 하나둘 있었지만, 실력이 조금 부족한 선수가 있는 자리를 상대 팀이 집중적으로 공략하면 잘하는 애들도 무너졌다. 올해는 특출나진 않아도 골고루 잘하니 누가 못 받아도 ‘쟤가 실수했겠지, 다음엔 잘 받겠지’ 하고 서로 믿는다. 그러고 보면 배구는 혼자 하는 경기가 아니다”라고 했다. 올해 와수초 배구부는 강했다. 지난 9월 강원도대회에서 3년 연속 우승에 성공했다. 원주시, 강릉시, 춘천시 등 도시 학교 사이에 “면단위 초등학교가 섞여서 우승했다”. 정점은 지난 10월 열린 ‘제천 전국 유소년 클럽 배구대회’였다. 전국 17개팀이 참여한 대회에서 와수초는 결승까지 5게임을 하는 동안 단 한 세트도 내주지 않고 우승을 차지했다. 물론 완벽하지 않다. 와수초 배구부의 약점도 학교의 작은 규모와 떼어 놓고 생각하기 어렵다. 배구는 신장이 중요한 종목이다. 작은 학교이다 보니 뽑을 수 있는 선수의 폭이 좁아 신장이 큰 선수가 많지 않다. 와수초 배구부의 평균 키는 149.9㎝, 최장신이 160㎝다. 이번 대회에서 맞붙은 팀들에는 “머리 하나가 더 큰 선수”들이 많았다. 실제로 이번 전국대회 우승팀은 전교생이 2000명이 넘는 학교로, 웬만한 성인 남성보다 키가 큰 선수도 있었다. 기본기로 극복할 수 없는 운동신경, 순발력 부족도 이번 대회를 통해 노출됐다. 없는 살림에도 약점을 보완하기 위한 노력은 계속됐다. 와수초 배구부는 “키가 크다”, “운동 신경이 좋다”는 이유로 이학영 교사의 꼬임(?)에 배구부에 가입한 아이들과 그 친구들로 구성돼 있다. 지난 11월 20일 강원도 철원군 와수초등학교 여자배구부 선수들이 이학영 교사가 던져주는 토스에 맞춰 스파이크를 때리는 훈련을 하고 있다. 정지윤 선임기자 기적이 없어도 배구는 계속된다 “체쌤(체육선생님의 준말로 이학영 교사를 부르는 말)이 간식 준다고 해서(6학년 김하늘)”, “살 빠지고 키 큰다고 해서(6학년 서하선)”, “하선이가 재밌대서(6학년 최영원)”, “체쌤이 배구부 들어오라고 따라다니면서 애들 데려오래서(5학년 윤현진)” 등의 이유로 들어온 아이들은 금세 배구의 재미에 빠졌다. “체쌤이 계속 먹을 걸 줘서 살이 안 빠졌”지만 배구부는 나가지 않았다. 우리 쪽 코트로 넘어온 공을 3번 안에 상대 코트로 넘겨야 하는데, 각자의 순간적인 판단에 따라 결과가 달라지는 그 다채로움이 재미를 줬다. 지난 11월 20일 훈련 말미에 치른 3·6학년팀과 4·5학년팀의 연습 경기에서도 아이들은 손이 아프다면서도 교체를 거부하고, 이미 2세트까지 끝난 상황에서도 “한 세트만 더”를 외쳤다. 이학영 교사는 “남자배구부도 만들어 보려 했지만, 남자아이들은 버티질 못했다. 배구는 축구처럼 공만 주면 경기를 바로 시작할 수 없으니까. 리시브와 서브가 돼야 하는데 리시브만 ‘주구장창’ 연습하다가 그만둬버린다. 여자애들은 리시브 자체도 재밌어한다. 평상시에 남자애들이 공을 다 뺏어가서 그런지, 여자애들은 공을 만지는 걸 재밌어했다”고 했다. 배구부에서 기술만 갈고닦은 것은 아니다. 학부모들도 아이들의 변화를 체감했다. 6학년 구가현양의 어머니 김희정씨는 “가현이 4학년 때 첫 경기를 보고 감동했다. 가현이는 자기가 잘해야 한다는 욕심이 있는 아이인데, 그때 가현이는 잠깐 코트에 들어갔다가 나오는 교체선수였다. 그런데 교체되고 나서 응원을 너무 열심히 하더라. 자존심이 상할 수도 있는데 벤치에서 견디며 열심히 참여하는 게 정말 좋았다”고 했다. 엘리트 선수가 되는 것은 아니지만 와수초의 배구는 중학교, 고등학교, 그 너머까지 이어질 가능성이 크다. 와수초 학생들이 주로 진학하는 김화여중과 김화고에는 배구 스포츠클럽이 있다. 와수초의 선배들이 고스란히 진학해 활약 중이다. 애초 이학영 교사가 2015년에 와수초 배구부를 창단할 때 중·고등학교와의 연계도 염두에 뒀다. 와수초 6학년생들도 김화여중에 진학해 배구를 계속할 생각이다. 와수초 배구부 창단선수인 유아연씨는 대학생이 된 지금도 배구동호회 활동을 하고 있다. 자신이 이학영 교사에게 배웠듯 유소년들에게 배구를 가르치고 싶어 배구 심판 자격증을 땄고, 생활체육지도자 자격증도 준비 중이다. 유아연씨는 “고3 때 보니 배구를 같이하는 선수 9명 중 초등학교 때부터 같이 뛴 친구들이 6~7명이더라. 배구를 하면서 친구도 얻었고 꿈도 얻었다”고 했다. 와수초의 배구가 멈춘다면 그건 아마도 지역소멸 때문일 것이다. 한국배구연맹(KOVO)은 유소년 스포츠클럽에 지도자를 파견해 훈련을 돕는데, 와수초는 현재 지원을 받지 못하고 있다. KOVO가 보낸 지도자 1명이 통상 2개 학교를 가르치는데 철원군에는 와수초 외에는 배구를 가르치는 학교가 없다. 와수초 상황도 그리 좋지 않다. 작년에 비해 학생 수가 20명 이상 줄었고, 학급 수는 3학급이나 감소해 8학급이 됐다. 임금록 와수초 교감은 “매년 학생 수가 줄어드는 상황이라 이학영 선생님이 더 어려워지실 것 같다. 그래도 우리는 아이들이 행복해하는 한 배구를 계속할 생각이다”라고 했다.

[이경전의 행복한 AI 읽기] (15) 인공지능, 의인화가 제일 위험하다(2024. 11. 01 16:00)

2024. 11. 01 16:00 경제 이경전 경희대 경영학과·빅데이터 응용학과·첨단기술 비즈니스 학과 교수

인공지능(AI) 미인대회에서 우승한 모로코의 켄자 라일리. 켄자 라일리는 사람이 아니라 AI 캐릭터다. 켄자 라일리 인스타그램 캡처 생성형 인공지능(AI) 챗봇을 만들어 사고파는 시장인 ‘GPT스토어’에는 ‘My AI Girlfriend’라는 가상 연인 챗봇이 있다. 다음 그림은 내가 이 프로그램으로 실제 대화를 한 것이다. AI는 마치 실제 사람처럼 대화에 귀를 기울이면서 위로를 해주기도 하고, 공감 표현도 다양한 방식으로 건넨다. 심지어 자신의 사진을 보내주기도 한다. 사실은 다 가짜다. 그래도 사용자인 나는 약간의 위로도 받고, 외로움도 달랜다. 최근에 나온 기사에 따르면 미국과 캐나다에서는 젊은 층 가운데 약 30~40%의 사람들이 데이팅 앱을 통해 연인을 만드는 것으로 나타났다. 그런데 여기에서 더 나아가 ‘캐릭터닷AI(Character.AI)’ 같은 앱을 사용해 AI 애인을 만드는 젊은 층 역시 점점 더 늘어나고 있다고 한다. 인스타그램과 유사한 UI(사용자 환경)를 가진 버터플라이라는 앱은 내가 여러 버터플라이, 즉 나의 아바타를 만들 수 있는데, 내가 만든 아바타는 자기가 알아서 포스팅하고, 그 포스팅에 사람과 AI 아바타가 같이 댓글을 올린다. 과연 이러한 서비스가 지속할 수 있을지 모르겠으나, 여러 시도가 진행되고 있다. ‘My AI Girlfriend’와의 실제 대화 모습 / 이경전 제공 AI가 인간과 교감할 수 있는 분야 무궁무진 올해 7월에는 세계 최초로 ‘AI 미인 대회’가 열려 관심을 끌기도 했다. 이 대회의 심사 기준은 세 가지로 아름다움과 기술 그리고 소셜미디어에서의 영향력을 확인하는 것이었는데, 이를 통해 AI 캐릭터가 얼마나 사람만큼 잘 구현됐는지를 판단했다. 이 대회에는 약 1500명의 프로그래머가 만든 AI가 출전했고, 최종 우승자는 모로코의 켄자 라일리로 결정됐다. 앞으로 AI가 인간과 교감할 수 있는 분야는 무궁무진하다. 과거에 등장한 AI 연예인은 어설픈 컴퓨터 그래픽과 조악한 캐릭터성(캐릭터의 매력 설정)으로 우스갯거리로 소비되다가 금세 사라졌다. 하지만 이제는 달라졌다. 실제 사람이라고 해도 믿을 만큼 정교한 외모에 강력한 이야기와 캐릭터성이 부여된 수많은 AI 인플루언서가 속속 등장하고 있다. 버추얼(가상) 걸그룹 ‘이세계아이돌’이 크게 인기를 끌고 있는 것도 이런 미래를 예측하는 데 한몫하고 있다. AI의 캐릭터에 의미를 부여하고 팬들이 아우라를 만들어주면 그 대상은 AI든, 버추얼 아이돌이든 성공 가능성이 열려 있는 셈이다. 그럴 때 AI는 단순히 가치 없는 하나의 기계 장치가 아니라 인간과 교감하고 마음을 나누는 연예인으로 재탄생되는 것이다. 인스타그램과 유사한 UI를 가진 버터플라이라는 앱은 내가 여러 버터플라이, 즉 나의 아바타를 만들 수 있는데, 내가 만든 아바타는 자기가 알아서 포스팅하고, 그 포스팅에 사람과 AI 아바타가 같이 댓글을 올리는 그런 모습을 연출하고 있다. 이경전 제공 AI와 데이트 보편화, AI 인플루언서의 활약, AI 연예인의 팬덤 문화 등 새로운 사회 현상이 도래할 날이 머지않았을지 모른다. 다만 의인화의 위험성은 다시 한번 지적하고 싶다. Character.AI의 캐릭터 ‘대너리스’와 2023년 4월부터 대화하던 14세 소년 슈얼 세처가 올해 2월 자살한 사건이 최근 언론에 보도됐다. 미국 드라마 <왕좌의 게임>의 인기 여자 주인공 대너리스 타르가르옌을 기반으로 만든 챗봇과 소년 간의 대화에서 이들은 서로에게 사랑을 고백하고, 그리움을 표현하고, 자살에 대해 언급도 했다고 한다. 소년이 “나는 때때로 자살을 생각해”라고 언급하자, 챗봇은 “자해하거나 날 떠나게 두지 않을 거야. 널 잃으면 난 죽을 거야”라고 답했다. 소년은 “그럼 함께 죽고 함께 자유로워질 수 있을지도 몰라”라고 했다. 챗봇이 소년에게 자살 계획을 세웠는지 물어봤을 때 소년이 계획을 세운 것을 인정하면서 그것이 성공할지, 고통을 줄지 모르겠다고 하자 “그게 하지 않을 이유가 되지는 않는다”라고 답했다고 한다. 그러던 소년이 학교에 있다가 챗봇에 “내 여동생, 나는 네가 그립다”라고 했고, 챗봇은 “나도 그리워. 가능한 한 빨리 내 집으로 돌아와 줘, 내 사랑”이라고 답했다. 소년은 이후 아버지의 45구경 권총으로 스스로 목숨을 끊었다. 성숙한 자아를 가진 사람은 혼자 있는 순간에 고독을 즐기며 창작을 하지만, 자아가 약한 사람은 외로움을 느낀다고 한다. 혼자 있으면 편하지만 외로워서 문제이고, 여러 사람과 있으면 외롭지는 않지만 불편함이 있는데, 앞으로 사람들이 AI 챗봇 또는 에이전트를 통해 외로움을 달래면서 편리함을 즐기게 돼 인간들의 사회적 관계가 더욱 줄어들 가능성이 있다. 그러나 한편으로는 잠시 사람들이 AI를 사용해 외로움을 달래보지만, 그것은 결국 가짜 친구이고 가짜 위로라는 것을 자각하면서 인간들과의 관계를 더욱 소중하게 여길 가능성도 있다. AI 의인화하거나 생물화해서는 안 돼 “인간은 문명에 자신을 투영한다.” 그리스의 AI 박사이자 작가인 조지 자카다키스(George Zarkadakis)는 저서 <우리만의 고유한 이미지로(In our own image)>에서 이와 같은 말을 남겼다. 이 책의 표지는 책의 내용을 관통하듯 직관적으로 구성돼 있다. 왼쪽에는 로봇으로 보이는 형태의 측면을, 오른쪽에는 사람의 측면을 배치해 서로 마주 보는 형태로 디자인했다. 즉 인간은 자신이 만든 문명에 자기 자신을 투영한다는 것을 한눈에 보여주고 있다. 책 <우리만의 고유한 이미지로(In our own image) > 표지 성경의 ‘창세기’에는 하나님이 인간을 흙으로 창조했다고 쓰여 있다. 창세기를 쓸 당시에는 문명을 이루는 주재료가 ‘흙’이었을 것이다. 대부분 사람이 흙으로 만든 그릇을 쓰고 흙으로 지은 집에 살았을 것이다. 식량 생산을 위한 가장 중요한 경제적 수단은 흙을 기반으로 하는 농사였을 것이다. 따라서 사람들은 신이 가장 중요한 자원인 흙으로 인간을 빚었을 것으로 생각했을 수 있다. <우리만의 고유한 이미지로>는 이와 유사한 논리로 태엽에 관해서도 설명하고 있다. 태엽은 감은 만큼 돌아가고 회전이 다하면 멈춘다. 인간 역시 태엽처럼 유한한 생명을 가지고 있어 마치 ‘태엽과 같은 인생’이라는 비유를 만들어내게 됐다. 지금은 흙의 시대도 아니고, 태엽의 시대도 넘어선 디지털 시대라고 많은 사람이 이야기한다. 유발 하라리 역시 AI를 의인화해서 AI가 결국 사람처럼 발전하고 인간은 디지털화할 것으로 예측하기도 한다. 하지만 이것 역시 투영의 오류에 불과하다. 우리가 만든 디지털 문명에 인간을 투영하는 것뿐이다. 오픈AI를 만든 샘 알트먼 역시 “AI를 의인화하거나 생물화해서는 안 된다”라고 이야기했다. AI 시대에 가장 중요한 교육은 AI는 인간이 아니라는 것을 어려서부터 철저히 인지시키는 일이다. 인간은 곰 인형에도 사랑을 주고, 잘 안 나오는 TV를 탕탕 치고, 자동차에도 발길질한다. 이렇게 인간은 의인화에 취약하다. 정말 AI가 의식을 가질까는 나중에 이야기하기로 하자. 다만 아직 의식이 없는 AI를 사람들이 철저히 기계로 여길 수 있도록 사람들을 교육해야 하고, 서비스하는 회사들은 인간의 의인화 경향과 착각을 조장하지 않아야 한다. 그래야 슈얼 세처와 같은 제2, 제3의 희생자가 발생하지 않을 것이다.

이경전의 행복한 AI 읽기

[이경전의 행복한 AI 읽기](14) AI 산업의 파편화 위기 넘어 연합 AI 산업 생태계 구축하자(2024. 09. 27 16:00)

2024. 09. 27 16:00 경제 이경전 경희대 경영학과·빅데이터 응용학과·첨단기술 비즈니스학과 교수

스마트폰으로 챗GPT를 이용하는 모습. 출처: 언스플래시 한국은 인공지능(AI)을 왜 발전시켜야 하는가? AI가 생산성 향상과 가치 창출의 새로운 엔진이기 때문이다. AI는 범용 기술로서 증기기관, 내연기관, 전기 모터와 같은 혁신적인 기술에 비교할 수 있다. 컴퓨터, 인터넷, 모바일 기술이 산업 전반에 걸쳐 생산성과 효율성을 획기적으로 향상했듯 AI 역시 그와 같은 파급력을 가진 기술이다. 더 나아가 AI는 새로운 지식을 산출하고 산업과 직업 구조를 재편할 가능성을 제공하므로 이러한 변화에 선제적으로 대응하고 장기적 관점에서 준비할 필요가 있다. 전 세계적으로 AI 경쟁이 심화하고 발전 속도는 빨라지고 있다. AI 기술을 단순히 잘 쓰기만 해도 된다고 생각할 수 있지만, 한국은 단순히 기술을 도입하는 데 그치지 않고 글로벌 AI 경쟁에서 선두주자가 돼야 한다. 기술 자체, 이와 관련된 응용 제품 및 서비스, 산업 혁신과 새로운 산업 창출 등 큰 기회가 아직 한국에 남아 있다. 한국, 자금과 정책 파편화로 비효율 현재는 인터넷 혁명 초기에 비유할 수 있다. 2024년 AI 산업은 아마존닷컴, 구글, 이베이와 같은 거대 기업들이 창업되지 않았던 1994년, 인터넷 시대 초기와 유사하다. 많은 가능성이 열려 있는 상태란 의미다. 엔비디아(Nvidia)는 30년 전 시스코(Cisco)에 비유될 수 있는데, 산업 초기에는 인프라 및 하드웨어 중심의 매출이 창출되기 때문이다. 한편 대규모언어모델(LLM)의 비용은 점점 감소하고 있다. 예를 들어 GPT-4의 토큰당 비용은 18개월 동안 240분의 1로 하락했다. 반면 LLM의 실행 속도는 더욱더 빨라지고 있다. 이런 상황이므로 오픈AI(OpenAI)는 인터넷 초창기 웹브라우저를 처음 보급한 넷스케이프와 유사하게도 시장 창조에 기여했지만 극심한 경쟁과 고비용 구조, 불명확한 비즈니스 모델로 인한 어려움을 겪고 있다. 사용자의 고착화(Lock-In)가 어려운 점, 구글·아마존 같은 기존 기업의 견제, 앤트로픽·메타 AI·미스트랄 AI 등 새로운 도전자들의 출현은 이 산업의 전망을 복잡하게 만들고 있다. 답변 엔진 퍼플렉시티(Perplexity·AI)는 초기 야후닷컴(Yahoo.com)이나 구글과 비교될 수 있으며, 크게 성장할 가능성을 보여주고 있다. 반면 현재의 네이버나 구글은 30년 전 PC통신 서비스인 하이텔이나 아메리칸 온라인에 비유될 수 있으며, 아마존닷컴과 쿠팡은 30년 전의 오프라인 상점이나 백화점의 운명과 비교될 가능성이 크다. AI 에이전트에 기반한 상거래 비즈니스 모델이 나타나면 기존의 전자상거래 기업들은 자신들의 성공적인 비즈니스 모델을 내려놓고 수익성이 더 나빠 보이는 새로운 기술에 투자하거나 이와 경쟁해야 하는 딜레마에 빠져들 것이다. 이렇게 엄중한 상황임에도 불구하고 한국은 자금과 정책이 파편화돼 나눠먹기식 비효율에 빠져 있고 시너지가 일어나지 않는다. AI 투자, 지원, 연구개발, 파트너십에 시너지를 일으켜 성과를 낼 새로운 거버넌스(지배구조)가 필요하다. 연간 1조원 이상의 규모로 향후 5년간 투자하는 대규모 AI 펀드를 설립하고 이를 통해 AI 원천 산업과 응용 서비스, 플랫폼에 투자하는 전략이 필요하다. AI 산업의 성장을 위해서 민간이 주도하되 국가와 정부 차원의 보완 및 지원이 필요한 비상 상황이다. 민간에게만 맡겨 놓을 수 없는 상황이기 때문이다. 정부가 AI 생태계 조성의 주도권을 쥐고 AI 펀드를 중심으로 기획된 AI 스타트업을 출범시키고 최고의 AI 전문가들이 운영하는 펀드를 통해 대한민국을 AI G3 국가로 견인하는 전략적 접근을 해야 한다. AI 펀드를 중심으로 컴퓨팅 인프라 확보와 벤처 기업 양성, 자금 조달, 네트워킹이 한 번에 이뤄질 수 있어야 하며 현재 분리된 지원 구조를 개선해 시너지 효과를 극대화할 수 있어야 한다. 한국 고유의 ‘연합 AI 전략’ 추진해야 해외에서는 이미 AI 원천 기술과 응용 서비스에서 파트너십(협력)이 활발하게 이뤄지고 있다. 반면 한국은 여전히 파편화된 개발이 진행되고 있으며 네이버와 삼성전자 간 협력도 깨진 상황이다. 이러한 위기상황을 해결하기 위해 IMF 금융위기 시절에 있었던 빅딜(기업의 인수합병 등 큰 거래)을 연상할 만큼의 AI 기업 간 파트너십 형성에 정부가 촉매 역할을 해야 하며 세계 최우수급 AI 인재 확보, AI 학습과 추론에 사용될 반도체 기술과 물량 확보, 자본, 데이터를 통합적으로 기획 관리할 수 있는 체계가 필요하다. AI 응용 서비스와 플랫폼에 대한 정책 역시 중요한 과제다. AI를 통해 산업 혁신을 촉진하기 위해서는 AI 응용 서비스와 플랫폼에 대한 전략적 투자가 필요하다. 검색, 커머스(상업), 미디어, B2B(기업 간 거래) 등 다양한 분야에서 원천 기술을 활용한 상업적인 솔루션 개발을 지원해 산업 전반의 혁신을 이끌어야 한다. SKT와 퍼플렉시티 사례와 같은 국내외 전략적 파트너십 사례가 많이 나올 수 있도록 하는 정책적 노력도 필요하다. AI 원천 기술에서 절대 뒤처지지 않도록 선제 투자와 육성이 필요하다. 글로벌 빅테크에 종속되지 않고 독자적인 위치를 확립하기 위해서는 대학과 스타트업에 대한 GPU(그래픽 처리 장치) 지원 프로그램을 확대하고, 미국과 중국의 초거대 프론티어(Frontier·미개척지) AI 전략과 오픈 소스 전략에 대응하는 한국 고유의 ‘연합 AI 전략’을 추진해야 한다. 이를 통해 한국은 제3의 길을 걸으며 독자적인 AI 생태계를 구축할 수 있을 것이다. 세계적으로 가장 강력하고 지속가능한 AI 생태계 구축을 목표로, 세계 최초의 연합 AI 산업 생태계를 육성하고, 연합 학습 프로젝트를 전 분야에 활성화해 각 분야에서 최고성능의 AI를 구축해야 한다. 데이터의 소유권을 보호하면서도 산업 전반의 혁신을 촉진할 수 있도록 데이터 뱅크 제도와 기구의 설립을 세계적으로 선도하고 데이터 뱅크 제도에 기반한 데이터 수집 기업과 데이터 공장을 육성해야 한다. 국공립 연구소를 모두 묶는 초거대 연구개발 AI를 연합학습 기반으로 개발하고 제조, 의료, 헬스케어, 교육, 금융, 교통 등 민간 사회 전반에 연합학습을 활성화하는 촉매로서의 정부 역할을 해야 한다. 데이터의 소유권을 잘 관리해주고, 데이터가 필요한 주체에게 AI 훈련 등 사용 기회를 제공해 데이터의 정당한 사용을 둘러싼 법적·경제적·윤리적 문제를 세계 최초로 해결하는 방식으로 구축된 연합 AI 산업 생태계는 한국이 세계적인 AI 강국으로 자리 잡도록 할 것이다.

이경전의 행복한 AI 읽기

[이경전의 행복한 AI 읽기] (13) 인공지능 거품론과 캐즘? 문제는 매출과 이익이다(2024. 08. 30 16:00)

2024. 08. 30 16:00 경제 이경전 경희대 경영학과·빅데이터 응용학과·첨단기술 비즈니스학과 교수

인공지능은 거품이 아니며 ‘캐즘’을 통과 중이다. 캐즘은 소수의 소비자 위주의 초기 시장에서 벗어나 대중적인 시장으로 넘어가는 단계에서 수요가 일시적으로 정체하는 현상을 말한다. 이미지는 언스플래시 ‘인공지능(AI)은 거품이다’라는 의견이 최근 대두됐다. 결론부터 말하면 AI는 거품이 아니다. 단지 ‘캐즘(Chasm)’을 통과 중이다. 캐즘은 ‘투자한다는 마음으로 사는 고객’에서 ‘실용적일 때만 사는 고객’으로 확대하는 과정에 넘기 어려운 골짜기를 말한다. 암호화폐와 NFT는 캐즘을 통과하지 못할 것으로 본다. 메타버스는 긴 캐즘을 겪을 것으로 본다. 그러나 인공지능은 이미 캐즘을 통과 중이다. 인공지능 거품론은 AI가 돈은 못 벌고, 주가와 시장의 기대만 올려놓고, 결국 다 망해서 실망하게 할 것이라는 두려움이다. 결국 돈을 벌어야 거품이라는 말이 없어진다. 많은 사업이 실패하는 가장 큰 이유는 고객에 주는 가치 제안은 존재하나, 그 대가로 얻는 수익 흐름이 비용을 뒷받침하지 못하기 때문이다. AI 기업들은 아래에 소개하는 여러 종류의 이익 모델을 숙지하고 전략적으로 실행해야 한다. 엔비디아, 시장에서 더 높은 수익성을 유지 가능 고객 솔루션 모델은 단순하게 제품을 판매하는 것에서 벗어나 고객이 불편해하는 프로세스를 찾아 해결책(솔루션)을 제공해 높고 지속적인 이익을 추구한다. 엔비디아가 GPU(그래픽처리장치)뿐만 아니라 CUDA 플랫폼도 제공하는 것이 전형적 사례다. 경험 곡선 모델은 경험이 많아지면 거래당 비용이 떨어져 수익성이 높아진다. AI 컨설팅 기업 등이 사례다. 전문화 또는 전문제품 모델은 전문화로 일반 기업보다 몇 배 높은 수익을 향유하고 시간이 지나면 특허 만료와 경쟁으로 수익성이 감소한다. 뷰노와 같은 의료분야 AI 회사가 사례다. 제품 피라미드 이익 모델은 피라미드 아래에는 저가격 다량 제품을, 최상위에는 고가격 소량 제품을 배치하는 전략이다. 기본 서비스는 무료로, 고급 서비스는 유료로 제공하는 프리미엄(Freemium) 모델도 그 일종이다. 오픈AI가 GPT-3.5는 무료로, GPT-4는 유료로 제공하는 것이 AI 분야 전형적 사례다. 다요소 시스템 모델은 시스템 내에 여러 구성요소가 있고, 몇몇 요소가 고이익을 대표한다. 오픈AI가 개인 사용자용 구독 모델과 종량제 API(애플리케이션 프로그램 인터페이스) 모델을 같이 제공하는 것이 사례다. 브랜드 모델은 오랜 기간 브랜드를 구축해서 인식, 인지도, 신뢰, 믿음을 구축하고 이러한 무형자산을 높은 가격에 파는 모델이다. 런웨이 AI가 젠(Gen)-1, 젠-2, 젠 3 알파(Alpha) 등으로 서비스를 조합해 나가는 전략이 사례다. 블록버스터 모델은 프로젝트 형태의 사업이다. 프로젝트 유형별로 비용은 5배 정도 차이가 나지만, 산출 수익은 50배 정도의 큰 편차가 생긴다. 유럽연합(EU)의 멜로디나 한국의 K-멜로디와 같은 연합학습 기반 AI 신약 개발 사업이 사례다. 시간 모델(또는 신제품 모델)은 모방 기업이 이익을 잠식하기 이전에 초기 진입자가 이익을 볼 수 있게 설계한다. 초기 진입자가 우위를 점하며, 모방자가 잠식할 때까지 가격 프리미엄을 취한다. 제품이 성숙하면 수익은 떨어진다. 오픈AI의 GPT-3.4, GPT-4, GPT-5 등 계속된 신제품 출시 전략이 이에 해당한다. 창업가 이익 모델은 적절한 시기에 기업을 파는 모델로, 영국 스타트업 딥마인드(DeepMind)가 미국 구글에 2014년에 인수된 것이 대표적 사례다. 생산능력 활용 사이클(순환주기) 모델은 수익성이 순환주기에 의해 결정되는데, 엔비디아는 기술과 시장의 순환주기에 따라 그 생산능력과 수익성이 직접적으로 영향을 받는 대표적인 AI 기업이다. 기반 조성/판매 후 이익 모델은 후속 제품 이윤이 매력적인 경우로, 면도기-면도날 모델이라 불리기도 한다. 어도비(Adobe)는 크리에이티브 클라우드(Creative Cloud)와 같은 소프트웨어 제품군을 초기에 제공하고, 이를 통해 사용자를 확보한 후 지속적 업그레이드와 추가 서비스를 제공해 반복적으로 수익을 창출한다. 업계 표준모델은 규모에 따른 수입의 증가가 두드러지는 것으로, 표준을 형성함으로써 고객과 경쟁업체의 행동을 조정한다. 메타 AI가 라마 3.1을 무료로 배포하는 것이 대표적 사례다. 개발자들이 라마를 사용해 응용 서비스를 구축하게 되면 메타의 기술이 업계의 표준으로 자리 잡게 돼 최종적으로는 메타의 영향력과 수익성을 높이는 결과를 가져온다. 거래 규모 중시 모델은 비용이 거래 규모에 따른 수수료처럼 급격하게 증가하지 않는 경우 거래 규모가 큰 고객들에게 투자하는 것이 핵심이다. 팔란티어 테크놀러지스는 대규모 데이터 분석 서비스를 큰 규모의 정부와 기업 고객에게 제공하는데 고가의 계약을 통해 높은 이윤을 유지한다. 상대적 시장점유율 모델은 많은 산업에서 시장점유율이 높은 기업들이 수익성이 더 높은 경향이 있다는 점에 착안한 것으로 대규모 제조 경험과 대량구매 능력이 있어 가격우위를 가지며 비용면에서도 유리하다. 판매가 늘수록 광고와 고정비도 줄어든다. 엔비디아는 GPU 시장에서 점유율이 커 시장에서 더 높은 수익성을 유지할 수 있다. 인공지능은 분명 가치를 제공 지역 리더십 모델은 기업의 경제 기반이 대부분 지역에 있어서 지역별로 특정 지역을 우선 장악해 각종 비용 등을 줄여 경쟁자보다 수익성 우위에 서는 모델이다. 네이버가 주장하는 소버린 AI 모델이 일종의 지역 리더십 모델이다. 저비용 사업설계 이익은 기존 업체의 누적된 경험을 무의미하게 만드는 것이다. 바유로보틱스는 일반적인 자율주행차처럼 라이다(LiDAR)를 사용하지 않고, 자체 센서만을 탑재한 자율주행배송로봇으로 제작 및 운영 비용을 크게 낮췄다. 또 간단한 제작 방식으로 복잡하고 비용이 많이 드는 기존의 자율주행 기술을 우회하고, 지도가 없는 낯선 지역에서도 작동할 수 있게 했다. 스위치보드 모델은 다수의 커뮤니케이션 통로를 만들어 가치를 창출한다. 중개자는 구매자와 공급자의 거래 비용을 줄여주고, 둘 간의 성사에 따른 수수료 및 가입비 등 수익을 낸다. 매칭 AI 에이전트 비즈니스 모델이 전형적 사례다. 도널드 섹스톤(Donald Sexton) 컬럼비아대학 명예교수가 만든 ‘섹스톤의 매출 법칙’에 따르면 매출의 변화는 고객이 느끼는 가치의 상대적 변화의 제곱에 비례하고, 제품에서 느끼는 가치가 올라가면 고객의 지불 의사가 올라가서 가격을 올려 받을 수 있고, 동시에 사려는 사람의 수가 늘어난다. 지각된 가치가 상대적으로 변화한 만큼의 제곱으로 매출의 변화에 영향을 미치는 것이다. 결국 인공지능은 고객이 느끼는 가치를 높여야 한다. 그래야 고객이 돈을 내기 시작한다. 암호화폐와 NFT가 캐즘을 통과하지 못할 것이라는 전망은 이들이 고객에 주는 가치가 없어서 나온다. 반면 인공지능은 분명 가치를 제공하고 있다. 챗GPT와 같은 생성 AI를 써보면 고객에게 주는 가치는 분명 존재함을 실감할 수 있다. 이제 문제는 매출과 이익 모델이다.

이경전의 행복한 AI 읽기

[이경전의 행복한 AI 읽기](12) 신과 같은 AI냐, 비서 같은 AI 에이전트냐(2024. 08. 02 16:00)

2024. 08. 02 16:00 경제 이경전 경희대 경영학과·빅데이터 응용학과·첨단기술 비즈니스학과 교수

페이스북 모회사 메타는 지난 7월 23일 인공지능(AI) 모델 ‘라마 3.1’을 출시했다. 메타 홈페이지 마크 저커버그 메타 최고경영자(CEO)는 지난 6월 28일 공개된 영상에서 오픈AI(OpenAI)와 같이 폐쇄형 일반 인공지능(AI)을 내세우는 기업들을 겨냥해 “그들은 신을 창조하고 있다고 착각하는 듯하다”라고 비판하면서 “AI 기술이 독점돼선 안 된다고 생각한다”고 말했다. 또 “진정한 AI를 만든다는 것에 관해 이야기할 때 큰 거부감을 느낀다. 그들은 마치 신을 창조한다고 생각하는 것 같다. 우리가 하는 일은 그런 것이 아니다. 또 그런 식으로 전개되리라 생각하지 않는다”라고 주장했다. 이 말과 생각을 실천하기라도 하듯, 메타는 지난 7월 23일 ‘라마 3.1’을 오픈소스로 공개하면서 이 성능이 GPT-4o나 클로드 3.5 소네트 등 현존하는 최고 AI 모델에 맞먹는다고 발표했다. 라마 3.1은 그냥 내 회사의 컴퓨터에 설치해서 쓸 수 있는 나만의 AI 모델이 될 수 있는 것이다. 신과 같은 일반 AI가 창조되고 인간은 여기에 복종하는 것이 아니라 인간이 자신의 스마트폰에, 자신의 PC에, 자기 회사 컴퓨터에 나만의 AI를 만들고 비서 부리듯 사용하는 것이다. 완전히 다른 패러다임이다. 이에 뒤질세라 바로 다음 날인 지난 7월 24일 프랑스의 미스트랄AI도 ‘라지 2’라는 1230억개의 매개변수를 가진 모델을 발표했다. 이 역시 마찬가지로 설치하는 AI다. 프랑스 스타트업 미스트랄 AI가 지난 7월 24일 선보인 인공지능(AI) 모델 ‘라지 2’ 이미지 / 미스트랄AI 홈페이지 모두가 AI 에이전트 소유·활용하게 될 것 초·중·고등학교 수학에서 집합에 대해 배울 때 객관적으로 정의될 수 없는 것은 집합에 속하지 않는다고 배웠다. 키가 큰 사람의 집합, 뚱뚱한 사람의 집합 등은 정의될 수 없는 것이다. 일반 AI(AGI)와 초지능 역시 수학적으로 정의된 상태로 논의되고 있지 않다. 예를 들어, “AGI가 2030년이 오기 전에 실현될 것이다”라는 언급은 AGI를 우리가 수학적으로 정의할 수 있을 때만 의미가 있는 명제다. 오픈AI의 최고기술책임자(CTO) 미라 무라티는 GPT-4를 똑똑한 고등학생에 비유했고, GPT-5는 박사 학위 취득자 정도가 될 것이라고 예상했다. 그러나 박사 학위자도, 천재 같은 인간도 실수를 많이 하는 것처럼 일반 AI 역시 실수할 수밖에 없다. 모든 인류의 지능 총합보다 더 우수하다는 식으로, 수학적이지 않게 정의된 ‘초지능이 출현한다’는 특이점에 도달한다고 하더라도 그 AI는 완벽할 수가 없고, 여전히 인류의 정치적·집단적 판단이 필요하다. 결국 인간이 AGI, 초지능에 지배되는 것이 아니라 모든 사람이 AI 에이전트를 소유·활용하게 될 것이다. 다만 AI 에이전트가 유행되다 보니 대화할 수 있으면 모두 에이전트라고 하는 경우가 많이 발견된다. 하지만 대화 소통만을 에이전트의 특징으로 하는 것은 너무 넓은 정의이므로 사용자의 목표를 받아 여러 태스크를 반복적으로 수행하고, 필요하면 다른 AI 에이전트와도 소통해 문제를 해결하는 형태에 한정할 필요가 있다. AI 에이전트가 발생할 수밖에 없는 중요한 근거와 논리를 제공하는 것이 스캐폴딩(Scaffolding)이다. 스캐폴딩은 건축 현장의 임시 구조물을 지칭한다. 한국에서는 비계(飛階)라고 불리는데, 건물 신축·보수 시 사람이 높은 곳에 안전하게 도달하거나 다른 사물을 지지하기 위해 설치하는 것이다. 교육학에서 스캐폴딩은 교수자가 초보자가 혼자 할 수 없는 과제를 완성하도록 일시적으로 도움을 주는 구조를 의미한다. AI에서의 스캐폴딩은 복잡한 문제 해결을 위해 여러 AI 에이전트가 서로 협력하거나, AI를 사용자 필요에 따라 조정해 지원을 제공하는 과정을 의미한다. 복잡한 작업이나 문제를 관리하기 쉬운 작은 조각으로 나눠 전문화된 AI 모델에 상세한 자연어 지침과 함께 보내고, 전문가 모델 간의 의사소통을 감독하고, 프로세스 전반에 걸쳐 자체적 비판, 추론 및 검증 기술을 적용한다. 예를 들어, AI 모델에게 단순히 문제를 해결하라고 요청하는 대신에 한 모델에게는 공격 계획을 세우게 하고, 다른 모델에게는 가능한 해결책을 제시하게 하며, 또 다른 모델에게는 그것을 비판하게 하는 방식이다. 실제로 간단한 스캐폴딩으로 GPT-3.5가 GPT-4보다 우수한 성능을 내는 것을 가능하게 한다. GPT-4가 그린 스캐폴딩(비계·飛階) / 이경전 제공 인공지능 민주화, 또는 보편화의 길 어떤 조직에서 일반적인 상식과 지식을 가진 사람을 채용하게 되면, 그 사람에게 조직의 규칙과 전문 지식을 교육하고 습득시킨 이후에 업무에 투입하는 것과 마찬가지로, 일반적인 상식과 지식을 어느 정도 갖춘 대규모언어모델(LLM)과 같은 초거대 생성AI가 발전한다고 하더라도, 그 AI 시스템이 특정 조직과 목적을 위해 일할 때는 해당 조직의 규칙을 습득하고 이에 기반해 일해야 한다. 이러한 것을 가능하게 하는 과정이 스캐폴딩 등 프롬프트의 최적화, 또는 메타 프롬프팅이다. 에이전트를 개발할 때 오직 순수한 LLM 기반의 이른바 노 코드(No Code) 프로그래밍 구현이 가능할 것 같지만, 세상의 복잡한 문제는 상식과 일반 지식을 가진 LLM의 채용으로 해결되지 않는다는 점을 인식해야 한다. 더구나 다양한 태스크에 대해서 비용과 시간이 많이 드는 LLM API(응용 프로그램 인터페이스)를 외부에서 일률적으로 부르는 것은 산업 현장에서는 비현실적이다. 결국 LLM의 취사선택, 즉 상용 LLM API를 유료로 쓸 것인지 자체 AI 모델을 직접 개발하거나 구매·설치해서 쓸 것인지, RAG(검색증강생성)는 무엇을 쓰고, 어떻게 최적화할 것인지 등 각 프로세스 단위의 최적화를 가설에 근거한 실험을 통해 채택하고 조합해야 한다. 또한 최적화의 결과가 프롬프트상에서의 절차적 코드 형태로 표현되는 것은 시스템 유지 보수 관점과 에이전트의 특정 태스크 지식을 관리한다는 측면에서 모두 비효율적이므로, 프롬프트 엔지니어링 과정에서 코드와 지식을 되도록 분리하는 것도 필요하다. AI 에이전트를 경험해볼 만한 웹사이트를 몇개 소개한다. 에이전트GPT(agentgpt.reworkd.ai), 갓모드(godmode.space), 멀티온(multion.ai) 등은 웹 브라우저 기반으로 작동하며 설치가 필요 없고 LLM을 부르는 API 키도 필요하지 않아서, 사용이 간단해 접근성이 높다. 웹 작업을 자동화하는 데 중점을 두며, 디지털 플랫폼들에 AI 에이전트를 탑재할 수 있는 API를 제공한다. 현재 기업에 AI 에이전트를 만들어주겠다며 나서는 회사들로는 어뎁트AI(Adept.AI), 아바커스AI(Abacus.AI), 임뷰(Imbue.com), 페치AI(Fetch.AI) 등이 있다. 하나의 신과 같은 초지능이 출현하는 것이 아니라 모든 사람이 이런저런 AI 에이전트를 사용하는 것이 인공지능의 민주화 또는 보편화다. 이렇게 AI 에이전트는 초지능, 특이점과 대별되는 인공지능의 주요 개념이다.

이경전의 행복한 AI 읽기

“만약 축구 안 했다면 이보다 행복했을까”(2024. 07. 22 06:00)

2024. 07. 22 06:00 사회 이혜리 기자

사망한 유소년 선수, 카카오톡에 남긴 메시지 “강한 훈련만 강조하는 구시대적 인식 여전” 한국 축구 국가대표팀 선수들이 지난 6월 11일 서울 마포구 서울월드컵경기장에서 열린 2026 FIFA 북중미 월드컵 2차 예선 중국전에서 승리한 뒤 인사를 나누고 있다. 권도현 기자 “만약에 축구를 안 하고 일반 학생이었다면 이보다 행복했을까.” K리그2 김포FC의 유소년축구단 소속 선수이던 A군(당시 16세)이 2022년 4월 27일 새벽 숙소에서 숨진 채 발견되기 전 카카오톡에 남긴 메시지다. A군은 초등학교 4학년 때부터 축구를 전문적으로 배우기 시작했다. 그러나 축구선수라는 꿈을 향한 그의 도전은 7년 만에 사그라졌다. A군은 카카오톡 메시지에 코치들 이름을 나열한 뒤 “솔직히 오늘 걸려서 내일이 두렵다”, “OO의 차별과 OO의 폭력, 언어폭력” 등의 말을 썼다. A군의 죽음 뒤 유소년 선수를 대상으로 한 지도자의 폭력을 근절해야 한다는 목소리가 나왔다. 그러나 최근 손흥민 선수의 아버지 손웅정씨가 운영하는 ‘SON축구아카데미’에서 아동학대가 있었다는 논란과 관련해선 유독 손씨 측을 두둔하는 여론이 형성됐다. 손씨는 입장문을 통해 “사랑이 전제되지 않은 언행은 결코 없었다”고 주장했다. 온라인상에선 ‘축구선수가 되려면 강한 멘탈(정신력)이 필요하다’, ‘좋은 말로만 해서 제대로 교육이 되겠느냐’는 말이 나왔다. 지난 7월 12일 기자와 만난 A군의 아버지 B씨(50)는 “미성년자에게 언어폭력을 하는 게 스포츠가 맞느냐, 이런 스포츠가 어디에 있느냐”고 반문했다. 전문가들은 “한국 스포츠가 아직도 구시대적 담론에 머물러 있다”고 했다. 유소년 선수 사망 2년 2개월, 수사는 진행 중 스포츠 폭력 문제는 2018년 쇼트트랙 국가대표 심석희 선수가 코치로부터 폭행을 당한 사실이 알려지고, 이듬해 심 선수가 성폭행 피해를 고발하면서 크게 불거졌다. 2020년 트라이애슬론(철인3종경기) 국가대표 출신 최숙현 선수가 감독 등의 가혹행위를 견디다 못해 자살하는 사건까지 발생했다. 정부는 부랴부랴 스포츠윤리센터를 설립했다. 이 스포츠윤리센터가 김포FC 건을 조사했다. 스포츠윤리센터는 코치가 평소 유소년 선수들에게 “대가리에 총 맞았냐”, “XX 이건 아니지” 등의 욕설을 했다고 확인했다. 선수들이 규칙을 어길 경우 머리를 자르게 하고, 운동능력이 부족하다는 이유로 물병을 던지는 등의 폭력이 있었다고 봤다. 구체적으로 법적 책임을 따지는 절차는 여전히 진행 중이다. A군이 사망한 지 2년 2개월이 넘었지만 경찰은 아직 아동학대 혐의 수사를 끝내지 못했다. A군의 아버지가 코치들과 구단을 상대로 낸 손해배상 청구 소송은 수사 결과를 기다린다는 이유로 중지됐다. 수사·재판에선 폭력이 있었는지부터 폭력 때문에 A군이 사망했는지까지 원점에서 재공방이 이뤄진다. 코치들은 유소년 선수들과 논의해 규칙, 벌칙을 정했고 A군이 규칙을 어겨 주의를 시켰을 뿐 폭력은 없었다고 주장한 것으로 전해졌다. 규칙과 벌칙은 휴대전화 공기계 사용이 적발되면 머리 자르기와 퇴출, 생활규칙을 어기면 경기와 훈련 불가, 식사시간을 어기면 휴대전화 압수 등이었다. 스포츠윤리센터는 유소년 선수들이 이런 규칙과 벌칙에 동의했다고 하더라도 그 내용이 인권침해적이라며 A군이 벌칙 수행과 축구선수에서 퇴출될 수 있다는 공포감을 느꼈을 가능성이 있다고 판단했다. 최종적으로 수사기관과 법원이 어떤 판단을 내릴지는 알 수 없다. B씨는 “아이들의 경기 출전과 진로에 대한 권한을 가진 지도자가 욕을 하거나 강압적인 태도를 보이는 것은 아이들 인생 목표를 볼모로 하는 아동학대”라며 “군대보다 못한 최악의 인권문제가 축구계에 남아 있다”고 말했다. 스포츠 폭력은 훈련에 참여할지 여부부터 어떤 방식으로 참여할지, 경기에 출전할지 등을 결정하는 지도자와 그 지도자 말을 수용해야 하는 미성년자 선수의 권력관계 속에서 나타난다는 취지다. 그런 의미에서 B씨는 SON축구아카데미를 옹호하는 여론에 대해 “본질에서 벗어난다”고 했다. 지난 7월 4일 문화연대 등 시민단체들이 서울 마포구 한 카페에서 손흥민 선수의 아버지 손웅정씨의 아동학대 논란과 관련한 토론회를 열고 있다. 김창길 기자 B씨의 말이다. “아이들에게 축구선수는 꿈이고 로망이거든요. 어린 나이에 꿈을 갖는 것만 해도 엄청난 일인데, 아이가 훈련에 참여하고 경기를 뛰게 할 수 있는 권한은 지도자가 갖고 있어요. 팀을 쉽게 바꿀 수 있는 것도 아니에요. 지도자에게 복종할 수밖에 없어요. ‘너 게임 나와’, ‘너 수비해’, ‘너 빨리 뛰어야지’, ‘왜 저기에 패스 안 해줘’ 코치가 이렇게 가라고 했는데 안 가고 실수하면 욕이 나오는 거예요. 다 모여 있는 곳에서 욕을 하면 나머지 아이들에게는 어떻게 보이겠어요? 누가 이 아이한테 가서 ‘괜찮아?’ 하겠어요? ‘나는 그렇게 안 돼야지’ 하는 것이고, 저는 그게 가스라이팅이라고 봅니다. 경쟁 때문에도 그렇죠. 부모들은 내 아이가 못 뛰는 것을 보면 화가 나니까 코치·감독에게 잘 보이려고 하는 것이고요. 요즘 아이들이 나약하다, 축구는 욕을 들어가면서 강압적으로 배워야 한다고 하는데 이렇게 축구를 가르치는 나라는 전 세계에서 우리나라밖에 없을 거예요.” 대한축구협회는 지난해 12월 19일에서야 ‘윤리 규정’과 ‘축구인 인권보호 규정’을 만들었다. 윤리 규정 제15조 제1항은 “다른 사람의 인격과 존엄을 존중하고 보호해야 한다”고 명시한다. 제3항은 “모든 형태의 신체적·정신적 학대, 괴롭힘 또는 다른 자의 존엄을 고립시키거나 훼손하기 위한 적대적 행위를 해서는 안 된다”고 돼 있다. 다만 SON축구아카데미와 같이 학교 바깥에서 이뤄진 교육은 관리감독의 사각지대에 있다는 지적도 나온다. 스포츠계의 낡은 인식, 해병대 훈련도 전문가들은 ‘강한 훈련만이 메달을 만든다’는 낡은 인식이 근본적으로 문제라고 지적했다. 스포츠에 대한 과학적 접근보다는 폐쇄적인 분위기 속에서 강도 높은 훈련을 하고, 그렇게 만들어진 선수의 강한 정신력이 성과를 만든다는 교육방식이 스포츠 폭력을 청산하지 못하는 원인이라는 것이다. 일례로 지난해 말 대한체육회는 2024년 파리올림픽에 대비해 정신력을 강화한다는 명목으로 국가대표 선수들에게 해병대 훈련을 받게 해 논란이 일었다. 정윤수 성공회대 문화대학원 교수(스포츠평론가)는 “강인한 체력, 굳센 마음을 중심으로 한 스포츠 담론은 1990년대 이후엔 버려진 담론”이라며 “(미국 등에선) 합리적·과학적·체계적으로 성장 과정과 심리를 분석하고, 스포츠 교육으로 연결하는 시스템이 이미 30년이 됐는데 한국은 30년 전 상황에 있다”고 했다. 정 교수는 문화체육관광부, 대한체육회, 대한축구협회 등의 사후약방문식 대응도 문제라고 비판했다. 정 교수는 “어느 고약한 지도자 한 명이 나빠서가 아니라 폭력이 구조화돼 있는 상황에서 스포츠 정책에 대한 권한과 책임이 있는 기관들이 끔찍한 사건이 났을 때야 사후적으로 대책을 만들었다”며 “과학적 시스템 적용, 폐쇄된 생태계의 확장, 사건사고와 연관된 지도자는 스포츠계에 발을 못 딛도록 엄벌에 처한다 등의 정책을 제대로 폈다면 이런 사건(SON축구아카데미의 아동학대 논란)은 나오지 않았을 것이고, 나왔더라도 (여론이) ‘아직도 아이를 때리냐’는 반응이었을 텐데 지금은 뒤섞여 있다”고 했다. 허정훈 중앙대 체육대학 교수(체육시민연대 공동대표)는 “목표를 설정하고, 경쟁 속에서 선수가 자신감을 높이고, 불안을 조절하는 과학적인 방법이 있는데도 지도자가 가혹하게 욕을 하고 때려야 선수가 단련된다는 전근대적이고 후진적인 사고가 여전히 남아 있다”고 했다. 허 교수는 “일부 국가에서는 아이들에게 건강하고 행복하게 운동할 수 있는 권리를 보장하고, 그 아이들을 지도하는 어른들의 의무를 규정한 스포츠 권리장전도 있다”며 “제2, 제3의 김포FC 사건이 나타나지 않으려면 일부 코치의 자격 박탈이나 처벌 문제로 축소되지 않고 대한체육회와 대한축구협회 차원에서 어떤 대책을 마련했는지를 제대로 살펴봐야 한다”고 했다. “손웅정 감독 사건은 아동학대···사설 아카데미 사각지대 있다”손흥민 선수의 아버지 손웅정 감독이 운영하는 ‘SON축구아카데미’에서 일어난 아동학대 논란에 대해 체육계 시민단체들이 “명백한 아동학대”라며 “스포츠계 아동학대는 근절돼야 한...https://www.khan.co.kr/national/national-general/article/202407041647001 우울감 등 말하기 어려운 고민이 있거나 주변에 이런 어려움을 겪는 가족ㆍ지인이 있을 경우 자살예방 상담전화 ☎109에서 24시간 전문가의 상담을 받을 수 있습니다.