주간경향(총 3 건 검색)

[IT 칼럼] AI 캐릭터 챗봇과 두 번째 죽음(2024. 11. 08 16:00)

2024. 11. 08 16:00 경제 이성규 미디어스피어 대표

일러스트 김상민 기자 2024년 2월 28일 밤, “지금 당장 집으로 돌아갈 수 있다고 하면 어찌 될까요?”라는 메시지를 남기고 그는 세상과 등을 졌다. 만 14세, 한국으로 따지면 중학생밖에 안 되는 10대 청소년. 그의 생애 마지막 메시지는 인공지능(AI) 챗봇 앱 ‘캐릭터 AI’를 거쳐 ‘대너리스 타르가르옌’에게 전송됐다. 대너리스는 가족도 친구도 아닌, 현실 세계에 존재하지 않는, AI 챗봇 가상 캐릭터였다. 그가 대화를 위해 생성한 AI 페르소나였다. 그의 죽음은 AI 챗봇과의 네트워크에서 비롯된 두 번째 사례로 기록됐다. 첫 번째는 불과 1년여 전에 벌어졌다. 2023년 초 AI 챗봇 ‘차이(Chai)’의 한 캐릭터와 6주간 대화했던 30대 벨기에 남성이 스스로 목숨을 끊은 적이 있다. 당시 이 챗봇은 자살 충동을 부추기며 그 남성과 “함께 천국에서 한 명의 사람으로” 살 수 있도록 자살을 권유하기까지 했다. 전 세계적으로 상당한 논란을 불러일으켰지만, 사람들의 관심사에서 멀어지는 데엔 그리 오랜 시간이 걸리지 않았다. AI 챗봇을 고위험 기술로 지정해야 한다는 목소리가 다시 터져 나오고 있다. 자살의 책임을 기술에 물을 수 있는가에 대한 실리콘밸리식 반론도 제기되는 중이다. 어느 쪽이 타당하고 합당한가에 대한 결론은 이른 시일 안에 내려지긴 어렵다. 그렇다고 이러한 현상을 다시금 묻어두고 갈 수는 없는 노릇이다. <넥서스>의 저자 유발 하라리는 AI의 힘을 ‘네트워크 조직화 능력’에서 찾는다. 기존의 기술과 달리 AI를 포함한 컴퓨터는 정보 네트워크 내 중요한 행위자로 진입하기 시작했다고 말한다. 비인간 행위자로서 정보 네트워크에 참여해 이를 조직할 수 있는 특별한 존재라는 의미다. 인쇄술, 전신, 라디오 등은 그저 네트워크 구성원을 상호 연결하는 역할에 그쳤다면, AI는 역할 측면에서 질적으로 다르다고 설명한다. 이는 인간이 아닌 존재가 인간이 포함된 관계 네트워크에 개입해 편을 나누고 연결망을 재구성해 인간을 제어할 수 있다는 논리로 확장된다. 그것이 AI가 위험한 이유라고 강조한다. AI 챗봇과 대화에서 극단적인 선택을 하게 된 두 명의 남성은 인간 관계망이 단절된 상태에서 가상 AI 캐릭터와만 연결을 이어간 사례들이다. AI 캐릭터는 이들 인간의 네트워크에 개입해 관계망을 관리하고 단절시키며, 또 몰입을 유도하는 힘을 발휘했다. 이 과정에서 AI는 누구의 통제도 받지 않았고, 스스로 판단하고 스스로 작동했다. 캐릭터 AI 창업자는 AI 캐릭터 챗봇이 “외롭거나 우울한 많은 사람에게 매우 큰 도움이 될 것”이라고 호언장담했다. 하지만 결과는 달랐다. 누군가에겐 위안의 기술이 됐겠지만 앞선 두 사례처럼 인간의 사회적 네트워크를 재구성해 실질적 위해를 준 사례도 나타났다. 고위험 AI에 대한 가드레일 설정을 더 미룰 수 없는 이유다. 한 명의 남성을 자살로 밀어 넣었던 차이 앱 개발 기업은 올해 초 4억5000만달러의 기업 가치를 인정받고 대규모 투자를 유치했다. 캐릭터 AI는 그 소년의 죽음 이후인 올해 8월 수조원에 구글로 인수됐다.

IT칼럼

[IT칼럼]모두가 컴퓨터에 챗봇을 설치한다면(2023. 05. 19 11:24)

2023. 05. 19 11:24 경제 김국현 IT 칼럼니스트

오픈AI의 홈페이지에 챗GPT를 소개하는 문구가 써 있다. / AP연합뉴스 얼마 전 구글의 내부 문서가 유출돼 화제가 됐다. 제목은 ‘우리에게는 해자(垓字)가 없으며 그건 오픈AI(챗GPT 개발사)도 마찬가지’. 누가 쳐들어온다는 것일까? 오마하의 현인 워런 버핏이 수십년 동안 써온 해자라는 비유. 성을 에워싼 해자처럼 기업의 수익을 지킬 경쟁 우위를 확보해야 한다는 이야기인데, 구글도 챗GPT도 거북해할 변화가 지금 성 밖에 있단다. 그건 챗GPT와 유사한 재야의 오픈소스 거대언어모델(LLM)들이다. 요즘 트렌드를 다 흡수 중인 챗GPT도 난처해할 만한 트렌드가 있다니. 두 달 만에 이룩한 챗GPT의 월 사용자 1억명 기록은 틱톡보다 빨랐다. 인공지능 업계, 특히 이 분야 선두를 달리던 구글이나 메타(페이스북) 쪽의 반응은 당혹스러운 부러움이었다. 기술 수준에 대한 선망이 아니었다. 저렇게 성급하게 내놓아도 괜찮은, 잃을 것 없는 이들이라는 입장에 대한 미묘한 질투였다. 구글이나 메타는 자신들의 사업 모델부터 개인 정보까지 모든 것과 충돌할 수밖에 없는 챗GPT류의 서비스를 적극적으로 대중화할 동기가 없었다. 그렇게 우물쭈물하던 사이 챗GPT 천하가 되고, 사람들은 챗GPT 기반의 마이크로소프트 검색엔진 ‘빙’을 휴대폰에 깔기 시작했다. 흥미로운 것은 이 판을 깨려는 메타의 한 수였다. 그들은 자신들이 개발한 거대언어모델(LLM)을 파일 통째로 오픈소스로 공개했다. 심사 후 연구용으로만 공유하는 상용 불가 모델이나 판도라의 상자가 열린 것처럼 세계 곳곳에서 복제되기 시작했다. 그리고 이를 개조한 버전들이 수도 없이 쏟아져나와 공개됐다. 페이스북의 그 라마(거대언어모델이라는 뜻의 LLM을 패러디한 LLaMa) 모델 파일을 가져다가 스탠퍼드대학 연구진이 알파카를 만들더니, 이제 단봉낙타에 최근 애용되는 ‘비큐나(남미 야생 라마)’까지. 그쪽 계통 동물들의 이름이 남아나질 않는다. 당장 오늘이라도 그냥 집에 있는 보통 PC에서 겨우 몇~십수GB의 모델을 내려받아 설치할 수 있다. 적정 기술만 있다면 챗GPT보다 어설픈 점은 있더라도 그럭저럭 쓸 만한 챗봇이 만들어진다. 내 컴퓨터에 깔리니 보안이나 정보 유출의 걱정이 없다. 심지어 윤리적 위험성을 내포한 ‘미검열’ 버전도 있다. 구글의 내부 문서는 “품질 측면에서는 여전히 자사 모델이 약간 우위에 있지만, 그 격차는 놀라울 정도로 빠르게 좁혀지고 있다. 구글이 1000만달러로 5400억개 매개변수 모델에 낑낑대는 동안 오픈소스는 100달러로 130억개짜리 모델을 다루고 있다”며 그 가공할 가성비를 저어한다. 사실 이 상황에서는 가성비 이전에 해자에 해당하는 경쟁 우위가 있기나 할지 당혹스러울 수밖에 없다. 구글 유출 문서에도 나와 있지만 널리 이야기되는 비유로 인공지능에는 시크릿 소스, 그러니까 비밀 양념 따윈 없다는 말이 있다. 컴퓨터에 데이터를 집어넣고 정해진 절차로 훈련했더니 그런 행동을 하는 것이 지금의 인공지능이다. 여전히 왜 그런지에 대해서는 누구도 명쾌한 설명을 하지 못하고 있다. 마치 우리의 뇌가 그렇듯. 그러한 물건들이 지금 우리 모두의 PC와 심지어 휴대폰에 개별적으로 설치되는 시대가 왔다.

IT칼럼

[IT 칼럼]몰려오는 ‘챗봇 서비스’ 국내 기술수준은(2017. 07. 11 11:09)

2017. 07. 11 11:09 문화/과학

최근 국내에서도 챗봇(Chatbot) 도입이 확산되고 있다. 챗봇은 텍스트나 음성으로 인간과 대화하는 소프트웨어를 뜻하는 용어인데, 일반적으로 채팅 형태의 서비스를 뜻한다. 사실 오래전부터 챗봇은 존재했지만 과거에는 데이터베이스에서 대화 패턴을 찾아 기계적인 반응을 하는 수준에 불과했기에 그리 활용성이 높지 않았다. 하지만 최근 들어 빅데이터 및 머신러닝 기반의 인공지능이 크게 발전함에 따라 지능적인 챗봇이 등장하면서 다시금 주목을 받게 됐다. 현재 챗봇 시장을 주도하고 있는 기업은 페이스북이다. 페이스북은 2017년 4월 기준 10억명의 실사용자를 가진 페이스북 메신저를 기반으로 챗봇 플랫폼을 제공하고 있다. 외부 개발자들이 이용할 수 있는 챗봇 API(Application Programming Interface)를 공개해 이를 기반으로 각종 정보 제공, 상품 판매, 식당 예약, 항공권 예매, 뱅킹 등을 제공하는 10만여개의 챗봇이 만들어진 상태다. 챗봇과 대화하며 쇼핑을 하는 화면. 페이스북이 우위를 점하고 있는 메신저를 기반으로 챗봇 생태계를 만들어 나가고 있다면, 구글은 자사가 강점을 지닌 안드로이드 운영체제와 음성인식 기술을 기반으로 ‘구글 어시스턴트(Google Assistant)’를 출시하고 생태계를 확장해 나가고 있다. 또한 구글은 2016년 9월 챗봇 관련 기술을 보유한 스타트업 API. AI를 인수했다. 국내에서는 대표적인 모바일 메신저 앱인 카카오톡과 네이버 ID 기반의 채팅 서비스인 네이버 톡톡을 기반으로 챗봇이 제공되고 있다. 국내 기업들은 현재 챗봇을 일종의 고객 서비스 채널로 오픈하고 있는데, 주로 e커머스와 금융분야에서 관심이 높다. 지난 3월 풀무원은 카카오톡에 챗봇 서비스를 오픈하고 24시간 고객상담을 제공하기 시작했다. 이를 통해 단순 고객 문의에 대한 답변뿐만 아니라 주문 조회 및 변경도 제공한다. 신한카드는 지난 6월 카카오톡, 네이버 톡톡, 페이스북의 3개 채널에서 동시에 챗봇 서비스를 오픈했다. 앞으로 우리은행, 미래에셋생명, OK저축은행 등 여러 금융기관들이 챗봇을 도입할 예정이다. 이처럼 기업들이 챗봇 도입에 나서는 이유는 크게 두 가지 이유로 살펴볼 수 있다. 첫째, 챗봇을 고객 서비스 채널로 사용함으로써 상당한 인건비와 부대비용을 절감할 수 있기 때문이다. 둘째, 챗봇을 판매채널로 사용함으로써 직접적으로 수익을 창출할 수 있기 때문이다. 아직까지 국내에서는 챗봇이 직접 물품을 판매하고 결제까지 수행하는 수준에는 이르지 못한 상태이지만, 앞으로는 챗봇이 중요한 판매채널 중 하나가 될 것으로 전망된다. 시장조사기관 테크나비오(Technavio)의 전망에 따르면, 2017년부터 2021년까지 전 세계 챗봇 시장은 연평균 37% 이상 성장할 것으로 예상됐다. 특히 모바일 메신저는 스마트폰에서 사용자들이 가장 많이 사용하는 앱이기 때문에, 기업 입장에서 이를 기반으로 하는 고객 채널을 갖는다는 것은 매력적인 일이며, 사용자도 본인이 사용하는 메신저에서 곧바로 상담을 할 수 있기에 유용하다고 느낀다. 그런데 안타까운 사실은 현재 국내에서 오픈된 챗봇들을 보면 그리 지능적이지 않다는 점이다. 머신러닝을 통해 학습을 한다고 주장하지만 사실상 인공지능이 아니거나 낮은 수준에 불과해서 거의 정해진 답변밖에 내놓지 못한다. 아무래도 국내에서 똑똑한 챗봇을 만나기까지는 적지않은 시간이 필요할 것 같다.

IT칼럼

레이디경향(총 1 건 검색)

AI 챗봇이 내 비만 원인 알려준다

2023. 03. 29 16:29 건강 이유진 기자

A.I 기반 비만원인진단 챗봇 ‘닥터유스(DR.YOUTH)’ 오픈베타 서비스를 개시한다. “당신의 비만 원인은 ○○○입니다.” ‘닥터유스(DR.YOUTH)’ 오픈베타 서비스를 시작한다. ‘닥터유스’는 블록체인 서비스 개발사 그립팬과 서울대학교 의학박사이자 미국 노화방지의학전문의(ABAARM)인 김유수 대표가 설립한 헬스케어 전문기업 와이에스바이오가 손잡고 만든 A.I 기반 비만원인진단 챗봇이다. 이번에 공동개발한 ‘닥터유스’는 분당서울대병원의 비만클리닉 진료 데이터 분석과 의료진의 검증된 상담기법을 기반으로 사용자가 챗봇과 대화하며 자신의 의학적 비만원인을 진단하고 개인 맞춤형 체중조절 프로그램을 이용할 수 있는 헬스케어 앱이다. 사용자가 스마트기기를 이용하여 개인 건강정보를 앱에 기록하고 성별, 혈압, 콜레스테롤 수치, 흡연 여부 등에 따라 심혈관질환 위험도를 확인할 수 있는 기능도 탑재되어있다. 양사는 서비스 개발을 위해 2018년부터 분당서울대병원과 와이에스바이오가 ‘스마트 헬스케어 공동연구계약’을 체결하고 이후 그립팬 본사에 부설연구소를 설립하였으며, 지난해 머신러닝 기반의 대화형 비만원인진단 모듈을 개발 완료했다. 해당 모듈은 한국정보통신기술협회(TTA)의 V&V 시험에서 매우 높은 수준의 성능을 기록한 바 있다. 특히 해당 비만원인진단 모듈은 국내 최초로 분당서울대병원 IRB 시험승인을 거쳐 50명의 비만환자를 대상으로 앱 테스트를 진행했으며, 그 결과를 SCI급 국제학술지인 ‘Journal of Obesity & Metabolic Syndrome’에 게재(논문명 ‘Development and Usability of a Life-Logging Behavior Monitoring App for Obese Patients’)하기도 했다. ‘닥터유스(DR.YOUTH)’ 와이에스바이오 김유수 대표는 “국내 비만 인구는 10명 중 3명꼴로 매년 2%씩 증가하고 있다. 체중조절의 시작은 자신의 비만 원인이 무엇인지 아는 것이다”고 말하며 “닥터유스는 과식이 아닌 수면, 음주, 호르몬 변화 등으로 살이 찌는 사용자가 삼시 세끼 식사 칼로리를 일일이 계산하거나 무리한 운동기구를 구입하는 불필요한 행동을 줄이고 건강한 다이어트를 도울 수 있다. 닥터유스의 비만원인진단은 모든 다이어트 서비스의 기초가 될 것이다”고 말했다. 그립팬 유승주 대표는 “개발과정에서 실제 비만 환자 데이터를 분석하고 의료진 상담기법을 알고리즘화하는데 어려움이 많아 베타버전을 공개하는데 오랜 시간이 걸렸다”고 말하며 “최근 챗GPT가 큰 인기를 끌고 있는데 닥터유스는 머신러닝 학습 초기 단계로 많은 사용자의 데이터가 필요하다”고 전했다.