지난 6월 이코노미스트의 기술계간지(TQ)에 AI(인공지능) 기술의 현재 상황과 그 한계에 대한 특집 기사 <Artificial intelligence and its limits>(링크)가 실렸다. 이 기사는 결론 부분에서 ‘AI의 가을이 다가오고 있다’(Autumn is coming)고 말했다.
알다시피 그동안 AI는 플랫폼, 빅 데이터와 함께 디지털 경제를 떠받치는 3대 축으로 인식돼왔다. 플랫폼 경제의 최강자 아마존이 성공한 비결 중 하나다. 한국에선 프로바둑기사 이세돌과 알파고의 대결을 통해 AI의 잠재력이 잘 알려졌다.
AI 기술은 과거 수십 년간 성취한 속도에 비해 최근 몇 년간 더 큰 발전을 이루었고, 활용도 역시 크게 높아진 게 사실이다. 하지만 아직 해결하지 못한 많은 과제와 한계가 있는 것도 사실이다.
<피렌체의 식탁>은 정지훈 박사의 해제(解題) 글을 통해 이번 특집 기사를 자세히 소개한다. 정 박사는 이코노미스트 기사 내용의 주요 포인트를 요약해 소개하고, 전문가 시각에서 설명해준다. ICT 및 미래 트렌드 전문가인 정 박사는 현재 모두의연구소 최고비전책임자로 일하고 있다. [편집자]
#과도한 기대는 언제나 역풍 초래
AI의 여름, 역사적으로 세 번째
가을 뒤 겨울을 피할 수 있을까?
#이코노미스트가 지적한 AI 한계들
①활용할 만한 데이터 많지 않다
②투자 대비 효용이 높지 않다
③중소기업, 컴퓨팅비용 큰 부담
④무인자율차 운행 아직 제한적
#AI 할 일을 인간이 먼저 고민해야
인터넷처럼 곧 국가인프라 될 것
세계적인 컨설팅 업체들은 최근까지 AI가 글로벌 경제에 더할 수 있는 가치를 2030년까지 13조~18조 달러로 늘어날 것으로 예측했다. 구글 CEO인 순다 피차이는 ‘AI가 불이나 전기의 발견보다 중요한 기술’이라고 말할 정도로 기대감을 키워왔다.
딥러닝 기술의 주창자인 제프리 힌튼 교수(토론토대학)는 “앞으로 영상의학과 의사들도 수련을 중지해야 한다”고 주장한 바 있다. 또한 자율주행차량 기술을 개발하는 개발자들은 로봇택시가 모빌리티(이동) 혁명을 일으킬 것이라고 이야기한다.
코로나19 시대에도 AI는 역할을 했다. 블루닷 등의 AI 기술은 코로나19를 중국 병원에서 공식 보고하기 전인 지난해 12월에, 이미 새로운 바이러스 출현의 신호를 감지했다.
그렇지만, 이런 흥분은 사실 역사적으로 처음이 아니다. 1950년대 중반에, 적어도 20년 내에 AI가 인간 수준 지능에 도달할 것으로 기대했으나 그 기대는 1970년대 들어 무너졌다. 1980년대 시작된 두 번째 붐도 얼마 가지 않아 무너졌다.
지나친 기대가 거품처럼 무너질 때 ‘AI의 겨울’이 찾아와서 연구자금은 말라붙고 이 분야 평판도 나빠졌다. 물론 현재 AI 기술의 성과는 과거에 비해 훨씬 성공적이다. 전 세계 수십 억의 사람들이 매일 AI 기술의 혜택을 입고 있다.
그러나 지나치게 낙관적으로 이야기한 예측들은 당장 현실화되기엔 요원해 보인다. 자율주행기술이 과거보다 크게 발전한 것은 사실이나, 주요 거리에서 이들이 일상적으로 운행되는 것을 보려면 아직 멀어 보인다. AI가 탑재된 영상의학 기기가 늘고 있지만, 영상의학과 의사들이 일자리를 잃을 것 같지도 않다.
지난해 에릭 토폴은 “AI와 관련한 소문이, 현재 AI가 과학적으로 이룬 것을 한참 상회한다”고 지적했다.
심지어 낙관론을 설파했던 컨설팅 업계에서조차 비관론이 나온다. 가트너의 스베틀라나 시큘라는 ‘2020년은 AI의 하강이 시작되는 해’라는 진단을 내놨고, 벤처캐피탈 펀드인 MMC는 유럽의 AI 스타트업들을 조사한 뒤 이 중 40%가 아예 AI 기술을 쓰지 않는 것 같다고 발표했다.
문제는 과도한 기대가 언제나 역풍을 불러온다는 점이다. 역사적으로 세 번째인 AI의 여름은 과거와 달리 이미 너무나 많은 사용처와 검증된 기술들이 보급되고 있기에, 과거와 같은 혹독한 겨울을 불러오지는 않을 것이다.
그렇지만, 현재의 AI 기술이 해결해야 할 여러 가지 문제들과 한계를 명확히 이해하고 알려서 산들바람이 느껴지는 가을 정도를 준비하는 게 이 기술의 긍정적인 발전 추세에 더 중요하다고 생각된다.
그런 맥락에서 이코노미스트가 지적한 AI의 여러 한계들에 대해 좀 더 자세히 알아보도록 하자.
#Data 문제: 활용할 만한 데이터는 그리 많지 않다?
실제로 AI를 통해 상용 서비스를 하기 위해서는 정말 많은 양의 데이터를 필요로 한다.
아마존이 추진하는 무인점포만 하더라도 매우 다양한 상황의 카메라 데이터를 얻을 수 있어야 정확하게 실시간 서비스를 할 수 있다. 이런 데이터들을 얻기 위해 아마존 스태프들이 실험매장에 자주 가서 계속 테스트를 해야 하고, 일부 매장을 열어서 손실을 감안하고라도 데이터를 획득해야 한다.
흔히들 인터넷과 모바일 시대가 열리면서 정말 어마어마하게 데이터가 많다고 하지만, 문제는 아마존의 사례처럼 상용 서비스를 하려 할 때 꼭 필요한 데이터는 실제로 얻기가 만만치 않다.
코그닐리티카(Cognilytica)에 따르면 AI 프로젝트를 진행하면서 80% 정도의 시간은 데이터를 확보하는데 소요된다. 일단 데이터가 있어도 수많은 데이터에 적절한 라벨(label)을 붙이는 작업이 필요하다. 큰 회사들은 이 작업들을 내부에서 소화하지만, 일반 기업들은 이를 아웃소싱하게 되는데, 이런 ‘데이터 준비’ 시장규모가 2019년 15억 달러, 2024년 35억 달러 규모에 이를 것으로 예측되고 있다.
데이터 그 자체에도 함정이 많다. 머신러닝은 결국 입력과 출력 값을 연결지어 학습하지만, 폭넓은 맥락을 이해하고 하는 것이 아니라서 일부 데이터가 우연치 않게 비슷하게 연관지어지는 경우 완전히 잘못된 판정을 내리기도 한다.
데이터가 가지고 있는 편견(bias)도 큰 문제다. 작년 미국 표준기술연구소(NIST)가 200개 가까운 얼굴인식 알고리즘들을 테스트해 본 결과, 백인에 비해 흑인 얼굴을 제대로 인식하지 못한다는 결과를 밝혀냈다. 이는 IBM이 발표한 바와 같이 학습된 데이터의 80%가 밝은 피부를 가진 사람들이었기 때문이다. 아마존은 2017년 직원 채용을 할 때 AI 활용을 중단했는데 그 이유는 시스템이 남성 지원자를 선호했기 때문이다.
의료 데이터 등의 경우 프라이버시 문제도 데이터 획득에 중요하다. 이런 이유로 학습 가능한 데이터를 합성하는 기술 등이 각광받고 있다. 또한 코로나19 이후 많은 사람들이 마스크를 착용하게 되자 얼굴인식기술이 무용지물이 되었듯이, 세상이 변화하는 상황을 AI는 끊임없이 반영하고 학습하지 않으면 안 된다.
이코노미스트에서 지적한 데이터 이슈는 현재의 AI 기술이 당면한 가장 현실적인 문제를 잘 지적하고 있다. 모두들 AI의 문제라고 여긴 것의 상당수는 사실 데이터 문제다. 데이터를 많이 확보하고 잘 활용할 수 있는 기업들은 할 수 있는 게 많지만, 실제로는 AI 기술 도입보다 데이터 관련 조직을 잘 만들고 데이터 획득 활동을 잘하는 기업들이 AI를 잘 활용하게 된다.
이코노미스트에서 언급한 데이터 준비와 관련한 기업들이 우리나라에서도 그래서 더욱 크게 부상하고 있다. 대표적인 게 크라우드웍스라는 기업인데, 2017년 설립된 이 스타트업은 매우 빠르게 성장하면서 2019년에 이미 100억 원이 넘는 시리즈B 펀딩에 성공하는 등 AI 기술기업 이상으로 성장하고 있다.
데이터 편견에 의한 AI의 편견은 큰 문제다. 특히 이 문제는 우리나라처럼 급격하게 AI 면접을 늘리는 상황에 큰 경종을 울리고 있다. AI 면접의 확대와 관련한 뉴스를 보고, 세계적인 AI 연구자 중 한 명인 조경현 교수(뉴욕대학)가 ‘내가 가르치는 학생들도 이렇게 하면 안 된다는 것을 안다’고 비판을 했는데, 이는 AI의 공정성 이슈로 볼 수 있다.
AI는 일반적으로 생각하는 것처럼 공정하지 않다. 인간 사회 자체가 가지고 있는 데이터가 그리 공정하지 않으며, 정말 많은 과정에서 인간의 편견이 개입하기 때문이다. 그래서 데이터가 가지고 있는 여러 가지 문제점을 제대로 파악하고 적절한 대처를 하는 게 AI의 도입과 활용에 가장 중요하다는 점을 잊지 말아야 한다.
#비즈니스와 알고리즘 군대들
스티븐 레비는 최근 출간한 책 <페이스북: 인사이드 스토리>에서 “페이스북에서 17억3000만 명에 이르는 사람들이 게시 글을 쓰거나, 댓글을 달고 있다”며 “(이 글들이) 여러 나라의 법률과 페이스북 정책에 맞는지 제대로 감시하기 위해서는 알고리즘 군대에 의존할 수밖에 없다”고 지적했다.
실제로 페이스북은 알고리즘과 인간 직원들을 함께 배치해 이런 작업을 수행한다. 아무래도 알고리즘은 쉬지도 않고, 피곤해하지도 않으며, 돈을 지불할 필요도 없기에 그 의존도가 인간 직원보다 점점 높아지는 것이 사실이다.
페이스북뿐 아니라 구글도 검색엔진의 최적화와 타게팅 광고 등에 AI를 활용한다. 아마존과 넷플릭스는 추천 엔진에, 트위터와 틱톡은 팔로우할 새로운 사용자 추천 등에 활용한다.
이렇게 AI가 많이 활용됨에도 보스턴컨설팅그룹과 MIT가 공동으로 2500여 명의 경영진을 대상으로 설문조사한 결과를 보면 응답자 중 3분의 2가 AI에 상당한 투자를 했음에도 가시적인 비즈니스 성과는 없었다고 답하였다.
이런 분위기를 반영하듯 PWC의 조사 결과를 보면, 경영진의 4%만이 기업 전반에 AI를 도입할 계획이라고 답했다. 이는 전년도의 20%에 비하면 크게 떨어진 수치다. 가장 큰 이유로는 큰 변화에는 시간이 많이 필요하다는 점을 든다. 공장의 기계들이 증기기관에서 전기로 이전되는 데도 30년이 걸렸다.
그런데 AI의 경우에는 인터넷 거인들의 대성공에 의한 착시현상이 더해졌다. 이들은 이미 수많은 프로그래머들을 고용하고 있고, 사용자들이 생성한 어마어마한 데이터들을 갖고 있는 기업들이다.
그에 비해 대부분의 일반 기업들은 적절한 인재를 채용하기도 힘들어한다. AI 전문가는 희소하며, 연봉도 높은 편이다. 테크 분야의 대기업들이나 이런 고연봉 인재들을 품을 수 있다는 평이 나온다.
또한 AI를 적용할 분야를 찾는 것도 문제다. 한스 모라벡은 기계는 인간에게 어렵고 복잡한 문제는 잘 풀지만, 인간이 잘하는 협력이나 동작조차 기계는 어려워한다는 ‘모라벡의 패러독스’를 이야기한 바 있는데, 우리가 풀어야 할 문제는 AI에게 무지 어려운 것들이 많다. KPMG의 AI 전문가인 폴 헤닌저가 “인간 최고수를 넘는 바둑 AI를 만드는 것보다, 평범한 고객응대 챗봇을 만드는 것이 더 어렵다”고 말하는 이유다.
그럼 어떻게 해야 할까?
영국의 창고 자동화와 음식배달기업 오카도의 엔지니어링 이사인 제임스 그랠턴은 “작게 시작해서 빠르게 성과를 낼 수 있는 것부터 시작하라”고 조언한다. 오카도는 그렇게 시작해서 현재는 수천 대의 로봇들을 동원해 온라인쇼핑 주문에 맞춰 효과적으로 음식 주문을 처리하고 있으며, 고장 난 로봇을 쉽게 감지해서 대응하고 있다.
문제는 현실세계에선 정확히 규정되거나 단순한 작업들보다, 상황이 복잡하고 해결방안이 열려있는 종류의 문제가 훨씬 많다는 점이다.
두 번째로 지적한 비즈니스와 알고리즘의 매칭과 관련한 문제는 훨씬 더 근본적인 AI의 한계를 보여준다. 한 마디로 AI에 투자해 봐도 당분간은 비즈니스에 큰 도움을 받기 어려울 거 같다는 것이다. 첨단 인력을 구하고 AI 프로젝트를 진행하는데 많은 비용이 들어가는 반면, AI를 접목해서 해결할 수 있는 문제는 생각보다 많지 않아서 투자 대비 효율이 떨어진다고 요약할 수 있다.
이를 해결하기 위해서는 인터넷의 발전 사례와 같이 인터넷 활용에 들어가는 비용과 난이도가 급격히 낮아져서 간단히 이것저것 시도해볼 만한 환경이 되어야 한다. 또한 AI 수준이 크게 진화되어 여러 변수가 복잡하게 꼬여 있거나 답이 여러 개 있을 수 있는 문제들을 풀 수 있게 돼야 한다. 한 마디로 AI 활용도가 지금보다 훨씬 높아져야 한다.
이와 관련해 AI 도입과 관련한 기업 비용의 감소 추세에는 다소의 진전이 있다. 앞으로 수년 내에는 매우 쉽고 저렴하게 AI를 활용할 수 있는 기술이나 인력들이 많이 나올 것으로 예상된다. 그럴 경우 기업 쪽에서 AI를 비즈니스에 접목하는 경우가 크게 늘어날 것이다.
하지만, 현재의 AI 기술이 인간이 잘하는, 다소 복잡하고 유연하며, 몇 가지 일이 엮여 있는 문제를 푸는 수준으로 발전되기까지는 기술적으로 극복해야 할 장애물이 아직 많고 꽤 오랜 시간이 걸릴 것으로 생각된다.
#AI 하드웨어의 가격과 비용 상승
컴퓨터산업에서 널리 알려진 ‘무어의 법칙’에 따르면 2년마다 단위비용 당 컴퓨팅 파워는 2배가 된다. 이를 AI에 적용하면 컴퓨터를 이용해 학습시키는 비용도 그렇게 줄어든다는 계산이 나온다.
그러나 현실은 그렇지 않다. 풀어야 할 문제가 복잡해지고, 기업 간 경쟁이 치열해지면서 실제로 필요한 컴퓨팅 비용이 크게 늘어나고 있다. 스탠퍼드대학 AI연구실의 크리스토퍼 매닝에 따르면, 예를 들어 2018년 구글에 의해 개발된 강력한 언어 모델인 BERT는 3억5000만 개의 내부 파라미터를 활용해 위키피디아와 온라인 문서들에서 33억 단어를 학습한다. 최근에는 심지어 위키피디아 전체도 그렇게 큰 데이터가 아니라고 이야기한다. 데이터가 많을수록 성능은 좋아지는데, 문제는 컴퓨팅 파워의 비용도 그에 비례해 올라간다는 점이다.
캘리포니아의 AI 기업인 OpenAI에 따르면 2012년 시작된 머신러닝 기술이 필요로 하는 컴퓨팅 파워는 그 때부터 2018년까지 30만 배가 늘었으며, 3.5개월마다 두 배씩 늘고 있다고 한다. OpenAI가 개발한 ‘OpenAI Five’ 시스템의 경우 DOTA2라는 게임을 마스터하기 위해 수천 개의 칩이 달린 컴퓨터를 쉬지 않고 10개월을 학습시켰다고 한다.
페이스북 AI의 책임을 맡고 있는 제롬 페센티는 현재 가장 큰 모델을 한번 학습시키는데 들어가는 비용이 전기사용량 기준으로 수백만 달러는 될 것이라고 말한다. 페이스북과 같이 큰돈을 벌고, AI를 통해 얻을 게 많은 대기업이야 이런 비용이 크게 부담되지 않겠지만, 대다수 다른 기업들의 상황은 그렇지 않다.
실리콘 밸리의 영향력 있는 벤처캐피탈인 앤드리센-호로비츠는 전통적인 소프트웨어 기업에 비해 AI 스타트업의 투자 매력이 떨어진다고 지적했는데, 그 이유 중 하나로 총매출의 25% 이상 발생할 수 있는 컴퓨팅 비용을 들었다.
컴퓨팅 비용의 급등은 보다 효율적으로 AI 연산을 수행할 수 있는 하드웨어 칩의 설계와 개발전쟁에 불을 당겼다.
1세대가 1990년대 비디오 게임그래픽을 위해 탄생했던 GPUs(Graphics Processing Units)에 의해 주도되었다면, 최근 등장하는 새로운 칩들은 온전히 AI 연산의 최적화에 매진하고 있다.
인텔은 이런 목적으로 이스라엘의 하바나랩을 20억 달러에 지난해 12월 인수했으며, 영국의 칩 메이커인 그래프코어는 2016년 설립됐지만 불과 3년 만인 2019년 기업가치가 20억 달러에 달하는 것으로 알려지고 있다.
구글은 자체적인 AI칩인 TPU(Tensor-Processing Unit)를 발표했으며, 중국의 거대기업인 바이두 역시 쿤룬(Kunlun)이라는 AI칩을 발표했다. KPMG의 알폰조 마로니는 이런 특화된 AI칩의 시장규모가 이미 100억 달러쯤 되며, 앞으로도 가파르게 성장해 2025년 800억 달러에 달할 것으로 본다.
여기에 양자컴퓨팅이나 보다 생물학적 구조를 닮아서 지금보다 훨씬 적은 에너지를 소모하는 새로운 컴퓨팅 칩에 대한 기술 개발도 활발히 진행 중이다. 하지만 이것들이 상용화되려면 많은 시간이 걸릴 것으로 보인다.
이코노미스트가 지적한 바와 같이 컴퓨팅 파워의 비용 문제는, AI 스타트업들이나 중소기업들에게 가장 어려운 난제 가운데 하나로 부상하고 있다.
필자의 개인적인 경험으로는 학계에서도 자조 섞인 이야기가 나올 정도다. 하버드대학에서 오랜 시간 동안 하나의 제한된 AI전용 컴퓨터로 몇 달을 학습시켜 간신히 생물학적 단백질 모델에 대한 AI 적용 연구 결과를 발표한 적이 있다. 그런데 해당 발표를 듣던 거대기업 엔지니어들이 “저 정도 모델이면 자신들은 며칠이면 더 좋은 결과를 얻을 수 있을 것 같다”고 대놓고 이야기하는 것을 들었다.
과거의 경쟁력이 매우 복합적인 역량에서 나왔다면, 이제는 단순히 컴퓨팅 파워를 누가 많이 활용할 수 있고, 어디까지 감내할 수 있는지 그런 경쟁으로 넘어가는 게 아닌가 하는 우려가 나오는 것도 사실이다. 이런 문제에 대응하기 위해서 정부가 AI 학습용 공용 컴퓨팅 인프라를 스타트업이나 중소기업 등을 위해 공급하는 정책 등도 활발히 추진해야 할 것이다.
또한 현재보다 효율적이고 저렴한 AI칩의 개발도 매우 중요하다. 이코노미스트의 칼럼에서는 언급되지 않았지만, 반도체 강국인 우리나라에서도 이 분야의 연구개발이 활발히 진행되고 있다. 삼성전자는 스마트폰에 들어가는 핵심 칩인 AP에 AI칩 기능이 기본 탑재되도록 기술개발을 진행하고 있고, 이미 많은 성과를 내고 있다.
또한 AI칩 개발 스타트업들이 우리나라에서도 여럿 등장하면서 경쟁에 뛰어들고 있기에 앞으로 수년 동안은 AI 하드웨어 칩 전쟁이 AI기술의 발전과 상업화에 지대한 영향을 미칠 것으로 예상된다.
#자율주행차는 꿈인가 현실인가?
지난 3월 실리콘 밸리의 자율주행 스타트업인 스타스키 로보틱스가 문을 닫았다. 창업자인 스테판 셀츠-액스마커는 실패의 이유로, 참을성 없는 투자자들의 관심이 너무 빠르게 식었고, 기술적으로도 예상된 성과를 내지 못했다고 자인했다.
소셜미디어를 감시하고, 추천을 하고, 사기행각 등을 탐지하며, 인간보다 게임을 잘하게 만드는 데까진 성공했지만, 일반도로에서 자율주행차 혼자 운전하게 하는 작업은 예상보다 훨씬 어려웠던 것이다.
일부에서는 자율주행기술이 결국 운전자를 자동차에서 몰아내고 혼자 택시처럼 태우고 다니는 로보택시의 시대가 열릴 것이라고 말하고, 그것이 훨씬 더 안전할 것이라고 주장한다. 그리고 그 시기가 멀지 않았다는 낙관론도 무성했다.
전기자동차 기업인 테슬라를 설립한 일론 머스크는 완전자율주행차가 2018년에는 등장할 것이라고 장담했고, GM이 2016년 인수한 크루즈는 원래 2019년 샌프란시스코에서 자율주행 택시를 선보일 계획이라고 발표했었다.
그러나 지난 수년간의 결과를 보면 실제 성과는 미미하다. 2018년 우버에 의해 자율주행차가 테스트되었지만 애리조나에서 첫 번째 사망사고를 냈고, 이미 몇몇 사망사고를 낸 테슬라의 오토파일럿 기능은 그 이름과는 달리 운전자가 핸들에 손을 얹고 전방을 주시해야 한다. 승객을 태우고 서비스하는 소수의 기업 중 구글의 자회사인 웨이모, 중국 위라이드의 경우 매우 제한적인 지역에서만 서비스를 하고 있다.
자율주행 기능에 회의적이었던 호주의 로봇학자 로드니 브룩스는 현재의 자율주행기술이 딥러닝 기술에 의존하고 있는데, 이는 본질적으로 학습 데이터에 따른 통계적 접근이라 엔지니어가 흔히 이야기하는 ‘특수 상황(edge case)’에 대응하기 어렵다고 지적한다.
정상 주행을 하는 것은 데이터가 많으니 쉬울지 몰라도, 각종 사고 상황을 미리 학습하기란 어렵다는 것이다. 인간은 그런 경우에도 그럭저럭 대처할 수 있지만, AI가 스스로 대처하기란 현재의 접근방식으로는 어렵다는 게 그의 주장이다.
듀크대학의 ‘인간과 자율 연구실’을 운영하는 메리 커밍스는 인간이 이런 이상한 상황에 잘 대처하는 능력은, 상향식으로 올라오는 모호하고 불완전한 감각과 신호에도 불구하고 하향식 추론을 통해 적절히 판단하기 때문이라고 말한다. 현재의 AI시스템은 이런 능력이 부족하다는 게 이들의 공통된 주장이다.
자율주행 이외에도 현재의 딥러닝 기반의 AI 기술의 한계를 지적하는 경우가 늘고 있다. 여기에 딥러닝 기술을 개발한 저명한 학자들도 동의하고 있다.
현대 AI의 최고 권위자 중 한 명으로 꼽히는 요슈아 벤지오 박사는 지난 12월 학회 키노트 연설을 통해 현재의 머신러닝 시스템에 대해 “매우 좁은 방식으로 학습하고, 인간보다 학습을 위해 훨씬 많은 데이터를 필요로 하며, 보다 고차원적인 개념을 제공하려면 인간이 도와주어야 하고, 그럼에도 한심한 실수를 한다”고 말했다. 이런 근본적인 한계를 극복하기 위해 딥러닝을 넘어서서 새로운 접근 방법을 활용한 연구들이 많이 제안되고 있다.
자율주행기술과 관련한 부정적 인식에도 불구하고, 필자는 현재까지의 성취를 과소평가해서는 안 된다고 본다. 가장 큰 문제는 현재의 자동차들이 다니는 도로의 상황과 신호체계, 보험시스템과 법률적인 책임소재 등을 모두 그대로 둔 채 일부 자동차들만 완전한 자율주행으로 들어갈 것이라고 가정했던 게 제일 큰 문제다.
웨이모가 일부 지역에서 성공했듯이, 자율주행차들만 다닐 수 있는 노선과 레인(lane), 지역 등을 지정하면 고객서비스에 아무런 문제가 없고 실제로 자율주행기술은 미리 설정한 버스노선 또는 제한 지역에서 제일 먼저 서비스가 될 가능성이 높다.
이런 중간 단계를 거쳐 보다 많은 도시 지역에서 자율주행이 가능한 차량들을 이용해 여러 가지 서비스를 하고, 보급 대수가 늘어나 차량 가격이 떨어지면서 법적 제도도 정비될 것이다. 또한, 자율주행차량들이 쉽게 인지하고 사고를 피할 수 있도록 신호체계 등이 최적화되거나 표준화되면 이런 변화가 빨라질 가능성이 높다.
일반 차량에 운전자 개입이 배제된 완전자율자동차 기능이 탑재되어 상용화되기까지는 예상보다 오랜 시간이 걸리겠지만, 자율주행이 도시의 모빌리티 환경을 머지않은 시기에 크게 바꾸어 놓을 것이라는 전망은 여전히 유효하다. 다만 일론 머스크 등이 지나치게 낙관적이고 과장되게 이야기한 바람에 과도하게 공격받는 상황이 더욱 우려스럽다.
#AI의 가을은 올 것인가?
실패하는 가장 확실한 방법은 기대를 지나치게 높게 하는 것이다. 과거 AI 붐을 이끌었던 사례들을 보면 지나치게 과장된 기대가 무너지는 순간 이른바 ‘AI의 겨울’이 엄습했다.
요즘 AI에 대한 열광의 정도는 어느 때보다 높다. 일부 연구자들은 그래서 더욱 걱정하는 것이다. AI의 한계가 보다 명확해질수록 거품이 터질 가능성도 높아진다.
2018년 매장(賣場) 자동화 스타트업인 엑셀 로보틱스의 연구자인 필립 피에크니프스키는 “현재의 딥러닝에 대한 기대가 과거 주식시장에서의 닷컴 버블이 터지기 직전 같다”고 언급했다. 언제 터질지 정확히 이야기할 수는 없지만, “조만간 터질 것이 거의 확실하다”는 것이다.
그러나 AI에 대한 흥분을 뒷받침할 수 있는 이유들도 많다. 수많은 데이터에서 얻는 패턴을 인간 능력 이상으로 감지한다는 것만으로도 수많은 적용 가능 사례들을 찾아볼 수 있다.
각국 정부와 기업들이 AI 기술을 앞 다퉈 도입하고 있으며, 일반인들도 여기에 직접 영향을 받고 있다. 특히 전체주의 국가에서는 더욱 적극적이고 효과도 크다. 중국에서는 AI로 향상된 각종 통제, 그와 관련한 청사진을 제시하고 있는데, 경찰들은 안면인식 기술을 이용해 새로운 감시·치안 시스템을 만들었다고 공언하고 있다.
물론 이런 접근에 반발하는 서구의 움직임도 있다. 네덜란드 법원에서는 지난 2월 5일, 세금 및 사회복지와 관련한 사기행위를 탐지하는 AI 시스템인 SYRI를 ‘불법적’이라고 판결했다. 법원에선 정부가 사기 행각을 잡아내는 것과 시민 프라이버시를 지키는 것 사이의 균형을 맞추는 것에 실패했다고 판결했다.
사람들이 AI의 힘과 함께 취약함에도 익숙해질수록 각종 중요한 결정을 내리는데 AI를 신뢰하는 것을 꺼리게 될 것이다. 뉴욕대학 법대와 AI 나우 연구소(AI Now Institute)는 2019년 공동 연구결과를 통해 범죄예측 알고리즘의 경우 과거의 인종차별적 사건들의 데이터 때문에 이런 알고리즘들이 인종차별을 조장하는 방향으로 동작한다는 것을 지적하였다. 일부 사람들이 생각하는 기술에 대한 과신과 신뢰가 오히려 무비판적인 오류를 가져올 수 있다는 것이다.
AI 연구자들은 이제 이런 문제를 제대로 인식하기 시작했다. 2년 전에 구글은 ‘AI 원칙’이란 것을 발표했는데, 시스템이 “사회적으로 이로워야 한다”는 것을 강조하고 있다.
마이크로소프트나 페이스북도 비슷한 약속을 하고 있다. ‘AI 안전’ 같은 연구영역도 차츰 발전하고 있다. 그 동안엔 AI의 성과나 효율 등에 많이 집착했지만, 이제는 사회적 윤리나 기술도입에 따른 사회적 영향에도 신경을 쓰기 시작한 것이다.
마이크로소프트의 사장인 브래드 스미스는 “AI가 무엇을 할 수 있는지 묻기 전에, 인간들이 먼저 AI가 무엇을 해야만 하는지 생각해야 한다”고 지적한다. 기술적으로 불완전한 AI에 대해선 결국 인간이 추가적으로 정치적, 사회적 제약을 적용해야 함을 일깨워주고 있다. 현명한 알고리즘은 수많은 사람들이 공존하고, 사람들에 의해 운영되는 사회에 잘 맞춰져야 한다. AI는 강력하면서 동시에 한계가 있다. 이런 현실이 잘 알려진다면 지나치게 과열된 AI의 여름 뒤에 다가올 가을을 원만하게 맞이할 수 있을 것이다.
이코노미스트의 특집이 지적한 바와 같이 지난 역사에서 몇 차례 등장한 AI의 겨울은 오지 않을 가능성이 높다. 오히려 AI의 활용도는 지금보다 높아질 것이며, 인터넷과 같이 부지불식중에 우리 모두 AI의 혜택을 받게 될 것이다.
그러나 언제나 과유불급. AI로 모든 것이 바뀌고, 무엇이든 할 수 있다는 지나친 낙관론은 금물이다. AI와 공존하는 사회를 잘 만들고 발전시키는 것에 하등 도움이 되지 않는다.
우리나라도 AI 발전을 국가 장래를 좌우하는 가장 중요한 어젠다로 삼아 정부나 기업, 교육기관 할 것 없이 큰 관심을 갖고 온갖 노력을 기울이고 있다. 이런 노력이 틀렸다고 생각하지는 않는다. AI가 과거 초고속 인터넷이 그랬던 것처럼 국가적 차원에서 매우 중요한 인프라가 될 것이라는 것은 매우 명확하다. 그러나 과장된 기대와 비현실적인 목표는 언제나 큰 실망을 가져온다는 것을 잊지 말자.
가장 중요한 것은 AI도 결국 인간이 활용하는 도구라는 것이다. 그러므로 인간에 대한 배려, 사회적인 이슈와 관련해 보다 많은 고려를 하는 게 필요하다. 단지 기술로 모든 것을 바꿀 수 있다는 기술결정론적 시각보다 그것이 훨씬 중요해질 것이다.
한계를 아는 순간, 더욱 쓸모가 많아진다.
정지훈 필자
모두의연구소 최고비전책임자. 정부 기관과 수많은 기업체에서 미래 트렌드와 전략에 대해 자문하고 있다. 한양대 의대를 졸업한 후 서울대 보건정책관리학 석사, 미국 남가주대학(USC)에서 의공학 박사학위를 취득했다. 이어 경희사이버대학교 교수를 역임했다. 저서로 《미래자동차 모빌리티 혁명》 《거의 모든 IT의 역사》 《거의 모든 인터넷의 역사》 《내 아이가 만날 미래》 등이 있다.