[거의 모든 AI의 역사] ④ AI 부족 간 전쟁의 시작

대부분의 역사는 사상과 논쟁의 역사로 수렴된다. AI의 역사도 마찬가지다. AI 영역에서도 AI를 어떻게 바라볼 것인가를 두고 다양한 관점과 접근 방식이 존재해왔다. 마치 수많은 부족이 저마다의 무기를 들고 각축전을 벌이는 것처럼, AI 연구자들도  이러한 차이를 반영해 자신들만의 철학과 방법론을 내세우며 치열하게 경쟁했다. 그중에서도 규칙과 논리를 중시한 기호주의자(Symbolists)와 신경망에 기반한 연결주의자(Connectionists)의 대결이 AI 역사의 가장 핵심적인 줄기를 형성했다. 이번 편에서는 이 두 부족의 경쟁을 중심으로, 그간 AI 부족들이 펼쳐온 흥미진진한 전쟁의 역사를 들여다본다. [편집자 주]

AI 부족들의 탄생

페드로 도밍고스(Pedro Domingos)는 그의 베스트셀러 《마스터 알고리즘(The Master Algorithm)》에서 AI 연구자들을 크게 다섯 부족으로 분류했다. 기호주의자(Symbolists), 연결주의자(Connectionists), 진화주의자(Evolutionaries), 베이지안(Bayesians), 유추주의자(Analogizers)가 그 주인공이다.

기호주의자들은 논리와 규칙에 기반을 두고 지식을 명시적으로 표현하고 조직하는 데 방점을 찍는다. 연결주의자들은 인간 뇌의 신경망 구조에서 영감을 얻어 상호 연결된 인공 뉴런들로 지능을 구현하고자 한다. 진화주의자들은 다윈의 진화론에 착안해 유전 알고리듬 등으로 최적해를 찾는 접근법을 택한다. 베이지안들은 불확실성을 확률로 다루고 베이즈 정리를 토대로 추론 모델을 만든다. 유추주의자들은 사례 기반 추론 등을 통해 과거 경험에서 유사성을 찾아 문제를 해결하는 방식을 선호한다.

이처럼 AI를 바라보는 시각은 다종 다양했고, 저마다 장단점을 안고 있었다. 이들의 치열한 경쟁과 협력, 그리고 화해는 AI의 발전사를 관통하는 중요한 흐름을 형성했다.

연결주의자의 씨앗은 1943년에 뿌려졌다. 신경과학자 워런 맥컬록(Warren McCulloch)과 논리학자 월터 피츠(Walter Pitts)는 <신경 활동에 내재된 아이디어의 논리적 계산(A Logical Calculus of the Ideas Immanent in Nervous Activity)>이라는 논문에서 뉴런의 작동 원리를 간단한 수학적 모델로 표현했다. 이들이 고안한 'MP 뉴런'은 다수의 입력 신호를 받아 일정 역치를 넘으면 출력 신호를 발화하는 단순한 구조였지만, 이는 생물학적 뉴런을 모사한 최초의 인공 뉴런 모델이었다.

이 개념을 발전시켜 1958년, 프랑크 로젠블라트(Frank Rosenblatt)는 '퍼셉트론(Perceptron)'을 고안했다. 퍼셉트론은 MP 뉴런에 가중치와 학습 개념을 도입한 것으로, 입력 데이터에 적응해 자동으로 분류 문제를 해결할 수 있었다. 로젠블라트의 저서 《신경동역학 원리(Principles of Neurodynamics)》는 인공신경망 연구의 바이블로 자리 잡았고, 이는 연결주의 진영의 형성에 결정적 계기가 되었다.

반면 1956년 다트머스 회의를 계기로 떠오른 기호주의자들은 인간의 사고를 논리와 규칙, 그리고 상징(symbol)의 조작으로 본다. 존 매카시(John McCarthy)는 람다 계산법을 기반으로 한 리스프(Lisp)를 개발하여 기호 처리에 특화된 고급 프로그래밍 언어의 토대를 닦았다. 마빈 민스키(Marvin Minsky)는 프레임 이론을 통해 지식표현 구조를 제안했으며, 앨런 뉴얼(Allen Newell)과 허버트 사이먼(Herbert A. Simon)은 물리적 기호 체계 가설을 주창하며 기호주의 사상의 이론적 토대를 공고히 했다. 이들은 추론 규칙과 명제 논리에 기반해 지능을 구현하는 데 힘썼다.

기호주의 진영과 연결주의 진영의 대립각이 형성되는 가운데, 제3의 부족들도 속속 등장했다. 진화주의자들은 1975년 존 홀랜드(John Holland)가 제안한 유전 알고리듬(genetic algorithm)을 필두로 생물학적 진화에서 영감을 얻은 최적화 기법들을 발전시켜 나갔다. 베이지안들은 1988년 저드 펄(Judea Pearl)이 창시한 베이지안 망(Bayesian network)을 중심으로 확률과 통계에 기반한 추론 모델을 구축했다. 유추주의자들 역시 1980년대에 로저 샤크(Roger Schank)와 데이비드 레이크(David Leake) 등에 의해 체계화된 사례 기반 추론(case-based reasoning) 등의 방법론으로 AI의 새로운 지평을 열어갔다.

이렇듯 초창기 AI 연구는 연결주의자, 기호주의자를 필두로 다채로운 부족들이 저마다의 깃발을 들고 지능의 본질에 다가가려 했던 치열한 모색의 시기였다. 이들 사이의 경쟁과 논쟁은 이후 AI 발전의 원동력이 되었다.

연결주의의 몰락: 첫 번째 AI 겨울의 도래

1950년대 후반부터 1960년대 중반까지 연결주의는 인공지능 연구의 대세로 자리 잡는 듯했다. 프랭크 로젠블라트의 퍼셉트론은 인공신경망의 가능성을 제시하며 학계의 큰 주목을 받았고, 이에 고무된 미 국방부 산하 고등연구계획국(DARPA, Defense Advanced Research Projects Agency)과 해군연구소(ONR, Office of Naval Research)는 막대한 연구비를 투입하기 시작했다. 1957년에는 코넬 항공 연구소(Cornell Aeronautical Laboratory)에서 최초의 퍼셉트론 하드웨어인 마크-1(Mark I)이 공개되기도 했다.

1960년에는 버나드 위드로(Bernard Widrow)와 마르시안 호프(Marcian Hoff)가 아달라인(ADALINE)과 매달라인(MADALINE)이라는 개선된 인공신경망 모델을 선보였다. NASA에서는 제트추진연구소(JPL)의 데이비드 윌셔(David Wilshaw)가 퍼셉트론과 유사한 SNARC(Stochastic Neural-Analog Reinforcement Computer) 프로젝트를 진행했다. 학계와 업계, 정부 할 것 없이 연결주의에 대한 관심이 뜨거웠고, 이는 인공지능 실현의 열쇠가 될 것만 같았다.

당시의 인공지능 열풍은 대중문화에도 깊은 영향을 미쳤다. 1968년 개봉한 영화 <2001: 스페이스 오디세이>에서 인공지능 컴퓨터 HAL9000은 우주선을 통제하며 인간과 대화를 나누는 모습으로 그려졌다. TV 시리즈 <스타트렉>에서도 언어를 이해하고 추론하는 컴퓨터가 등장했다. 이처럼 SF 영화와 드라마는 미래의 인공지능을 상상하고 대중들에게 친근하게 소개하는 역할을 톡톡히 했다.

한편 1962년 NASA는 인공지능을 활용한 우주 탐사 계획을 발표하기도 했다. 이는 달 탐사를 위한 아폴로 계획과 맞물려 큰 주목을 받았다. 당시 사람들은 인공지능이 우주 개발의 핵심 동력이 될 것이라 믿었고, 이는 연결주의에 대한 기대감을 한껏 높이는 데 일조했다.

그러나 이러한 열광은 오래가지 못했다. 1969년 마빈 민스키와 시모어 페퍼트는 《퍼셉트론(Perceptrons)》이라는 책에서 단층 퍼셉트론이 지닌 근본적인 한계를 수학적으로 증명해 보였다. 단순한 배타적 논리합(XOR) 문제조차 풀 수 없다는 것이다. 민스키와 페퍼트는 이를 두고 "단층 퍼셉트론은 걸음마 단계의 아기에 불과하다"라고 혹평했다. 이들의 책은 학계에 엄청난 충격을 안겨주었고, 연결주의에 대한 환상은 급속히 무너져 내렸다.

당시 인공지능 연구에 거액을 투자하던 미 의회는 즉각 반응했다. 1960년대 후반부터 NRC(National Research Council)와 영국 의회 보고서에서는 이미 인공지능 연구에 대한 회의적인 시각이 제기되고 있었다. 여기에 연결주의의 한계마저 여실히 드러나자 의회는 AI 예산을 대폭 삭감하기에 이른다.

상황이 이렇게 되자 DARPA, ONR 등 AI 연구의 큰 손이었던 정부 기관들이 하나둘 발을 빼기 시작했다. JPL의 SNARC을 비롯한 야심 찬 프로젝트들도 자금 부족으로 좌초되고 말았다. 결국 1970년대 초반에 이르면 인공지능에 대한 열기는 크게 식어 버렸고, 소위 '첫 번째 AI 겨울'이 도래하고 만다.

이는 연결주의 진영에 큰 타격을 줬다. 신경망 연구는 암흑기를 맞이했고, 이 분야에 뛰어드는 연구자들은 급격히 줄어들었다. 반면 민스키로 대변되는 기호주의자들은 약진하기 시작했다. 1970~1980년대에 걸친 AI 연구의 주도권은 이들에게로 넘어간 것이다.

AI 겨울은 초기 인공지능 연구의 과열과 환상이 빚어낸 뼈아픈 교훈이었다. 성급한 기대와 투자가 얼마나 위험할 수 있는지를 여실히 보여주는 사례였다. 한편으로 이는 인공지능의 난제가 얼마나 복잡한지, 그리고 이를 풀어내기 위해 얼마나 진지하고 꾸준한 노력이 필요한지를 일깨워주는 계기이기도 했다. 연결주의는 일시적으로 좌절을 맛봤지만, 이는 훗날 더 큰 도약을 위한 전령이기도 했던 것이다.

기호주의의 전성기와 퇴조: 전문가 시스템의 부침(浮沈)

1960년대 후반, 연결주의가 암흑기로 접어들면서 기호주의가 AI 연구의 대세로 떠올랐다. 특히 1956년 다트머스 회의를 계기로 두각을 나타낸 기호주의자들은 1970~80년대 전성기를 맞이한다. 존 매카시, 마빈 민스키, 앨런 뉴얼 등의 주도로 전문가 시스템(expert system)과 지식 기반 시스템(knowledge-based system)이 활발히 개발되었다.

이 시기 기호주의 진영의 약진에는 개인용 컴퓨터(PC)의 등장이 큰 역할을 했다. 1970년대 중반부터 애플, IBM, 휴렛 패커드 등이 잇따라 PC를 출시하면서 컴퓨팅 환경이 크게 개선되었기 때문이다. 특히 PC는 리스프(LISP)나 프롤로그(Prolog) 같은 기호처리 언어를 손쉽게 구동할 수 있는 플랫폼을 제공했다. 이는 전문가 시스템의 개발과 보급에 큰 탄력을 불어넣었다.

당시 기호주의 접근법은 의료 진단, 신용평가, 화학 구조분석 등 제한된 도메인에서 눈부신 성과를 거뒀다. 1972년 스탠퍼드대학의 에드워드 파이겐바움(Edward Feigenbaum)은 항생제 처방을 도와주는 MYCIN이라는 전문가 시스템을 개발했다. 1980년에는 존 맥더못(John McDermott)이 DEC의 컴퓨터 설정을 지원하는 R1(후에 XCON으로 개명)을 선보였다. 신용평가 시스템인 Authorizer's Assistant, 지질 분석 도구 Dipmeter Advisor 등도 상용화에 성공한 대표적 사례다.

이처럼 PC와 함께 전문가 시스템이 확산되면서 1980년대 중반까지 기호주의가 AI 분야를 이끌어갔다. 기업과 정부의 관심도 뜨거웠다. 1984년 당시 <포춘>지 선정 500대 기업 중 절반 가량이 전문가 시스템을 도입했을 정도다. 1982년 일본 정부가 '제5세대 컴퓨터 프로젝트'를 통해 초고성능 추론기계 개발에 나선 것도 같은 맥락이었다.

그러나 기호주의자들의 행진도 오래가지는 못했다. 전문가 시스템은 복잡다단한 현실을 다루는 데 한계를 노출했기 때문이다. 모든 지식을 규칙으로 명시화하는 '지식공학(knowledge engineering)'의 난제가 발목을 잡았다. 전문가의 암묵지를 빠짐없이 추출하는 것은 불가능에 가까웠고, 규칙이 조금만 누락되어도 시스템은 쉽게 오류를 일으켰다.

또한 시스템이 내놓은 결과를 설명하기도 쉽지 않았다. '상식의 역설(paradox of common sense)'로 통칭되는 이 문제는 기호주의 진영을 극도로 곤혹스럽게 만들었다. 규칙을 아무리 보강해도 예외는 끝없이 발생했고, 결국 전문가 시스템은 현실 세계를 감당하기에 역부족이라는 사실이 명확해졌다.

이는 기호주의 진영에 위기로 다가왔다. 1980년대 후반 들어 전문가 시스템에 대한 실망감이 엄습했고, 시장은 급속히 위축되었다. 거품이 꺼지면서 AI에 대한 투자도 급감했다. 결국 1990년대 초반, 또 하나의 AI 겨울을 맞이하고 만다.

그러나 이것이 AI 역사의 종언은 아니었다. 1980년대 후반 들어 연결주의가 다시금 부활의 조짐을 보이기 시작한 것이다. 데이비드 럼멜하트, 제프리 힌튼 등에 의해 다층 퍼셉트론(multi-layer perceptron)과 역전파 학습(backpropagation) 알고리듬이 개발되면서 신경망 모델은 새로운 도약의 발판을 마련했다. AI에 대한 열망이 새로운 국면을 맞이한 것이다. 순탄치 않았던 AI 연구사에 다시 한번 전환점이 도래한 순간이었다. 그렇지만, 이들의 노력이 현실 세계를 바꾸기까지는 그로부터 많은 시간이 소요됐다.

글쓴이 정지훈은
미래학자이자 국내 최고의 IT 전문가. 의학과 사회과학, 공학을 전공했다. 현재 K2G 테크펀드의 제너럴파트너로 국내외 딥테크 분야 스타트업에 투자하고 있으며, DGIST 전기전자컴퓨터공학과 겸직교수, 모두의연구소 최고비전책임자를 맡고 있다. 《거의 모든 IT의 역사》, 《거의 모든 인터넷의 역사》, 《생성형 AI가 바꾸는 메타버스의 미래》, 《미래자동차 모빌리티 혁명》, 《내 아이가 만날 미래》 등을 집필했다. AI를 비롯하여 AR/VR, 블록체인, 로봇 기술과 같은 딥테크 기술들이 사회를 변화시키는 양상에 큰 관심을 가지고 있다.