1956년 여름, 미국 뉴햄프셔주 다트머스 대학에서 작은 워크숍이 열렸다. 정식 명칭은 ‘다트머스 하계 인공지능 연구 프로젝트(Dartmouth Summer Research Project on Artificial Intelligence)’. 참가자는 열 명 남짓인 작은 모임이었다. 그런데 이 모임이 이후 수십 년의 AI 연구 방향을 사실상 결정했다. 제안서에는 이런 문장이 있었다.
“학습의 모든 측면, 또는 지능의 모든 특성은 원칙적으로 기계가 시뮬레이션할 수 있도록 정밀하게 기술될 수 있다.”
“every aspect of learning or any other feature of intelligence can in principle be so precisely described that a machine can be made to simulate it.” (원문링크)
지금 읽으면 대담하다 못해 무모하게 느껴지는 선언이다. 하지만 당시 맥락에서 이건 꽤 합리적인 가설이었다. 수학과 논리학이 막 형식화되던 시대였고, 컴퓨터가 등장해 주요 기관에 전파되던 시대였다. 인간의 사고를 규칙으로 포착할 수 있다면, 그걸 기계에 심을 수 있다는 생각의 등장은 자연스러운 다음 단계였다. 오늘날 우리는 흐름을 심볼릭 AI, 혹은 기호주의 AI라고 부른다. 그 핵심 발상은 단순하면서도 강력하다. 세계를 기호의 체계로 표상하고, 그 기호들 사이의 관계를 규칙으로 조직하며, 그 규칙을 따라 추론을 수행하는 것이다. 다시 말해 초기 AI는 지능을, 명시적으로 표현된 기호를 형식적 규칙에 따라 조작하는 과정으로 보았다.
체스 프로그램을 생각하면 이해하기 쉽다. 말의 종류, 이동 가능한 경우의 수, 승리 조건, 이 모든 것이 명시적 규칙으로 정의되어 있다. 컴퓨터는 그 규칙을 따라 최선의 수를 계산한다. 여기서 컴퓨터가 체스를 ‘이해’한다고 말할 수 있을까? 기호주의의 답은 이랬다. 규칙을 정확히 따른다면, 그것이 바로 이해이다.
이 논리를 자연어로 확장하면 어떻게 될까. 1970~80년대에 등장한 전문가 시스템(Expert System)은 바로 이 발상의 산물이었다. 의사가 환자를 진단하는 방식, 변호사가 법률 조항을 해석하는 방식, 엔지니어가 고장 원인을 추론하는 방식, 이 모든 것을 명시적 규칙으로 포착해 기계에 심으려 했다. 특정 도메인에서는 실제로 인상적인 결과가 나왔다. 그리고 사람들은 잠시 낙관했다. 충분한 규칙을 쌓으면, 기계도 이해할 수 있을 것이라고.
이 패러다임은 한동안 잘 작동하는 것처럼 보였다. 그런데 시간이 지나면서 불편한 질문이 떠올랐다. 기호가 의미를 가지려면, 그 기호가 세계의 무언가에 연결되어 있어야 하지 않는가. 예를 들어 컴퓨터 안에 ‘사과’라는 기호가 있다면, 이 기호는 다른 기호들—’빨갛다’, ‘달다’, ‘과일이다’ 등과 규칙으로 연결되어 있다. 그런데 이 연결망 자체가 기호들끼리의 관계일 뿐, 실제 사과와는 아무 접점이 없다. 기호가 기호를 설명하는 순환 속에 갇혀 있는 것이다.
인지과학자 스티븐 하나드(Stevan Harnad)는 1990년 이 문제를 ‘기호 접지 문제(Symbol Grounding Problem)’ 라고 명명했다. 기호는 어딘가에 ‘접지(grounded)’되어야 한다, 즉 실제 세계의 감각이나 경험에 연결되어야 비로소 의미를 가질 수 있다는 주장이었다. 하다드는 이를 설명하기 위해 사전을 비유로 즐겨 들었다. 모르는 단어를 사전에서 찾으면 또 다른 모르는 단어들로 설명되어 있다. 그 단어를 또 찾으면 또 다른 단어들로 이어진다. 이 순환은 원칙적으로 끝나지 않는다. 그 순환을 끊으려면 어느 지점에서 단어가 직접적인 경험, 즉 빨간 것을 보는 것, 단 것을 맛보는 것과 같은 감각적 경험에 닿아야 한다. 기호는 스스로 의미를 만들지 못한다. 세계에 뿌리를 내리지 않은 기호는, 아무리 정교하게 연결되어도 결국 공중에 떠 있는 연결망일 뿐이다.
같은 시기 철학자 존 설(John Searle)은 조금 다른 각도에서 비슷한 문제를 건드렸다. 1980년 발표한 논문 ‘마음, 뇌, 그리고 프로그램(Minds, Brains, and Programs)’ 에서 제시한 ‘중국어 방(Chinese Room)’ 사고실험이다. 사고실험의 구조는 이렇다. 방 안에 영어만 아는 사람이 있다. 그에게 중국어 질문이 담긴 쪽지가 슬롯으로 들어온다. 그는 방 안에 있는 방대한 규칙집을 참고해, 그 질문에 대응하는 적절한 중국어 기호를 찾아 슬롯으로 내보낸다. 밖에서 보면 이 방은 중국어를 완벽하게 이해하는 것처럼 보인다. 대화가 자연스럽게 이어진다.
그런데 방 안의 사람은 중국어를 한 글자도 이해하지 못한다. 그는 그저 기호와 기호를 규칙에 따라 연결하고 있을 뿐이다. 설의 결론은 이랬다. 규칙을 따르는 것과 의미를 이해하는 것은 다르다. 아무리 정교한 규칙 처리도, 그 자체로는 이해를 만들어내지 못한다. 이 사고실험은 발표 즉시 거센 논쟁을 불러일으켰다. 반론도 많았고 지금도 논쟁은 완전히 끝나지 않았다. 하지만 중요한 건 설이 제기한 질문 자체다. 올바른 출력이 이해의 증거인가. 겉으로 보이는 행동이 내부의 이해를 보장하는가. 이 질문은 지금 LLM 앞에서도 똑같이 유효하다.
위에서 살펴보았듯 기호 접지 문제와 중국어 방 논증은 기호주의 AI에 대한 강력한 철학적 비판이었다. 실용적 측면에서도 또한 그 한계가 드러났다. 규칙 기반 시스템은 규칙이 명시적으로 정의될 수 있는 영역에서는 잘 작동했지만, 자연어처럼 맥락에 따라 의미가 유동적으로 바뀌는 영역에서는 뚜렷한 한계를 보였다. ‘날씨가 좋다’는 문장이 어떤 상황에서는 칭찬이고, 어떤 상황에서는 핀잔이며, 어떤 상황에서는 대화를 채우기 위한 빈말이다. 이 차이를 규칙으로 모두 포착하는 건 불가능에 가까웠다. 세상의 모든 경우의 수를 규칙으로 포착하는 건 불가능에 가까웠다. 결국 AI 연구의 무게중심은 조금씩 이동했다. 규칙을 설계하는 것에서, 데이터에서 패턴을 학습하는 것으로. 신경망이 부활했고, 머신러닝이 주류가 됐고, 그리고 이 흐름이 결국 오늘날의 LLM으로 이어진다.
그런데 여기서 흥미로운 점이 있다. 기호주의가 남긴 핵심 질문들, 기호는 어디에 접지되는가, 규칙을 따르는 것이 이해인가 라는 질문들은 해결되지 않은 채 그냥 옆으로 밀려났다. 연구의 패러다임이 바뀌었을 뿐, 질문 자체가 답을 얻은 건 아니었다. LLM이 등장하면서 이 묵은 질문들이 다시 표면으로 올라오는 건, 어쩌면 당연한 일이다.
기획자나 비평가의 입장에서 이 역사가 낯설게 느껴질 수도 있다. 그런데 사실 우리는 비슷한 문제를 다른 언어로 이미 다뤄왔다. 예술 비평에서 텍스트는 작품과 어떻게 연결되는가. 전시 기획의 언어는 실제 작품의 경험에 닿는가, 아니면 언어가 언어를 설명하는 순환 속에 있는가. 아카이브의 기술(description)은 원본의 무엇을 포착하고 무엇을 놓치는가.
이 질문들은 기호 접지 문제와 구조적으로 닮아 있다. 언어가 경험에 닿지 못하고 언어끼리만 순환할 때 생기는 공허함, 그 불안은 AI 연구자들만의 것이 아니었다. 우리 현장도 오래전부터 알고 있었던 문제다. AI 연구자들이 수십 년간 씨름해온 그 불안이, 사실 우리 현장의 불안과 멀지 않다. 그리고 LLM은 이 오래된 문제를 해결한 게 아니라, 완전히 다른 방식으로 우회했다. 다음 회차에서는 바로 그 우회로를 따라가 볼 것이다. 규칙 없이, 의미를 설계하지 않고, 그럼에도 이해처럼 보이는 무언가가 어떻게 만들어지는지를 말이다.
허대찬. 미디어문화예술채널 앨리스온 aliceon.co.kr 편집장
1부: 이해의 재배치 01 – LLM 이후, 우리가 다시 물어야 할 것들
2부: 이해의 재배치 02 – 기호주의 AI가 품었던 꿈, 그리고 남긴 질문