1회차에서 우리는 전시 오프닝의 한 장면에서 출발했다. 큐레이터가 벽면 텍스트를 가리키며 “AI가 초안을 잡았다”고 말했을 때 흘렀던 짧은 침묵. 작가는 잠깐 멈췄고, 곧 웃으며 넘겼다. 대화는 이어졌지만, 그 침묵은 이상하게 오래 남았다. 그때의 질문은 단순하지 않았다. 이 문장을 누가 썼는가. AI가 썼다면 어디까지 인정할 수 있는가. 사람이 다듬었다면 저자의 위치는 어디에 있는가. 하지만 그 아래에는 더 근본적인 질문이 있었다. 이 텍스트를 우리는 무엇을 근거로 판단해야 하는가.
그 질문에서 출발해 우리는 꽤 먼 길을 돌아왔다. 상징주의 AI가 품었던 오래된 꿈을 살펴봤고, 기호가 세계에 닿지 못할 때 생기는 불안을 확인했다. LLM은 그 문제를 해결했다기보다 다른 방식으로 우회했다. 규칙과 의미를 명시적으로 설계하는 대신, 방대한 언어의 패턴을 학습해 이해처럼 보이는 수행을 만들어냈다. 그래서 혼란은 사라지지 않았다. 오히려 더 미묘해졌다.
이 연재에서 붙잡아보려 한 것은 바로 그 미묘함이었다. LLM은 세계를 직접 겪지 않는다. 하지만 세계에 대해 사람들이 남긴 말들을 엄청난 규모로 학습한다. 그래서 LLM의 언어는 세계와 완전히 무관하지도 않고, 세계에 직접 닿아 있지도 않다. 이 애매한 중간 지대에서 “이해”라는 말이 흔들리기 시작했다.
이 흐름 속에서 4회차에서 우리는 이해를 하나의 능력으로 보지 않기로 했다. 언어 안에서 개념과 문맥을 정합적으로 연결하는 능력, 즉 언어-내적 이해. 그리고 그 언어가 실제 세계의 경험, 증거, 물질성, 현장의 저항에 닿는 능력, 즉 세계-접지 이해. 이 두 층위를 구분하자 “AI가 이해하는가”라는 질문은 조금 다른 모습으로 바뀌었다.
5회차에서는 이 문제가 모델 하나의 문제가 아니라는 점도 확인했다. 우리가 실제로 마주하는 AI는 고립된 모델이 아니다. 검색, 데이터베이스, 아카이브, 도구, 인터페이스, 인간의 검토 절차와 연결된 시스템이다. 그렇다면 이해 역시 모델 내부에 닫힌 속성이라기보다, 모델과 자료, 도구, 인간의 판단, 검증 절차가 어떻게 연결되는가의 문제로 이동한다.
그렇다면 이 여정은 “AI가 이해하는가”라는 질문에 명확한 답을 주었을까. 솔직히 말하면, 그렇지는 않다. 하지만 나는 그것이 이 연재의 실패라고 생각하지 않는다. 답이 없는 것이 아니라, 질문이 바뀐 것이다. “AI가 이해하는가”라는 질문은 이제 이렇게 바뀐다. 어느 층위의 이해를 말하는가. 그 이해를 가능하게 하는 자료와 절차는 무엇인가. 세계-접지는 누가, 어떻게 제공하는가. 언어-내적 이해와 세계-접지 이해는 어떤 시스템 속에서 결합되는가. 그리고 그 결과에 대한 판단과 책임은 어디에 남는가.
이 질문들은 예스 또는 노로 답할 수 없다. 하지만 바로 그렇기 때문에 현장에서 더 실질적인 질문이 된다. AI를 어디에 사용할 것인가. 어디에서는 사용하지 않을 것인가. 무엇을 검증할 것인가. 어떤 판단은 인간이 직접 붙들어야 하는가. 아카이브는 무엇을 더 기록해야 하는가. 비평은 어떤 근거 위에서 쓰여야 하는가.
이것을 ‘이해의 계약’이라고 불러보고 싶다. 여기서 계약이란 법적 문서 같은 것을 뜻하지 않는다. 누가, 어떤 조건에서, 무엇을 근거로 ‘이해했다’고 인정받는가에 대해 우리가 공유해온 사회적 판단 규칙에 가깝다. 우리는 이미 이런 계약 속에서 살아왔다. 시험에서 좋은 점수를 받으면 이해했다고 말한다. 적절한 행동을 하면 이해했다고 말한다. 설득력 있게 설명하면 이해했다고 말한다. 질문의 의도를 알아듣고 상황에 맞게 반응하면 이해했다고 말한다. 그런데 이 기준들은 고정된 것이 아니었다. 시대와 맥락에 따라 달라졌고, 기술 환경에 따라 다시 조정되어 왔다.
LLM의 등장은 이 계약을 흔들고 있다. 시험 점수, 문제 해결, 요약, 설명, 문체 조정, 적절한 응답. 기존의 많은 기준으로 보면 LLM은 이해하는 것처럼 보인다. 실제로 어떤 층위에서는 매우 강력하게 이해에 가까운 수행을 보여준다. 그런데 우리는 동시에 뭔가 다르다는 것도 느낀다. 그 다름은 단순히 “기계라서” 생기는 불편함만은 아니다. 그 언어가 어디에 닿아 있는지, 어떤 경험과 검증을 통과했는지, 누가 그 결과에 책임지는지가 불분명하기 때문에 생기는 감각이다.
이해의 계약을 갱신한다는 것은 AI에게 이해를 허락할지 말지 정하는 일이 아니다. 이해라는 말을 더 세분화하는 일이다. 언어-내적 이해와 세계-접지 이해를 구분하고, 각각의 층위에서 무엇이 요구되는지를 명시하는 일이다. 그렇게 해야 AI에 대한 판단도, 인간의 역할에 대한 판단도 조금 더 정교해질 수 있다.
이 연재를 마무리하면서 내가 남기고 싶은 것은 단정이 아니라 질문의 습관이다. AI가 이해한다, 또는 이해하지 못한다고 단정하기 전에 어느 층위의 이해를 말하는지 묻는 것. AI가 좋다, 또는 나쁘다고 말하기 전에 어떤 시스템 안에서 어떻게 사용되는지를 보는 것. 텍스트가 매끄럽다고 해서 곧바로 신뢰하지 않고, 어색하다고 해서 곧바로 폐기하지 않는 것. 그 언어가 무엇에 닿아 있는지, 무엇을 놓치고 있는지, 어디에서 인간의 판단이 개입해야 하는지를 묻는 것. 이 태도는 회의주의가 아니다. 오히려 더 정밀한 판단을 위한 준비다. 모호한 것을 모호하다고 인정하면서, 그 안에서 필요한 구분을 만들어가는 일이다. 지금 우리 현장, 기획, 비평, 창작, 아카이브에서 필요한 것도 바로 이 태도에 가깝다.
AI가 생성한 텍스트와 경험에서 나온 텍스트가 점점 더 비슷해지는 환경에서, 우리는 그 차이를 감지하고 판단하는 능력을 다시 훈련해야 한다. 이 텍스트는 언어-내적으로 정합한가. 작품의 경험에 닿아 있는가. 전시장의 조건에 닿아 있는가. 작가와의 대화, 설치 과정의 시행착오, 실제 관객의 반응, 확인 가능한 자료와 출처에 닿아 있는가. 사실과 해석은 구분되어 있는가. 최종 판단과 책임은 어디에 남아 있는가.
이 질문들은 거창한 원칙이 아니다. 오히려 아주 실무적인 질문들이다. 전시 소개문을 쓸 때, 작가 노트를 다듬을 때, 보도자료를 검토할 때, 비평문을 쓸 때, 아카이브의 메타데이터를 정리할 때 매번 다시 물어야 하는 질문들이다. AI와 함께 일한다는 것은 이제 단순히 더 빠르게 문장을 생산하는 일이 아니다. 어떤 자료를 넣고, 어떤 문장을 의심하고, 어떤 출처를 확인하고, 어떤 판단은 자동화하지 않을 것인가를 정하는 일이다.
그래서 인간의 역할도 조금 다르게 보인다. LLM 이후 인간의 역할은 단순히 AI보다 더 좋은 문장을 쓰는 데 있지 않다. 물론 여전히 좋은 문장은 중요하다. 하지만 더 중요한 것은 그 문장이 무엇에 기대고 있는지, 어디서 책임질 수 있는지 판단하는 일이다. 어쩌면 LLM 이후 인간의 역할은 단순히 언어를 생산하는 사람이 아니라, 언어가 다시 세계에 걸리도록 만드는 사람에 가까워지고 있는지도 모른다.
이 질문들은 여기서 끝나지 않는다. 오히려 몇 개의 질문은 앞으로 더 깊게 다뤄야 한다. 상징주의와 연결주의는 지금 어떻게 다시 섞이고 있는가. 규칙 기반 접근과 학습 기반 접근, 기호적 추론과 신경망적 패턴 학습은 LLM 이후 어떤 방식으로 재결합하고 있는가. 이 혼합은 언어-내적 이해와 세계-접지 이해의 문제를 어떻게 다시 배치하는가.
지능을 어디에 두느냐에 따라 무엇이 달라지는가. 추론에 둘 것인가, 행동에 둘 것인가, 학습에 둘 것인가, 표상에 둘 것인가, 아니면 시스템 전체의 연결 방식에 둘 것인가. 지능의 위치를 어디에 두느냐에 따라 AI에 대한 판단도, 인간의 역할에 대한 판단도 달라진다.
세계-접지를 기계가 담당할 수 있는가. 로봇공학, 멀티모달 AI, 구현 인지 연구들은 이 질문에 이미 여러 답을 시도하고 있다. 기계가 보고, 듣고, 만지고, 움직이고, 실패하면서 세계에 닿는다면, 그때의 이해는 지금 우리가 LLM을 두고 말하는 이해와 어떻게 달라질까. 그리고 그 변화는 예술 현장, 전시 경험, 아카이브의 방식에 어떤 질문을 던질까. 이 질문들은 지금 당장 답할 수 없다. 하지만 질문을 손에 쥐고 있는 것 자체가 중요하다. 질문이 있어야 기술을 단순히 받아들이지 않을 수 있고, 질문이 있어야 막연한 거부나 환호를 넘어설 수 있다. 질문이 있어야 우리 현장의 언어를 다시 벼릴 수 있다.
다시 그 전시 오프닝의 장면으로 돌아가보자. 큐레이터가 “AI가 초안을 잡았다”고 말했을 때 흘렀던 짧은 침묵. 그때 우리는 아직 그 침묵을 설명할 충분한 언어를 갖고 있지 않았다. 이제 그 침묵 속의 질문은 조금 더 분명해졌다. 이 텍스트는 언어-내적으로 정합한가. 작품의 경험과 현장의 맥락, 아카이브의 증거에 접지되어 있는가. 그렇지 않다면 무엇이 빠져 있는가. 그 결여는 누가, 어떤 절차와 책임 속에서 보완할 것인가.
문제는 모델이 얼마나 똑똑해졌는가만이 아니다. 우리가 무엇을 이해라고 인정해왔는가가 다시 질문받고 있다는 점이다. 그러므로 지금 갱신해야 할 것은 모델에 대한 평가만이 아니다. 이해에 대한 우리의 계약, 그리고 그 계약 위에서 비평과 큐레이션과 아카이브가 무엇을 책임질 것인가에 대한 감각이다. LLM 이후의 인간은 단지 더 좋은 문장을 쓰는 사람이 아닐지도 모른다. 오히려 문장이 다시 세계에 걸리도록 만드는 사람, 그 연결의 근거와 책임을 끝까지 확인하는 사람에 가까워지고 있다.
허대찬. 미디어문화예술채널 앨리스온 aliceon.co.kr 편집장
참고할 만한 논의
Alan M. Turing, 「Computing Machinery and Intelligence」, Mind, 1950.
링크: https://academic.oup.com/mind/article/LIX/236/433/986238
튜링은 이 논문에서 “기계가 생각할 수 있는가”라는 질문을 직접 정의하려 하기보다, 이를 ‘모방 게임(imitation game)’이라는 다른 형식의 질문으로 바꿔 제안한다. 이 글에서 말한 “답이 없는 것이 아니라 질문이 바뀐 것”이라는 문제의식과 연결해 읽을 수 있다. 다만 튜링의 논의는 이해의 내적 상태보다 외부 수행을 기준으로 삼는 방향에 가깝기 때문에, 본 연재에서 다룬 언어-내적 이해와 세계-접지 이해의 구분과 함께 비판적으로 읽을 필요가 있다.
Ludwig Wittgenstein, 「Philosophical Investigations」, 1953.
참고 링크: https://plato.stanford.edu/entries/wittgenstein/
비트겐슈타인의 후기 철학은 언어의 의미를 고정된 대응 관계가 아니라 사용과 삶의 형식 속에서 이해하려 한다. ‘언어게임(language-game)’이라는 개념은 우리가 어떤 말을 어떤 조건에서 의미 있는 것으로 받아들이는가를 생각하게 한다. 6회차에서 제안한 “이해의 계약”이라는 표현도 이와 맞닿아 있다. 이해는 단순한 내면 상태가 아니라, 특정한 언어 사용과 사회적 판단 규칙 속에서 인정되는 것이기 때문이다.
Emily M. Bender, Alexander Koller, 「Climbing towards NLU: On Meaning, Form, and Understanding in the Age of Data」, Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics, 2020.
링크: https://aclanthology.org/2020.acl-main.463/
Bender와 Koller는 대규모 언어 모델이 언어 형식(form)을 정교하게 다룰 수 있다고 해서, 그것이 곧 의미(meaning)나 이해(understanding)를 보장하는 것은 아니라고 비판한다. 이 논의는 본 연재의 언어-내적 이해와 세계-접지 이해의 구분을 뒷받침하는 중요한 참고점이 된다. 특히 LLM이 보여주는 유창한 언어 수행을 어떤 기준으로 판단할 것인가라는 6회차의 문제의식과 직접 연결된다.
Lucy Suchman, 「Plans and Situated Actions: The Problem of Human-Machine Communication」, Cambridge University Press, 1987.
참고 링크: https://books.google.com/books/about/Plans_and_Situated_Actions.html?id=AJ_eBJtHxmsC
Suchman은 인간의 행위를 미리 세운 계획의 실행으로만 이해하는 관점을 비판하고, 실제 행위가 구체적인 상황 속에서 구성된다는 점을 강조한다. 이는 인간-기계 상호작용을 고립된 명령과 응답이 아니라 상황, 맥락, 해석, 조정의 과정으로 보게 만든다. 6회차에서 말한 “AI가 어떤 시스템 안에서 어떻게 사용되는가”라는 질문, 그리고 이해를 모델 내부가 아니라 연결과 절차 속에서 보려는 관점과 맞닿아 있다.
Virginia Dignum, 「Responsible Artificial Intelligence: How to Develop and Use AI in a Responsible Way」, Springer, 2019.
링크: https://link.springer.com/book/10.1007/978-3-030-30371-6
Dignum은 AI의 책임성을 기술 시스템의 성능이나 정확성 문제에만 두지 않고, 설계, 사용, 관리, 제도, 사회적 가치의 문제로 확장해 다룬다. 이는 6회차에서 제기한 “최종 판단과 책임은 어디에 남는가”라는 질문과 연결된다. AI 시대의 이해를 갱신한다는 것은 모델의 능력을 평가하는 일에 그치지 않고, 그 모델이 어떤 사회적 절차와 책임 구조 안에서 사용되는지를 함께 묻는 일이기 때문이다.
Harry Collins, Robert Evans, 「Rethinking Expertise」, University of Chicago Press, 2007.
링크: https://press.uchicago.edu/ucp/books/book/chicago/R/bo5485769.html
Collins와 Evans는 전문성이 단순히 개인이 머릿속에 가진 지식이 아니라, 특정 공동체와 실천 속에서 형성되고 인정되는 것임을 논의한다. 이 관점은 “누가 어떤 조건에서 이해했다고 인정받는가”라는 6회차의 질문과 연결된다. AI가 생성한 텍스트가 점점 더 그럴듯해지는 상황에서, 전문적 판단과 이해의 인정 기준이 어디에 놓여야 하는지를 생각하는 데 유용하다.
NIST, 「Artificial Intelligence Risk Management Framework 1.0」, 2023.
링크: https://nvlpubs.nist.gov/nistpubs/ai/nist.ai.100-1.pdf
NIST, 「Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile」, 2024.
링크: https://www.nist.gov/publications/artificial-intelligence-risk-management-framework-generative-artificial-intelligence
NIST의 AI 위험관리 프레임워크는 AI 시스템의 신뢰성과 책임성을 모델 성능만이 아니라 거버넌스, 측정, 관리, 테스트, 평가, 검증의 과정 속에서 다룬다. 2024년에 공개된 생성형 AI 프로파일은 이 논의를 생성형 AI의 고유한 위험과 관리 절차로 확장한다. 5회차에서는 검증 루프와 연결해 참고할 수 있었다면, 6회차에서는 “이해의 계약”을 실제 시스템과 제도 속에서 어떻게 갱신할 것인가를 생각하는 데 도움이 된다. 이해를 인정하는 기준은 추상적인 철학적 논쟁에만 머물지 않고, 검토 가능하고 책임 가능한 절차로 이어져야 하기 때문이다.