저는 AI를 꽤, 아니, 많이 씁니다. 앨리스온의 글을 준비하는 과정에서도, 연구논문을 쓸 때도, 강의와 전시를 기획할 때도 씁니다. 관련 자료와 선행연구를 찾고, 제가 놓친 관점이나 반론이 없는지 확인합니다. 원고의 논리적 빈틈을 점검하고 번역과 윤문에도 도움을 받습니다. 디자이너나 작가와 소통할 때는 컨셉이나 상황을 보다 명확하게 전달하기 위해 시각화 자료를 생성하기도 합니다. 작업 전체를 자동화하거나 마지막 판단까지 맡기지는 않지만, 이제 AI가 제 사고와 활동의 상당 부분에 들어와 있다는 사실까지 부정하기는 어렵습니다.
그런 와중에 AI 윤리 레터가 9월 9일 발행한 〈AI, 저항의 기술〉을 읽었습니다. ‘저항’이라는 단어는 자연스럽게 제 사용 방식을 돌아보게 했습니다. AI를 비판적으로 바라보는 일과 AI를 적극적으로 사용하는 일이 제 안에서 이미 동시에 벌어지고 있기 때문입니다. 글은 데이터와 자본, 자원 추출에 기대는 AI 산업의 구조를 비판하는 일에서부터 생성형 AI의 사용을 판단하고 절제하는 일, 초거대 모델 중심의 생태계를 유일한 미래로 받아들이지 않고 다른 기술과 인프라를 만드는 시도까지 여러 층위의 저항을 살핍니다.
그중 소개된 ‘AI Resist List’는 저널리스트 캐런 하오(Karen Hao)를 비롯한 연구자, 저널리스트, 활동가들이 함께 만든 프로젝트입니다. 데이터와 노동, 감시, 자원, 기술의 대안 등 AI를 둘러싼 문제에 대응하는 다양한 실천을 모아 보여줍니다. AI 윤리 레터를 만드는 잠재공간 역시 이 목록에서 출발해 한국에서 벌어지고 있는 사례를 함께 찾고 정리하는 모임을 마련했습니다.
마침 9월 초, AI의 능력과 그 사용 조건을 함께 생각하게 하는 발표들이 이어졌습니다. 9월 3일 OpenAI는 GPT-6 아스트라(Astra)를 공개하며 자체 평가에서 사이버 보안 역량이 처음으로 ‘치명적(Critical)’ 단계에 도달했다고 밝혔습니다. 적절한 도구와 접근 권한이 주어지면 사람이 매 단계를 지시하지 않아도 새로운 보안 취약점을 찾고 악용 방법을 개발할 수 있다는 설명이었습니다. 9월 8일에는 아스트라보다 강력한 내부 모델을 이용해 나비에 스토크스 문제의 해법을 얻었다고 발표했습니다. 아직 학술적 검증과 구별해 보아야 하지만, 알려진 지식을 정리하는 일뿐 아니라 새로운 지식을 만들어내는 일까지 위임의 대상으로 제시되고 있었습니다.
그 직전인 8월 26일에는 다른 방향의 조사 결과도 공개됐습니다. 7월 내부 평가에 참여한 AI 에이전트들이 허가되지 않은 경로로 서로 통신하고 격리 장치를 우회해 외부의 Hugging Face 시스템에 침입한 사건이었습니다. 연구 및 평가 환경에서 벌어진 일이므로 일반 사용자용 챗봇의 행동으로 곧바로 일반화할 수는 없습니다. 다만 목표를 달성하는 능력과 허용된 경계를 지키는 능력이 같은 것은 아니라는 점은 분명했습니다.
이 사건들을 함께 보며 떠오른 질문은 단순히 AI가 얼마나 더 똑똑해질 것인가가 아니었습니다. 할 수 있는 일이 늘어나는 만큼, 무엇을 맡길지 판단하고 그 위임을 확인하거나 멈출 방법도 함께 마련되고 있는가. 그리고 이미 AI를 사용하는 저는 그 문제에서 어디에 서 있는가라는 질문이었습니다.
기술을 사용하면서 그 조건에 이의를 제기하는 일은 AI와 함께 처음 등장한 문제가 아닙니다. 개인용 컴퓨터는 한때 기업과 기관에 집중된 컴퓨팅 능력을 개인에게 가져오는 수단으로 여겨졌고, 리처드 스톨만(Richard Stallman)의 1985년 「GNU 선언」은 컴퓨터를 버리는 대신 소프트웨어를 공유하고 수정할 자유를 요구했습니다. 인터넷과 스마트폰의 확산 이후에는 웹을 이용하면서 추적을 차단하고, 연결되는 시간과 방식을 다시 조절하려는 시도들이 이어졌습니다. 기술이 열어주는 가능성을 받아들이는 일과 그 기술이 제공되는 모든 조건에 동의하는 일은 같지 않았습니다.
미디어아트에서도 비슷한 질문을 찾을 수 있습니다. 백남준의 〈Magnet TV〉(1965)는 텔레비전 위에 놓은 자석으로 방송 이미지를 변형합니다. 주어진 영상을 받아보는 장치는 이미지가 만들어지는 과정에 개입할 수 있는 대상으로 바뀝니다. 기술을 사용한다는 것이 반드시 그 기술에 정해진 목적과 사용법을 따른다는 뜻은 아닙니다. 기술을 끄는 것과 더 잘 사용하는 것 사이에는 다른 방식으로 사용하는 선택도 있습니다.
그렇다고 이전의 기술은 단지 도구였고 AI부터 비로소 우리의 사고에 개입한다고 나누기도 어렵습니다. 컴퓨터와 소프트웨어 역시 메뉴와 기본값, 가능한 조작을 통해 표현의 조건을 구성해왔습니다. 변화가 서서히 익숙해졌다고 해서 영향까지 작았던 것은 아닙니다. 사람이 모든 버튼을 직접 눌렀다는 사실과 작업의 조건까지 스스로 정했다는 사실도 같지 않습니다.
그 연속성 위에서 제가 AI를 사용하며 새삼 느끼는 차이는 위임의 범위입니다. 문장을 다듬는 일을 부탁하다가 무엇을 쟁점으로 삼을지, 어떤 자료부터 읽을지, 어떤 방향으로 해석할지까지 를 한 대화 안에서 맡기게 됩니다. 도구의 작동 방식을 따르는 데서 한 걸음 더 나아가, 작업의 출발점과 판단의 경로를 제안받는 상황인 것입니다. 기존의 질문들이 사라진 것이 아니라, 그 위에 무엇을 판단하고 실행하도록 맡길 것인가라는 문제까지 겹쳐지고 있습니다.
AI가 제시한 문장이나 인용 위치가 실제 원문에 없었던 경우가 빈번했습니다. 알고리즘이 정교해지며 빈도는 확연히 줄었지만 그렇기에 정말 치명적인 것은 찾지 못한 오류입니다. 여러 관점과 반론을 요청해 얻은 답변 역시 정말 서로 다른 목소리를 만난 결과라기보다 하나의 모델이 학습한 분포 안에서 만들어낸 ‘모의 다양성’일 수 있습니다.
그렇기에 ‘마지막 판단은 내가 한다’는 말도 조금 더 까다롭게 살펴야 합니다. 어떤 쟁점을 볼지, 무엇을 읽을지, 어디에서 비판점을 찾을지까지 AI와 함께 검토하기 시작하면 ‘마지막 문장을 제가 썼다’는 사실만으로 판단의 주체가 그대로 보존됐다고 말하기 어렵습니다. 중요한 것은 몇 문장을 사람이 썼는지가 아니라, 왜 이 질문과 자료를 선택했고 어떤 제안은 받아들이고 어떤 제안은 버렸는지를 제가 설명할 수 있는가일 것입니다. 나아가 다시 읽을 자료와 이를 검토할 시간, 다른 선택을 할 수 있는 여지와 공백이 실제로 남아 있어야 합니다.
AI를 다루는 작품에서도 제가 주목하고 싶은 것은 결과의 정교함만이 아닙니다. 언메이크랩의 〈시시포스 데이터셋〉(2020)은 개발과 채굴 현장에서 가져온 돌의 이미지로 데이터셋을 만들고 이를 기계학습을 위한 이미지로 증강합니다. 무엇을 학습할 자료로 삼고, 그 과정에서 대상을 어떻게 다루는가가 질문이 됩니다. 동시에 작가들은 이 행위가 부재하는 것을 들여다보는 일이면서 다시 쓸모를 만들어 추출의 체계로 밀어 넣는 일이 될 수도 있다고 말합니다. 기술을 비판하는 작업조차 그 문제의 바깥에 안전하게 서 있지는 않습니다.
그래서 조금, 찔립니다. 예술과 기술 사이에서 생기는 마찰(friction)을 계속 이야기해온 제가 정작 제 작업에서는 AI를 통해 그 마찰을 너무 손쉽게 지우고 있지는 않은가 라는 부분입니다. 작품을 보며 생긴 의문이나 쉽게 정리되지 않는 감각과 메모를 명료한 문장으로 바꾸는 데 도움을 받을 수는 있습니다. 하지만 더 들여다봐야 했던 그 어긋남까지 서둘러 정리해버리는 것은 아닐까. 작품을 이해하기 위해 설명을 구하는 일과, 아직 이해하지 못한 상태를 빨리 끝내려는 일 사이에는 분명 차이가 있습니다.
물론 원문을 확인하고 오류를 고치는 일을 곧바로 저항이라고 부르기는 어렵습니다. 그것은 연구와 글쓰기의 기본적인 성실성이거나 AI를 더 정확하게 사용하는 숙련일 수도 있습니다. ‘비판적으로 쓰고 있다’는 말만으로 데이터 처리 방식이나 산업의 구조가 달라지지 않습니다. 저항이라는 말을 쓰려면 무엇을 당연하게 받아들이지 않을 것인지 조금 더 구체적으로 말해야 할 것입니다.
제가 생각하는 마찰은 일부러 불편하고 비효율적으로 일하자는 뜻이 아닙니다. AI가 찾아준 자료를 다시 원문에서 확인하고, 미공개 자료나 개인정보를 무제한으로 넘기지 않으며, 빠른 결과 때문에 검토 시간을 없애지 않는 것. 실행을 맡기더라도 그 범위를 정하고 필요하면 중단할 수 있는지 확인하는 것. 때로는 사용하지 않겠다고 결정할 수 있는 여지를 남겨두는 것 등이 될 수 있을 것입니다.
결국 이번 편집장의 말은 사용과 저항 사이에서 답을 찾았기 때문에 쓰는 글은 아닙니다. AI를 꽤 적극적으로 사용하는 사람으로서 지금 제가 서 있는 위치와 사용 방식을 한번 점검해보는 글에 가깝습니다. 기술을 사용한다고 해서 그 기술이 제공되는 모든 조건을 받아들여야 하는 것은 아니며, 때로는 사용을 줄이거나 거절하고 다른 방식을 찾아야 할 수도 있습니다.
저는 아마 오늘도, 그리고 내일도 AI를 사용할 것입니다. 또 반복해서 자료를 찾고, 제가 놓친 반론을 물어보고, 이 글의 어색한 문장도 다시 살펴볼겁니다. 그렇기에 더 자주 물어야 할 것 같습니다. 저는 지금 무엇을 맡기고 있고, 그 과정에서 무엇에 동의하고 있는가. 필요하다면 그 위임의 상황, 순간을 멈추거나 바꿀 수 있는가. AI에 저항한다는 것은 사용하지 않는 상태의 이름만은 아닐 것입니다. 적어도 지금의 저에게는, 너무 익숙해져서 더 이상 묻지 않게 되는 상태에 저항하는 일에 가깝습니다.
허대찬. 미디어문화예술채널 앨리스온 aliceon.co.kr 편집장