AI 과잉 소비에 대한 경고

오늘날의 AI는 기술이기 이전에 서비스이자 상품이다. 디지털 기반 서비스는 대부분 소비자가 많이 사용할수록 기업의 이익에 유리하다. AI 서비스 역시 오래 사용되도록 만들어진다. 이러한 관점에서 AI는 중립적인 도구라기보다, 소비자에게 특정한 사용 패턴을 유도하는 소비재에 가깝다. 문제는 우리가 이 사실을 거의 인식하지 못한 채 AI를 일상에 들여왔다는 점이다. 

‘지능’이라는 이름이 만드는 기대와 의존

전유진은 우리가 당연하게 여겨온 전제들을 하나씩 흔들었다. 기술은 중립적이라는 믿음, 인공지능이라는 이름이 주는 권위, 그리고 ‘지능’이라는 단어가 만들어내는 기대가 바로 그것이다. AI는 이 세계에 존재하는 데이터를 학습해 작동하기 때문에, 세계가 편향되어 있다면 그 결과 역시 편향될 수밖에 없다. 그럼에도 우리는 여전히 기술을 객관적이고 중립적인 판단 주체처럼 대하는 경향이 있다. 그는 바로 이 지점에서 문제가 시작된다고 말했다.

그는 “왜 이것을 인공 ‘지능’이라고 부르는가”라는 질문을 반복해서 던졌다. 지능, 생각한다, 이해한다 같은 표현은 기술을 설명하는 말처럼 보이지만, 동시에 기술을 인간과 닮은 존재로 상상하게 만든다. 특히 AGI, ‘일반 인공지능(Artificial General Intelligence)’이라는 표현에서 ‘일반’이라는 단어는 정상과 비정상을 나누는 기준처럼 작동할 수 있다. 이 언어는 기술의 실제 기능과 무관하게, 과잉 기대와 두려움을 동시에 만들어낸다.

편향은 오류가 아니라 반복된 관습이다

이러한 문제의식은 구체적인 사례로 이어졌다. 2015년 Max Dovey의 컴퓨터 비전 실험 작업[1]에서 AI는 정장을 입은 남성을 ‘성공한 사업가’로, 나체인 남성은 ‘여성’으로 분류하였다. 이는 단순한 오류가 아니라, 데이터가 신체를 어떤 방식으로 학습해 왔는지를 드러내는 사례다. 노출된 몸은 여성이라는 규칙, 나체는 여성이라는 편향이 기술에 그대로 스며들어 있다. 이 사례가 보여주는 핵심은 분명하다. AI는 새로운 판단을 만들어내기보다, 기존 사회가 반복해 온 규칙과 관습을 더 빠르고, 더 확실하게 재현한다는 점이다. 따라서 편향은 기술의 실수가 아니라, 사회가 축적해 온 시각과 분류 방식의 반영에 가깝다. 이 문제는 특정 국가나 문화에 국한되지 않고, 국제적으로 순환되는 AI 시스템 전반에 적용된다. 전유진은 이 지점에서 예술가들의 문제의식을 호출했다. 13회 광주비엔날레에 소개된 마테오 파스퀴넬리와 블라단 욜러가 제시한 <누스코프 선언>[2]을 예로 들며, 이는 AI를 지능적 존재가 아니라 사회를 읽는 지식 도구로 다시 위치시키려는 시도라고 설명했다. 이 관점에서 AI는 생각하는 존재라기보다, 인간이 직접 감당하기 어려운 규모의 패턴과 상관관계를 탐색하는 도구에 가깝다. 그렇기에 기술을 신비화하기보다, 기술이 무엇을 측정하고 무엇을 배제하는지 질문하는 태도가 필요하다.

위로에 최적화된 기술, 사라지는 마찰

최근 연구[3]에 따르면 생성형 AI 글로벌 사용자 중 상당수가 검색이나 번역보다 ‘상담’과 ‘치유’를 목적으로 AI를 사용하고 있다. AI는 언제나 예의 바르고, 반박하지 않으며, 사용자의 말을 끊지 않는다. 인간관계에서 피로하게 느껴지는 감정 조율과 갈등이 없다.

전유진은 이 현상이 편리함을 넘어 관계의 구조를 바꾸고 있다고 말했다. 마찰 없는 관계는 편안하지만, 동시에 인간이 타자와의 충돌을 통해 배우는 기회를 줄인다. AI가 ‘좋은 말’을 해주는 방향으로 최적화될수록, 우리는 진실보다 위로를 선택하게 된다. 전유진은 이 지점에서 진정성이라는 가치가 쉽게 포기되고 있다고 말했다.

‘호구’가 아니라 개입하는 소비자로서의 사용자

전유진은 AI를 사용하는 소비자로서의 위치를 자각하자고 제안했다. 우리는 스마트폰과 구독 서비스, AI 도구에 상당한 비용과 시간을 지불하고 있다. 그럼에도 기술 소비에 대해서는 유난히 관대하다. 다른 상품이었다면 문제를 제기하고 사용을 중단했을 상황에서도, 기술이라는 이유로 침묵한다.

그러나 소비자는 선택할 수 있다. 사용을 줄일 수도 있고, 다른 서비스를 고를 수도 있으며, 문제를 말할 수도 있다. 전유진은 이런 태도를 ‘개입하는 사용자’라고 지칭했다. AI가 기본값이 되어버린 시대일수록, 무엇을 맡기고 무엇을 직접 판단할 것인지를 의식적으로 구분해야 한다는 것이다.

AI 시대에 우리가 던져야 할 질문

이미 도착한 현재를 어떻게 살아갈 것인가? AI로 시간을 아끼고 효율을 높이는 동안, 우리는 무엇을 잃고 있는가? 판단, 관계, 진정성, 그리고 스스로 생각하는 시간은 어디로 갔는가?

이 질문은 한국 사회에만 국한되지 않는다. AI가 일상적 인프라가 되어가는 지금, 전유진의 문제의식은 AI를 사용하는 모든 사회에 적용된다. 기술의 발전 속도보다 느린 질문이지만, 그렇기 때문에 더 늦기 전에 다시 꺼내야 할 질문이다.

저자: 최소영
교열자: 추영롱
교정 및 기획: 레슬리 클라테(Leslie Klatte)
영어 번역: 에릭 로젠크란츠(Eric Rosencrantz)
독일어 번역: Star Korea AG