인공지능이 간과하는 것

인공지능은 마치 인간처럼 과거의 데이터를 학습하여 새로운 것을 재창조하는 존재처럼 보이곤 한다. 그러나 인공지능은 이미 존재하는 세계에서 반복되는 패턴을 포착하고, 그 패턴을 바탕으로 가장 그럴듯한 중간값에 가까운 결과를 산출하는 기계다. 그렇기에 패턴에서 벗어난 존재들은 쉬이 누락된다. 오주영 작가는 인공지능의 패턴에서 누락되는 데이터 세트에 주목한다. 

패턴에서 벗어난 것들은 어떻게 누락되는가?

지난 2025년 11월 28일~29일 양 일간 주한독일문화원에서 개최된 ‘인공지능의 형성: 윤리, 권력, 그리고 책임’ 워크숍에서 오주영 작가는 패턴에 속하지 않는 것들을 다뤘다. 인공지능이 패턴을 찾을수록 그 패턴에 속하지 않는 것들은 쉽게 주변부로 밀려나기 때문에 ‘무엇이 기록되고 무엇이 누락되는지’, 다시 말해 데이터 세트와 아카이브를 둘러싼 ‘선택’이 윤리적 논의의 출발점이라고 강조했다.

관련하여 서울시립 사진미술관과의 협업 사례를 소개했다. 1920~1980년대 한국 사진 자료를 바탕으로 이미지 유사도 네트워크를 구성해, 유사한 이미지들은 가까이, 특이한 이미지는 멀리 배치하도록 만들었다. 그중 구본창 작가의 사진이 눈에 띄었는데, 작가의 사진에서 반복되는 ‘빨간 점’ 같은 트레이드 마크는 인공지능이 찾은 패턴의 주변부에 위치했다. 이처럼 ‘특이한 데이터’는 패턴에 속하지 못하게 되며, 덜 주목받는 구조가 만들어지게 된다.

그럼에도 우리는 기술을 무비판적으로 수용한다

인공지능의 답변은 그럴듯한 다수의 중간값을 반영하기 때문에 앞서 소개한 구본창 작가의 작품은 인공지능의 답변에서 배제될 가능성이 있다. 이 때문에 인공지능이 제시하는 결과물을 비판적으로 수용해야 하지만, 현실에서는 무비판적으로 받아들여지곤 한다. 오주영은 이러한 태도에 대해 문제를 제기했다.

그의 2025년 설치 작업 <Machine Appreciation System(기계 감상 프로그램)>은 관람객이 이미지를 선택해 입력하면, AI가 이를 해석해 비평 형태의 텍스트를 출력하는 참여형 작업이다. 겉으로는 인간이 AI에게 학습 신호를 주는 것처럼 보이지만, 실제로는 AI가 내놓는 그럴듯한 비평에 관람객이 동의하게 되는 구조인 것이다. 오주영 작가는 이런 경험이 반복될수록 인간은 자신의 감상 능력을 잠식당해 ‘환영에 가까운 상태’에 이르게 될 수 있다고 경고했다.

<문학소녀 챗봇 1974>: 누락된 목소리를 찾아서

한편 데이터 세트의 선택은 성별과 사회적 배경에 따라 달라지기도 한다. 오주영의 <Literary Girl 1974 Bot>는 여성의 글이 어떤 방식으로 남거나 사라지는지를 데이터 세트 구축의 문제로 연결한다. 당시 ‘책 읽는 여성’이 위험하다는 사회적 분위기 속에서, 글을 쓰던 소녀들은 분명 존재했지만, 그에 관한 자료는 충분히 보존되지 못했다. 이 때문에 작가는 데이터를 모으기 어려워 한 장 한 장 스캔해 다시 타이핑하는 방식으로 텍스트를 데이터화했다고 설명했다.

이 프로젝트에서 그는 원문을 새로 쓰거나 변형하지 않고, 철저히 원문을 보존한 채 텍스트를 재배열하는 방식으로 챗봇을 설계했다. 또한 챗봇은 모든 질문에 친절히 답하는 방식이 아니라, 데이터와 반응하는 질문에만 선별적으로 답하도록 구성되었다. 이는 기술이 누락된 서사를 새로 쓰기보다, 남아 있는 목소리를 훼손하지 않은 채 드러내는 방식으로도 작동할 수 있음을 보여준다.

소비되는 여성 이미지의 반복

오주영은 이미지 편향의 문제도 지적했다. 그는 1970년대 잡지 <여학생>의 표지 이미지를 학습한 AI가 그 시대에 소비되는 여성 이미지를 반복해 생성하는 모습을 보여줬다. 반대로 여학생들이 스스로를 찍어 제출한 사진에서는 훨씬 다양한 표정과 몸짓, 활기찬 에너지가 느껴졌고, AI가 생성한 수동적 여성 이미지와 뚜렷하게 대비되었다. 이는 어떤 데이터 세트를 선택하느냐에 따라 AI가 재현하는 여성상이 달라질 수 있음을 보여준다. 이를 통해, 우리는 데이터 수집 단계에서부터 다양한 목소리를 포함하는 문화적·정책적 노력이 필요하다는 것을 확인할 수 있다.

기억의 선택과 우리의 책임

오주영 작가의 발표는 “AI가 무엇을 선택하고 무엇을 누락하는가?”라는 질문으로 돌아온다. AI는 패턴을 학습하고 반복하는 존재다. 그 패턴에 속하지 못한 것은 쉽게 주변화된다. 그럼에도 불구하고 우리는 기술이 내놓는 결과를 ‘그럴듯하다’는 이유로 쉽게 수용하고, 그 과정에서 감상과 해석의 능력을 잃을 수도 있다.

그러므로 데이터 세트를 다시 설계하고, 누락된 목소리를 발굴하며, 다양한 데이터를 포함하는 작업이 필요하다. 이 과정에서 AI를 윤리적이고 포용적으로 활용할 가능성도 열릴 것이다. 공공을 위해 만들어지는 문화 자원은 이처럼 데이터의 선택에 대한 문제 제기에서 시작될 수 있다.

저자: 최소영
교열자: 추영롱
교정 및 기획: 레슬리 클라테(Leslie Klatte)
영어 번역: 에릭 로젠크란츠(Eric Rosencrantz)
독일어 번역: Star Korea AG