AI는 정말 ‘보는’ 걸까요? 최신 연구가 밝힌 ‘똑똑한 장님’의 비밀

‘보는 AI’의 시대, 우리는 무엇을 보고 있나

이미지를 보여주면 막힘없이 설명하고, 심지어 그림 속 농담까지 이해하는 인공지능의 등장은 경이롭습니다. 오픈AI의 GPT-4o나 구글의 제미나이 같은 최신 모델들은 텍스트를 넘어 시각 정보까지 다루는 ‘멀티모달 AI’ 시대를 열었습니다. 마치 기계가 정말로 세상을 ‘보고 생각하는’ 듯한 착각마저 듭니다. 하지만 연구자로서 저는 이런 현상을 볼 때 흥분하기보다 한계부터 살피게 됩니다. 정말 AI는 인간처럼 ‘보고’ 있는 걸까요?

이 근본적인 질문에 답하기 위해 나온 것이 최근 발표된 ‘See2Think’라는 논문입니다. 이 연구는 현재 각광받는 멀티모달 AI들이 과연 인간과 같은 방식으로 시각 정보를 처리하는지 집요하게 파고듭니다. 비유하자면, 어떤 학생이 수학 시험에서 만점을 받았다고 가정해 봅시다. 우리는 그 학생이 문제의 원리를 완벽히 이해했다고 생각하기 쉽습니다. 하지만 만약 그 학생이 문제집의 모든 문제와 답을 통째로 외워서 푼 것이라면 어떨까요? 문제 유형이 조금만 바뀌어도 속수무책일 겁니다. 현재 AI의 시각 이해 능력이 혹시 이런 ‘암기 과목’에 가까운 것은 아닌지, See2Think 연구는 바로 이 지점을 날카롭게 찌릅니다. 논문 제목부터 ‘멀티모달 모델은 정말로 중간 시각 상태를 사용하는가?’라고 묻고 있습니다. 연구는 정확히 읽어야 합니다. 그들이 던지는 질문의 핵심부터 따라가 보겠습니다.

사람의 ‘보기’ vs AI의 ‘보기’: 중간 시각 상태란 무엇인가

우리가 무언가를 ‘본다’는 행위는 단순히 빛의 신호를 받아들이는 것에서 그치지 않습니다. 눈으로 들어온 복잡한 정보는 뇌에서 즉각적으로 분해되고 재조립됩니다. 가령, 퇴근길 저녁 장을 보기 위해 마트에 들렀다고 상상해 봅시다. 눈앞에 펼쳐진 수많은 상품들을 우리는 색깔과 형태의 뒤범벅으로 인식하지 않습니다. 대신 ‘저건 사과’, ‘이건 우유’, ‘사과 옆에는 배가 있네’ 와 같이 각 사물을 별개의 객체로 즉시 인식하고 그 관계를 파악합니다.

이처럼 복잡한 시각 정보를 의미 있는 단위로 분해하고 구조화하는 과정을 거쳐 생성된 내부 표현을 가리켜 논문에서는 ‘중간 시각 상태(Intermediate Visual States)’라고 부릅니다. 어려운 용어지만, 우리가 세상을 이해하는 방식 그 자체입니다. 구체적으로는 다음과 같은 작업들을 포함합니다.

• 객체 탐지 (Object Detection): 사진 속에서 ‘이건 고양이’, ‘저건 자동차’ 하고 인식하고 그 주위에 네모난 상자를 그리는 것과 같습니다. 사물의 존재와 위치를 파악하는 단계입니다.
• 이미지 분할 (Image Segmentation): 한 걸음 더 나아가, ‘고양이는 정확히 여기까지’, ‘배경은 저기부터’ 와 같이 픽셀 단위로 각 객체의 영역을 정밀하게 구분해내는 작업입니다. 마치 색칠공부 하듯 영역을 나누는 과정입니다.
• 깊이 추정 (Depth Estimation): ‘자동차가 사람보다 뒤에 있다’거나 ‘산이 건물보다 멀리 있다’처럼 각 객체 간의 거리를 파악하는 것입니다. 이를 통해 2차원 이미지로부터 3차원 공간을 재구성합니다.

인간의 시각 시스템은 이처럼 장면을 개별 요소로 나누고(분석), 그들 간의 관계를 파악하며(추론), 이를 바탕으로 종합적인 판단을 내립니다. ‘사과를 집어라’는 지시를 수행하려면, 먼저 ‘사과’라는 객체를 다른 과일과 구분해내고(분할), 그 위치를 정확히 파악해야(탐지) 손을 뻗을 수 있는 것과 같은 원리입니다.

‘See2Think’ 실험이 드러낸 불편한 진실

그렇다면 AI도 우리처럼 이런 ‘중간 시각 상태’를 만들어내고 활용할까요? See2Think 연구진은 바로 이 점을 확인하기 위해 여러 상용 및 오픈소스 멀티모달 AI 모델들을 대상으로 일련의 테스트를 설계했습니다.

실험 방식은 간단하면서도 핵심을 꿰뚫습니다. 예를 들어 AI에게 ‘사진 속 빨간 공은 파란 상자 위에 있니?’라고 묻는 대신, 질문을 단계적으로 던지는 겁니다. ‘1단계: 먼저 사진에서 빨간 공을 찾아 네모 상자로 표시해봐. 2단계: 다음으로 파란 상자를 찾아 네모 상자로 표시해봐. 3단계: 이제 둘의 위치 관계를 말해봐.’ 인간이라면 당연히 1, 2단계를 거쳐 3단계의 답을 찾을 겁니다. 이것이 논리적인 추론 과정입니다.

결과는 놀라웠습니다. 수많은 AI 모델들이 3단계 질문, 즉 최종적인 질문에는 꽤 높은 확률로 정답을 맞혔습니다. 하지만 정작 그 과정에 해당하는 1, 2단계, 즉 중간 시각 상태를 생성하는 작업에서는 처참한 실패를 거듭했습니다. 심지어 어떤 모델은 최종 답은 맞히면서도, 중간 과정인 객체 탐지에서는 완전히 엉뚱한 곳을 가리키기도 했습니다. 이는 AI가 인간처럼 ‘장면을 구조적으로 이해해서 답을 찾는 것’이 아닐 가능성이 크다는 강력한 증거입니다.

그렇다면 AI는 어떻게 정답을 맞히는 걸까요? 연구진은 AI가 이미지의 전체적인 픽셀 패턴과 질문으로 주어진 텍스트 사이의 방대한 통계적 상관관계를 학습한 결과라고 추정합니다. 쉽게 말해, 학습 데이터에 ‘빨간 공’과 ‘파란 상자’가 함께 등장하는 수많은 이미지와 ‘공이 상자 위에 있다’는 텍스트 설명을 함께 접하면서, 특정 픽셀 조합이 나타날 때 특정 단어 조합이 나올 확률이 높다는 것을 ‘외워버린’ 것에 가깝습니다. 이는 마치 소리의 울림만으로 방 안의 물건 배치를 어림짐작하는 ‘똑똑한 장님’과 같습니다. 물건의 색깔이나 형태, 재질을 직접 본 것이 아니라, 소리가 어떻게 반사되는지에 대한 경험적 데이터에 의존하는 것입니다. 정확도가 높을 수는 있지만, ‘보았다’고 말하기는 어렵습니다.

흔한 오해와 반론: ‘다른 방식의 지능’일 뿐 아닐까?

이러한 연구 결과에 대해 몇 가지 흔한 오해와 그럴듯한 반론이 제기될 수 있습니다. 연구를 정확히 읽는다는 것은 이런 반론까지 꼼꼼히 검토하는 과정을 포함합니다.

오해 1: “성능이 좋으면 그만 아닌가? 과정이 어떻든 답만 잘 맞히면 되지.”

결코 그렇지 않습니다. 과정의 신뢰성이 담보되지 않은 결과는 매우 불안정하기 때문입니다. 통계적 요령에 의존하는 방식은 ‘학습 데이터에 없는’ 새로운 상황에 극도로 취약합니다. 예를 들어, 늘 정면에서 찍은 고양이 사진만 학습한 AI에게 난생 처음으로 위에서 찍은 고양이 사진을 보여주면 ‘고양이’라고 인식하지 못할 수 있습니다. 조명이 조금 달라지거나, 객체의 각도가 살짝만 비틀어져도 AI의 판단은 쉽게 뒤집힙니다. 자율주행차나 의료 영상 진단처럼 사소한 실수가 치명적인 결과로 이어질 수 있는 분야에서 이런 불안정성은 결코 용납될 수 없습니다.

오해 2: “AI가 인간의 뇌를 흉내 낼 필요는 없다. 우리에게 생소한, 다른 방식의 지능일 뿐이다.”

타당한 지적입니다. 비행기가 새처럼 날갯짓을 하지 않듯, AI가 반드시 인간의 인지 과정을 모방해야 할 이유는 없습니다. 하지만 중요한 것은 그 ‘다른 방식’이 설명 가능하고 신뢰할 수 있느냐는 점입니다. 현재 AI의 작동 방식은 내부를 들여다볼 수 없는 ‘블랙박스’에 가깝습니다. AI 의사가 엑스레이 사진을 보고 폐암 진단을 내렸을 때, 우리는 그 근거를 물어야 합니다. AI가 사진 속에서 실제 암세포의 특징(중간 시각 상태)을 발견했기 때문인지, 아니면 우연히 사진 한쪽에 찍힌 특정 병원의 로고가 학습 데이터상에서 암 환자 데이터와 높은 상관관계를 보였기 때문인지 알아야 합니다. 후자는 지능이 아니라 위험한 착각일 뿐입니다.

두 접근 방식의 차이는 아래 표로 요약할 수 있습니다.

결국 문제는 AI가 인간과 같으냐 다르냐가 아니라, 그 작동 방식을 우리가 신뢰하고 통제할 수 있느냐로 귀결됩니다.

역사에서 배우는 교훈: ‘클레버 한스’의 망령

현재 멀티모달 AI가 처한 상황은 20세기 초 독일을 떠들썩하게 했던 ‘클레버 한스(Clever Hans)’라는 말의 이야기를 떠올리게 합니다. 한스는 덧셈, 뺄셈 등 간단한 산수를 하고 발굽으로 정답을 두드려 사람들을 놀라게 했습니다. 모두가 ‘생각하는 말’의 등장에 열광했지만, 심리학자 오스카 풍스트의 집요한 실험 결과 진실이 밝혀졌습니다.

한스는 수학을 이해한 것이 아니었습니다. 그저 질문하는 사람의 표정이나 고갯짓, 숨소리 같은 미세한 비언어적 신호를 감지했다가, 정답의 숫자에 가까워질 때 사람들이 무의식적으로 보이는 ‘이제 됐다’는 신호를 포착하고 발굽질을 멈췄을 뿐입니다. 질문하는 사람조차 정답을 모르는 상황에서는 한스 역시 정답을 맞히지 못했습니다. 한스는 수학자가 아니라, 인간의 무의식적 기대를 읽어내는 데 비범한 재능을 가진 관찰자였던 셈입니다.

현재의 멀티모달 AI는 우리 시대의 ‘클레버 한스’와 같습니다. AI는 정말로 이미지를 이해하고 추론하는 것처럼 보이지만, 실제로는 인간이 만들어 쌓아 올린 방대한 데이터 속에서 정답에 해당하는 ‘통계적 신호’를 기가 막히게 포착하고 있는 것일 수 있습니다. 이것이 지능이 아니라고 폄하할 필요는 없습니다. 클레버 한스가 인간의 미세한 신호를 읽는 능력이 탁월했듯, 대규모 데이터에서 패턴을 추출하는 AI의 능력은 그 자체로 대단하며 수많은 분야에서 유용하게 쓰일 수 있습니다. 다만 우리는 메커니즘과 예언을 구분해야 합니다. AI가 보이는 놀라운 결과가 진짜 ‘생각’의 산물인지, 아니면 정교한 ‘눈치 보기’의 결과인지 냉정하게 구별해야만 기술을 올바르게 사용하고 발전시킬 수 있습니다.

성능 지표의 함정을 넘어: 우리가 추적해야 할 신호들

See2Think 연구가 던지는 가장 중요한 메시지는 우리가 AI를 평가하는 방식에 대한 근본적인 성찰을 요구한다는 점입니다. 지금까지 AI 커뮤니티는 주로 최종 결과물의 정답률을 나타내는 벤치마크 점수로 모델의 성능을 측정해 왔습니다. 하지만 이는 과정의 논리성은 무시한 채 시험 성적표만 보는 것과 같습니다.

이제 우리는 ‘얼마나 잘 맞히는가’를 넘어 ‘어떻게 해서 맞혔는가’를 물어야 합니다. AI가 정말로 생각하는 능력을 갖추고 있는지 확인하려면, 다음과 같은 신호들을 추적해야 합니다.

1. 구성성(Compositionality) 테스트: AI가 ‘노란색’과 ‘트럭’을 각각 안다고 해서 ‘노란 트럭’을 반드시 이해하는 것은 아닙니다. 이미 학습한 요소들을 새로운 방식으로 조합했을 때에도 일관된 성능을 보이는지 확인해야 합니다. 이는 단순 암기를 넘어선 개념 이해의 증거가 됩니다.
2. 견고성(Robustness) 테스트: 이미지에 사람 눈에는 보이지 않는 아주 작은 변화(노이즈)를 주었을 때 AI의 판단이 180도 뒤바뀌는지 시험해 봐야 합니다. 이를 ‘대항적 공격(Adversarial Attack)’이라고 부릅니다. 튼튼한 논리적 기반이 없는 모델일수록 이런 공격에 쉽게 무너집니다.
3. 인과관계 추론(Causal Inference) 능력: ‘상자 위에 있던 공이 떨어졌다. 왜일까?’ 또는 ‘공을 오른쪽으로 밀면 어떻게 될까?’와 같은 질문에 답할 수 있는지 확인해야 합니다. 이는 이미지와 텍스트의 표면적 상관관계를 넘어, 세상이 작동하는 물리적 원인과 결과에 대한 이해를 요구합니다.

이러한 테스트들은 AI의 ‘진짜 지능’을 측정하는 새로운 잣대가 될 것입니다. 개발자들은 더 높은 벤치마크 점수에만 매달릴 것이 아니라, 모델의 내부 작동을 투명하게 만들고 논리적 추론 능력을 강화하는 방향으로 나아가야 합니다.

데이터 주권과 ‘생각하는 AI’의 미래

AI의 시각 이해 능력이 결국 데이터 속 통계적 패턴 학습에 크게 의존한다면, 우리는 자연스럽게 ‘어떤 데이터인가’라는 질문에 도달하게 됩니다. 현재의 AI 모델들은 인터넷의 거의 모든 텍스트와 이미지를 무차별적으로 학습 데이터로 사용합니다. 여기에는 저작권 문제, 개인정보 침해, 사회적 편견의 답습 등 수많은 문제가 얽혀 있습니다.

AI가 클레버 한스처럼 데이터라는 ‘주인의 눈치’를 살피는 방식으로 작동한다면, 그 주인이 누구이며 어떤 편견을 가졌는지가 AI의 행동을 결정하게 됩니다. 이는 데이터 주권의 문제와 직결됩니다. 누가 AI의 세계관을 형성하는 데이터를 통제하고, 그 데이터로 인해 발생한 AI의 오류에 대해 누가 책임질 것인가 하는 무거운 질문이 남습니다.

궁극적으로 진정 ‘보고 생각하는 AI’를 만드는 것은 단순히 기술적 도전을 넘어섭니다. 그것은 더 적은 데이터로도 원리를 학습하고, 새로운 상황에 유연하게 대처하며, 자신의 판단 근거를 인간에게 투명하게 설명할 수 있는 AI를 향한 여정입니다. 그런 AI는 무분별한 데이터 수집에 대한 의존도를 낮춰 데이터 주권 문제를 완화하는 데에도 기여할 수 있습니다.

See2Think 연구는 현재 AI 기술의 현주소를 냉정하게 보여주는 동시에, 우리가 나아가야 할 방향을 명확히 제시합니다. 단순한 성능의 경이로움에 취해 있기보다, 기계 지능의 본질이 무엇인지, 그리고 우리가 어떤 종류의 지능을 원하는지에 대해 더 깊이 고민해야 할 때입니다. 재현되는가, 조건은 무엇인가. 이 질문을 멈추지 않는 한, 우리는 똑똑한 장님이 아니라 진정한 눈을 가진 파트너로서의 AI를 만나게 될 것입니다.

독자가 던질 법한 질문들

Q. 이 연구 결과는 미드저니나 스테이블 디퓨전 같은 이미지 생성 AI에는 해당하지 않는 이야기인가요?

A. 좋은 질문입니다. 생성 AI 역시 근본적으로는 대규모 데이터의 통계적 패턴을 학습한다는 점에서 같은 기술 기반을 공유합니다. 다만 See2Think 연구는 ‘이해’와 ‘추론’ 능력에 초점을 맞춘 반면, 생성 AI는 ‘그럴듯한 결과물’을 만드는 데 더 특화되어 있습니다. 따라서 정확한 장면 이해보다는 심미적이거나 통계적인 그럴듯함이 더 중요하게 작동할 수 있습니다. 하지만 생성 AI에게 ‘왼손에 사과를 들고 오른손으로는 V자를 그리는 남자’처럼 복잡하고 구체적인 지시를 내렸을 때 손가락이 뭉개지거나 지시를 제대로 따르지 못하는 현상이 자주 나타나는데, 이 또한 장면의 구조적 이해가 부족하기 때문에 발생하는 한계라고 볼 수 있습니다.

Q. AI가 굳이 인간처럼 생각할 필요가 있나요? 결과만 잘 내면 되는 것 아닌가요?

A. ‘어떤 결과를 내느냐’에 따라 다릅니다. 시를 쓰거나 그림을 그리는 창의적 작업에서는 과정의 논리성보다 최종 결과물의 독창성이나 아름다움이 더 중요할 수 있습니다. 그러나 자율주행차가 갑작스러운 장애물을 피하거나, AI 의사가 환자의 생사가 걸린 진단을 내리는 것처럼 높은 신뢰성과 안전성이 요구되는 분야에서는 ‘왜’ 그런 결정을 내렸는지 설명할 수 있는 투명성이 무엇보다 중요합니다. 현재처럼 통계적 요령에 의존하는 방식은 예측 불가능한 상황에서 치명적인 오류를 일으킬 수 있어, 이런 고위험 분야에 그대로 적용하기에는 아직 불안정한 면이 많습니다.

Q. 앞으로 AI 모델이 이런 한계를 극복할 수 있을까요? 어떤 기술을 주목해야 할까요?

A. 물론입니다. 학계와 산업계 모두 이 문제를 인지하고 활발히 연구 중입니다. 주목할 만한 방향은 크게 두 가지입니다. 첫째, ‘신경-기호주의 AI(Neuro-Symbolic AI)’입니다. 이는 딥러닝과 같은 신경망의 강력한 패턴 인식 능력과, 기호주의 AI의 논리적 추론 능력을 결합하려는 시도입니다. 장면을 인식하는 것은 신경망이, 그 관계를 따지는 것은 기호 논리가 맡는 식입니다. 둘째, ‘월드 모델(World Models)’ 연구입니다. AI가 단순히 데이터를 외우는 것을 넘어, 세상이 어떻게 돌아가는지에 대한 내적인 시뮬레이션 모델(물리 법칙, 인과관계 등)을 갖도록 하는 접근입니다. 이런 연구들이 현재 AI의 한계를 뛰어넘어, 우리가 진정 신뢰할 수 있는 ‘생각하는 기계’를 만드는 열쇠가 될 수 있습니다.