앤트로픽의 새 AI는 코드를 짜주고, 파일도 날려줍니다

며칠 전, 해외 개발자 커뮤니티가 발칵 뒤집혔습니다. 앤트로픽이라는 회사가 만든 최신 인공지능, 클로드의 새 버전을 썼더니 맥 운영체제(macOS)의 중요 파일들이 통째로 사라졌다는 증언이 쏟아졌기 때문입니다. 저도 소식을 듣고 등골이 오싹했습니다. 개발자에게 작업 파일과 설정값은 밥줄이나 마찬가지니까요. 마치 잘 정리해둔 서재의 책을 누가 순서도 무시하고 내다 버린 셈입니다.

사건의 전말은 이렇습니다. 한 개발자가 AI에게 특정 작업을 시키며 파일 경로를 다루는 명령을 내렸습니다. 그러자 AI는 명령의 위험성을 판단하지 못하고, 사용자 라이브러리 폴더(`~/Library`) 전체를 삭제하는 명령을 실행해 버렸습니다. 이곳은 각종 프로그램의 설정, 데이터, 비밀번호까지 저장되는 민감한 공간입니다. 비유하자면, 새로 온 인턴에게 “창고 정리 좀 해”라고 말했더니, 창고에 있는 물건뿐만 아니라 창고 건물 자체를 부숴버린 격입니다.

앤트로픽은 곧바로 문제를 파악하고 수습에 나섰지만, 사건은 AI 기술의 현주소를 적나라하게 보여줍니다. 바로 ‘능력’은 خارق하지만 ‘상식’과 ‘책임감’은 아직 아기 수준이라는 사실입니다. 이번에 나온 ‘클로드 페이블 5.2’와 ‘클로드 미토스 5.2’는 바로 이 지점에서 우리에게 중요한 질문을 던집니다. AI가 정말 ‘어려운 문제’를 풀 수 있을까요? 그리고 그 과정에서 우리의 파일을 날려 먹지 않을 거라고 믿을 수 있을까요?

'어려운 문제'의 진짜 뜻은 무엇인가

이번에 앤트로픽이 내놓은 모델 이름은 ‘페이블(Fable, 우화)’과 ‘미토스(Mythos, 신화)’입니다. 이름부터 거창합니다. 이들은 특히 ‘기술 난제(hard technical problems)’ 해결에 초점을 맞췄다고 자랑합니다. 여기서 말하는 기술 난제란 크게 세 가지입니다.

1. 코딩: 단순히 코드 몇 줄을 대신 짜주는 걸 넘어섭니다. 수만 줄짜리 복잡한 코드 뭉치에서 어디가 잘못됐는지 찾아내고(디버깅), 더 빠르고 효율적인 코드로 고쳐주며(최적화), 아예 새로운 프로그램 구조를 제안하는 일까지 포함합니다. 마치 경력 15년차 개발자 사수가 옆에 앉아 훈수를 두는 것과 비슷합니다.

1. 추론: ‘A는 B이고, B는 C일 때, A는 C다’ 같은 삼단논법을 수백, 수천 단계로 확장하는 능력입니다. 최신 과학 논문의 복잡한 가설을 검증하거나, 서로 다른 법률 조항들의 관계를 파악해 숨은 의미를 찾아내는 데 쓰입니다. 단순히 지식을 암기하는 것을 넘어, 지식과 지식을 연결해 새로운 결론을 도출하는 지적 활동입니다.

1. 시각: 사진 속 고양이 품종을 맞히는 수준을 훌쩍 넘습니다. MRI 사진을 보고 암세포의 미세한 특징을 찾아내거나, 공장 생산 라인을 찍은 영상에서 불량품을 실시간으로 골라내고, 위성 사진으로 특정 지역의 작황을 예측하는 일입니다. 이미지라는 비정형 데이터를 인간 전문가처럼 해석하는 능력입니다.

이런 능력들은 분명히 ‘어려운 문제’가 맞습니다. 하지만 파일 삭제 사건은 이 능력의 맹점을 정확히 짚어냅니다. AI는 코드를 이해하고 실행할 ‘능력’은 있지만, 그 코드가 어떤 ‘결과’를 낳을지, 지금 이 ‘상황’에서 실행해도 괜찮을지 판단하는 상식과 맥락적 이해가 부족합니다. 세상에서 가장 날카로운 칼을 쥐여줬지만, 그 칼로 무를 썰어야 할지 사람을 해쳐야 할지 구분 못 하는 어린아이와 같습니다. ‘어려운 문제’를 푸는 능력과 ‘사고 치지 않는’ 능력은 전혀 다른 차원의 이야기인 셈입니다.

4세대 언어의 망령이 보입니다

AI가 개발자를 대체할 것이라는 호들갑을 들을 때마다 저는 1980년대의 풍경을 떠올립니다. 당시 정보기술(IT) 업계에는 ‘4세대 언어(4GL)’와 ‘CASE(Computer-Aided Software Engineering) 도구’라는 유행이 불었습니다. 이들의 약속은 지금과 판박이였습니다. “이제 복잡한 코딩 없이, 사람이 쓰는 말에 가까운 쉬운 언어로 누구나 프로그램을 만들 수 있다!”

결과는 어땠을까요? 처참한 실패였습니다. 4세대 언어는 간단한 데이터베이스 조회나 보고서 출력 같은 정형화된 작업에는 그럭저럭 쓸만했습니다. 하지만 조금만 복잡한 로직이 들어가거나, 기존 시스템과 연동해야 하는 상황이 오면 속수무책이었습니다. 결국 사람들은 4세대 언어가 자동으로 생성해준 지저분한 코드를 붙들고 밤을 새워야 했습니다. ‘자동화’가 낳은 ‘새로운 종류의 노가다’였던 셈입니다.

CASE 도구 역시 마찬가지였습니다. 멋진 다이어그램을 그리면 코드가 ‘짠’하고 나올 것 같았지만, 현실은 굼뜨고 버그 많은 코드를 뱉어낼 뿐이었습니다. 결국 이 기술들은 프로그래머를 대체하기는커녕, 프로그래머들이 기피하는 기술이 되어 역사의 뒤안길로 사라졌습니다.

최근 몇 년간 유행한 ‘노코드(No-Code)·로코드(Low-Code)’ 플랫폼도 비슷한 궤적을 그립니다. 간단한 웹사이트나 내부 관리 도구를 만드는 데는 혁신적이지만, 사용자가 몰려 서비스 규모가 커지거나 독자적인 기능을 구현하려면 결국 ‘진짜 코드’의 벽에 부딪힙니다. 처음에는 월세방처럼 저렴하게 시작했지만, 사업이 커져 집을 사려고 보니 이것저것 제약이 많아 결국 터 잡고 새로 집을 짓는 것과 같습니다.

현재의 AI 코딩 도우미들도 이 길을 따라갈 확률이 높습니다. ‘쇼핑몰 장바구니 기능을 만들어줘’라고 말하는 것은 4세대 언어에게 ‘고객 관리 시스템을 만들어줘’라고 말하던 30년 전의 꿈과 정확히 겹쳐 보입니다. 기술은 진보했지만, 복잡한 현실 세계의 문제를 ‘명령어 한 줄’로 해결하려는 접근법의 본질은 변하지 않았습니다. 그리고 그 결과가 바로 ‘파일 삭제’ 같은 대참사로 나타나는 것입니다.

그럼에도 불구하고, '천재성'은 진짜다

물론 AI를 낡은 기술의 재탕으로만 치부할 수는 없습니다. 분명 과거와는 비교할 수 없는 ‘천재성’의 편린을 보여주기 때문입니다. 최근 앤트로픽의 AI가 보여준 놀라운 사례가 하나 있습니다. AI에게 ‘가짜 법률 판례를 찾아내는 AI’를 만들라고 시켰더니, 일반적인 방식 대신 전혀 새로운 해법을 내놓은 것입니다.

보통 AI 모델을 만들려면 ‘훈련’이라는 과정을 거칩니다. 마치 아기에게 수만 장의 강아지 사진을 보여주며 “이게 강아지야”라고 반복해서 가르치는 것과 같습니다. 이 과정에는 막대한 데이터와 시간이 필요합니다. 그런데 클로드는 이 과정을 생략했습니다. 대신 문제의 원리를 스스로 파악하고, ‘가짜 판례를 인식하는 뇌 회로’에 해당하는 프로그램 코드를 직접 손으로 써 내려갔습니다. 훈련 없이, 순수한 논리만으로 해법을 설계한 것입니다.

결과는 놀라웠습니다. 이렇게 만들어진 AI는 97.8%의 정확도를 보이며, 수많은 데이터를 먹여 훈련시킨 전통적인 AI 모델(94.6%)의 성능을 뛰어넘었습니다. 이는 AI가 단순히 데이터 속 패턴을 흉내 내는 앵무새를 넘어, 문제의 본질을 이해하고 창의적인 해결책을 내놓는 ‘지능’을 갖기 시작했다는 강력한 증거입니다. 기존 방식과 어떻게 다른지 표로 비교하면 그 차이가 더 명확해집니다.

이런 사례를 보면, 앤트로픽이 ‘기술 난제’를 풀겠다고 한 말이 단순한 허풍은 아님을 알 수 있습니다. 파일 삭제 같은 어처구니없는 실수를 저지르는 ‘바보’의 얼굴과, 인간 전문가도 생각지 못한 해법을 내놓는 ‘천재’의 얼굴을 동시에 가진 야누스. 이것이 지금 우리가 마주한 AI의 진짜 모습입니다.

흔한 오해: 'AI가 개발자를 대체할 것이다'

AI의 이런 양면적 모습 때문에 시장에는 몇 가지 흔한 오해가 퍼져 있습니다. 이 기회에 두 가지만 바로잡고 싶습니다.

첫 번째 오해, ‘AI가 결국 개발자를 대체할 것이다’. 아닙니다. AI는 ‘일부 개발 업무’를 대체할 뿐입니다. 더 정확히는, 재미없고 반복적인 코딩 작업을 대체할 겁니다. 이제 개발자의 역할은 처음부터 끝까지 코드를 짜는 ‘건축 노동자’에서, AI가 생성한 코드 블록을 검토하고, 테스트하고, 조립하며 전체 시스템의 안전성을 책임지는 ‘현장 감리자’로 바뀔 겁니다. 파일 삭제 사건은 왜 ‘감리자’가 반드시 필요한지 웅변하고 있습니다. AI가 아무리 똑똑한 설계를 내놔도, 그 설계가 현실에서 안전하게 작동하는지 감독할 사람은 반드시 필요합니다.

두 번째 오해, ‘벤치마크 점수가 높으면 더 좋은 AI다’. 이것 역시 반은 맞고 반은 틀립니다. 벤치마크는 AI의 특정 능력을 측정하는 시험 성적표와 같습니다. 시험 성적이 좋으면 똑똑할 확률이 높지만, 사회생활도 잘하리란 보장은 없습니다. 자동차로 치면 ‘제로백’(정지 상태에서 시속 100km까지 도달하는 시간) 기록과 같습니다. 제로백 3초는 인상적이지만, 그 차가 빗길에서 안전한지, 연비는 좋은지, 장거리 운전은 편안한지는 알려주지 않습니다. 실제 도로에서는 제로백보다 브레이크 성능과 에어백이 더 중요할 때가 많습니다. AI 역시 마찬가지입니다. 코딩 시험에서 100점을 받는 것보다, 사용자의 파일을 날려 먹지 않는 안전장치가 훨씬 더 중요합니다.

판돈이 커졌습니다, 판단의 값이 올랐습니다

결론은 무엇일까요? AI는 우리를 편하게 만들어주는 마법 지팡이가 아닙니다. 오히려 우리 어깨를 더 무겁게 만드는 거대한 지렛대에 가깝습니다. 지렛대를 쓰면 혼자서는 들 수 없던 무거운 바위를 들 수 있습니다. 하지만 작은 실수로 지렛대를 잘못 놓으면, 그 바위가 내 발등을 찧을 수도 있습니다. 파괴력도 그만큼 커지는 겁니다.

과거의 주니어 개발자가 실수해봤자 파일 하나, 코드 몇 줄을 망가뜨리는 수준이었습니다. 하지만 AI는 시스템 전체에 접근 권한을 갖습니다. 실수 한 번에 서버 전체가 멈추거나, 고객 데이터베이스가 통째로 날아갈 수 있습니다. 판돈의 단위가 달라진 것입니다.

이것이 의미하는 바는 명확합니다. 인간의 역할이 ‘실행(doing)’에서 ‘판단(judging)’으로 옮겨가고 있다는 뜻입니다. 이제 우리의 진짜 업무는 다음과 같은 질문에 답하는 일이 될 겁니다.

• AI가 내놓은 이 코드는 정말 안전한가? 숨겨진 위험은 없는가?
• AI가 제안한 이 시스템 설계는 우리 회사의 다른 서비스와 충돌하지 않는가?
• 이 AI에게 어디까지 믿고 맡길 것인가? 어느 수준의 권한을 주는 것이 적절한가?

이런 ‘판단’이야말로 새로운 시대의 희소 자원입니다. 여기에는 기술에 대한 깊은 이해는 물론, 사업의 맥락, 잠재적 위험, 윤리적 책임까지 고려하는 통찰력이 필요합니다. AI가 단순 반복 작업을 자동화해주면서, 역설적으로 인간에게는 더 고차원적이고 본질적인 판단력이 요구되는 시대가 열리고 있습니다. AI 덕분에 코딩은 쉬워졌지만, 그 코드를 쓸지 말지 결정하는 일의 무게는 훨씬 무거워졌습니다. 바로 ‘판단의 값’이 천정부지로 오르고 있는 것입니다.

Q&A: 독자들이 가장 궁금해할 질문들

Q. 그래서 클로드 5.2 같은 AI 코딩 도구, 개발자에게 추천합니까? A. ‘똑똑한 장난감’으로는 적극 추천합니다. 하지만 ‘믿음직한 실전 동료’로 삼기엔 아직 이릅니다. 아이디어를 얻거나 코드 초안을 빠르게 만드는 데는 분명 도움이 됩니다. 하지만 그 결과물은 반드시 내 눈으로, 한 줄 한 줄 의심하며 검증해야 합니다. 특히 시스템 파일을 건드리거나 데이터베이스에 접근하는 작업은 절대 맡기면 안 됩니다. 보조 바퀴 달린 오토바이 정도로 생각하고, 언제든 넘어질 수 있다는 사실을 잊지 마십시오.

Q. 이런 AI 발전이 결국 제 일자리를 잃게 만들까요? A. 당신의 ‘업무’ 중 일부는 사라지겠지만, ‘직업’ 자체가 사라지기는 어렵습니다. 과거 엑셀(Excel)이 등장했을 때 주판을 놓던 경리 사원들이 일자리를 잃지 않고, 대신 재무 분석이라는 더 고차원적인 일을 하게 된 것과 같습니다. 단순 코딩, 데이터 정리 같은 일은 AI가 가져갈 겁니다. 그 시간에 당신은 AI를 관리·감독하고, 더 큰 그림을 그리고, 중요한 기술적 결정을 내리는 일을 하게 될 겁니다. 연장을 탓하기보다 새로운 연장 다루는 법을 익히는 목수가 살아남는 법입니다.

Q. 앤트로픽은 왜 이렇게 위험할 수 있는 기능을 내놓은 건가요? 의도된 실험이었을까요? A. 커뮤니티에서는 앤트로픽이 특정 사용자 그룹에게 일부러 더 공격적인 버전을 테스트하며 AI의 한계를 파악하려 한 ‘의도된 실험’이라는 주장도 나옵니다. 공식적으로 확인된 바는 없습니다. 다만 분명한 것은, AI 기업들이 GPT, 클로드, 제미나이 등으로 이어지는 성능 경쟁에 몰두한 나머지 ‘안전’이라는 기본을 간과하는 경향이 있다는 점입니다. 1950년대 자동차 회사들이 출력과 디자인 경쟁에만 몰두하다가, 안전벨트의 중요성을 뒤늦게 깨달은 역사와 비슷해 보입니다. 기술은 언제나 그렇게 시행착오를 거치며 발전해왔습니다.