AI 제국의 '월세'에 빡친 사람들, AMD에 '내 집 마련'의 꿈을 싣다

소제목 1: 엔비디아 월세살이, 이제 지겹다구요?

최근 온라인 AI 개발자 커뮤니티가 좀 들썩였어요. AMD라는 회사가 갑자기 소프트웨어 버전을 7.14에서 10.0으로 건너뛰는, 거의 로켓 발사 같은 업데이트를 발표했거든요. 이게 뭐 대수냐 싶죠? IT 업계에서 버전 숫자는 그냥 숫자가 아니에요. 7에서 8로 가는 것도 큰 변화인데, 10이라니. 이건 “우리 이제 장난 안 합니다. 완전 새로 판 깔았어요”라는 선언이나 마찬가지예요.

이게 왜 중요한지 알려면 지금 AI 세계의 ‘부동산’ 상황부터 알아야 해요. 현재 AI 개발의 90% 이상은 엔비디아(NVIDIA)라는 회사의 그래픽카드 위에서 돌아갑니다. 그래픽카드, 즉 GPU(Graphics Processing Unit)는 원래 게임 화면을 쌩쌩하게 돌리려고 만든 부품인데, 알고 보니 단순 계산을 엄청나게 빨리하는 능력이 AI 연산에 딱이었던 거죠. 덕분에 엔비디아는 AI 시대의 절대 권력, 사실상의 ‘땅 주인’이 됐어요.

근데 엔비디아는 그냥 땅만 파는 회사가 아니에요. ‘CUDA(쿠다)’라는 이름의 소프트웨어 생태계를 만들어서 자기네 땅(GPU) 위에서만 건물을 지을 수 있게(AI를 개발할 수 있게) 해놨죠. 이 CUDA라는 게 기가 막히게 좋아요. 온갖 AI 개발 도구들이 CUDA에 맞춰 착착 나오고, 웬만한 건 그냥 가져다 쓰면 다 돌아가요. 마치 최고급 자재로 지은 ‘엔비디아 팰리스’에 입주하는 것과 같아요. 전망 좋고, 보안 철저하고, 커뮤니티 시설 완벽하죠.

문제는? 월세가 미친 듯이 비싸다는 거예요. 엔비디아 GPU 가격은 천정부지로 치솟았고, 이 아파트에선 집주인(엔비디아)이 정한 규칙만 따라야 해요. 인테리어(소스코드 수정)도 마음대로 못 하고, 새로운 가전(독자적인 기술)을 들여놓기도 까다롭죠. 이런 폐쇄적인 환경을 ‘월 가든(Walled Garden, 담장으로 둘러싸인 정원)’이라고 불러요. 예쁘고 안전하지만, 그 안에서만 살아야 하는 답답한 곳. 많은 개발자들이 이 비싼 월세와 집주인의 횡포에 슬슬 빡치기 시작한 겁니다. 웃프죠.

소제목 2: '내 방'에서 AI를 돌리고 싶은 사람들

이런 상황에서 ‘로컬 AI(Local AI)’라는 흐름이 조용하지만 거세게 일고 있어요. 말 그대로, 비싼 클라우드 서비스 빌려 쓰지 않고 ‘내 컴퓨터에서 직접’ AI를 돌리려는 사람들이죠. 레딧(Reddit)의 ‘r/LocalLLaMA’ 같은 커뮤니티에 가면 수십만 명이 모여서 매일같이 정보를 교환해요. 이 사람들은 왜 굳이 사서 고생을 할까요?

여기엔 몇 가지 중요한 이유가 있어요.

• 1. 프라이버시: 내가 AI랑 무슨 얘기를 하든, 어떤 그림을 만들든 아무도 몰라요. 내 데이터는 내 컴퓨터 하드디스크를 벗어나지 않으니까요. 빅테크 기업이 내 대화 내용을 훔쳐보거나 학습에 써먹을까 봐 걱정할 필요가 없죠.
• 2. 검열로부터의 자유: 기업들이 운영하는 AI는 온갖 종류의 검열 필터가 달려 있어요. 조금만 민감한 주제가 나와도 “저는 그 질문에 답할 수 없습니다”라며 입을 닫아버리죠. 로컬 AI는 그런 게 없어요. 창작과 표현의 완전한 자유를 누릴 수 있는 거죠.
• 3. 비용: 매달 수십, 수백만 원씩 나가는 클라우드 요금 대신, 한번 그래픽카드를 사면 추가 비용 없이 마음껏 AI를 돌릴 수 있어요. 초기 투자비용은 들지만 장기적으로는 훨씬 경제적이죠.
• 4. DIY(Do-It-Yourself) 정신: 무엇보다, 기술의 속살을 직접 들여다보고, 내 손으로 최적화하고, 세상에 없는 나만의 AI를 만들어내는 ‘손맛’이 있어요. 이건 단순한 사용자 경험을 넘어선, 디지털 시대의 새로운 공예이자 해커 문화의 연장선이에요.

이 로컬 AI 개척자들이 가장 애용하는 도구 중 하나가 ‘llama.cpp’ 같은 프로젝트예요. 원래는 거대한 데이터센터에서나 돌아가던 LLM(대규모 언어 모델, 사람처럼 글을 쓰는 AI)을 개인용 컴퓨터, 심지어는 스마트폰에서도 돌아갈 수 있게 압축하고 최적화하는 마법 같은 오픈소스 도구죠. 그런데 이 개척자들에게도 한 가지 큰 고민이 있었어요. 이런 멋진 도구들조차 대부분 엔비디아의 CUDA 위에서 가장 잘 돌아간다는 사실. ‘내 집 마련’의 꿈을 꾸지만, 결국엔 ‘엔비디아 팰리스’의 건축 공법을 배워야만 하는 아이러니한 상황이었던 거죠.

소제목 3: AMD의 반격, '오픈소스'라는 이름의 무기

바로 이 지점에서 AMD의 ROCm 10.0이 등판하는 겁니다. ROCm(로크엠이라고 읽어요)은 AMD가 내놓은 CUDA의 대항마예요. AMD 그래픽카드에서 AI를 돌릴 수 있게 해주는 소프트웨어 플랫폼이죠. 가장 큰 차이점은? ROCm은 ‘오픈소스’라는 거예요. 오픈소스란 소프트웨어의 설계도인 소스코드를 세상에 전부 공개해서 누구나 보고, 뜯어고치고, 개선하고, 재배포할 수 있게 하는 방식을 말해요.

쉬운 비유를 들어볼까요? 엔비디아 CUDA가 모든 게 완벽하게 세팅되어 있지만 내 마음대로 바꿀 수 없는 애플의 iOS라면, AMD ROCm은 좀 투박하고 손이 많이 가지만 무한한 자유도를 주는 구글의 안드로이드나 리눅스 같은 존재예요. 처음엔 앱도 별로 없고 버그도 많아서 ‘이걸 누가 써?’ 싶었지만, 전 세계의 수많은 개발자들이 달려들어 개선하면서 결국엔 거대한 생태계를 만들어냈죠.

그동안 ROCm은 사실상 ‘만들다 만 안드로이드’ 취급을 받았어요. AMD가 AI에 별로 진심이 아니라는 평이 지배적이었죠. 그런데 이번에 버전을 7.14에서 10.0으로 건너뛰면서, “우리 이제 진심이다. 안드로이드 제대로 만들어볼게!”라고 외친 셈이에요. 한 달 만의 파격적인 업데이트는 AMD가 이 싸움에 엄청난 자원을 쏟아붓고 있고, 커뮤니티의 불만과 요구에 귀를 기울이기 시작했다는 가장 강력한 증거입니다. 실제로 발표가 나자마자 ‘llama.cpp’ 깃허브(개발자들이 코드를 공유하고 협업하는 공간)에는 ROCm 10.0을 지원하는 코드가 바로 올라왔어요. 개척자들이 AMD가 던져준 새로운 무기를 얼른 써보려고 달려드는 모습이죠.

소제목 4: '에이전트 AI' 시대, 판이 바뀐다

AMD는 이번 업데이트를 발표하면서 의미심장한 슬로건을 내걸었어요. ‘에이전트 AI 시대를 위해 만들어졌다(Built for the Age of Agentic AI)’. 그냥 있어 보이려고 붙인 말이 아니에요. 이건 AI 시장의 다음 라운드를 내다본 전략적인 한 수입니다.

‘에이전트 AI’가 뭘까요? 지금까지 우리가 써온 챗GPT 같은 AI는 똑똑한 ‘대화 상대’나 ‘검색 엔진’에 가까웠어요. 질문을 하면 답을 찾아주는 식이죠. 하지만 에이전트 AI는 여기서 한발 더 나아가 ‘행동하는 AI’를 뜻해요. 내가 시키는 일을 자율적으로 계획하고 실행하는 개인 비서 같은 존재죠.

예를 들어, 지금의 AI에게는 “강남역 근처에 평점 좋은 이탈리안 레스토랑 찾아줘”라고 물어야 해요. 그러면 목록을 쭉 뽑아주죠. 하지만 에이전트 AI에게는 이렇게 말할 수 있어요. “오늘 저녁 8시에 3명, 강남역 근처 평점 4.5 이상인 이탈리안 레스토랑 조용한 창가 자리로 예약해 줘.” 그럼 이 AI 에이전트는 알아서 맛집 앱을 검색하고, 리뷰를 분석하고, 예약 사이트에 접속해서 빈 시간을 확인하고, 내 이름으로 예약까지 완료한 뒤 결과를 보고합니다. 이게 바로 에이전트 AI의 미래예요.

이게 왜 CUDA 대 ROCm 구도에서 중요할까요? 이런 복잡한 작업을 하려면 AI가 스마트폰의 앱, 웹사이트, 내 컴퓨터의 파일 등 다양한 외부 세계와 자유롭게 상호작용해야 해요. 모든 게 통제된 엔비디아의 ‘월 가든’ 안에서는 이런 유연한 연동이 오히려 불편할 수 있어요. 반면, 설계도가 전부 공개된 ROCm 같은 오픈소스 플랫폼은 개발자들이 마음대로 뜯어고쳐서 특정 앱이나 서비스에 딱 맞게 최적화하기가 훨씬 유리하죠.

AMD는 AI 경쟁의 축이 ‘얼마나 더 빨리 계산하는가’에서 ‘얼마나 더 유연하게 외부 세계와 연동하는가’로 옮겨갈 거라고 베팅한 거예요. 지금 당장의 성능 경쟁에서는 뒤처져 있지만, 미래의 ‘에이전트 AI’ 시대가 오면 자신들의 개방형 구조가 훨씬 더 강력한 무기가 될 거라고 보는 거죠. 판 자체를 바꾸려는 시도입니다.

소제목 5: 그래도 아직은 '엔비디아 팰리스'가 편한 이유

자, 그럼 이제 다들 AMD 그래픽카드를 사러 달려가야 할까요? 그건 좀 성급한 판단이에요. 몇 가지 흔한 오해를 짚고 넘어가야 합니다.

첫 번째 오해: “이제 AMD가 엔비디아랑 동급이 됐다.” 아직은 절대 아니에요. ROCm은 여전히 갈 길이 멀어요. ‘드라이버 설치하다가 하루 다 간다’, ‘이틀 동안 씨름하다 포기했다’ 같은 개발자들의 눈물겨운 후기가 괜히 나오는 게 아니에요. 수많은 AI 프로그램과 라이브러리들은 여전히 CUDA 환경에서만 안정적으로 돌아갑니다. ROCm 10.0은 ‘희망’을 보여준 거지, ‘완성’을 의미하는 건 아니에요. 안정성과 편의성이 무엇보다 중요한 기업이나 연구소 입장에서는 여전히 비싸더라도 ‘그냥 되는’ 엔비디아를 선택할 수밖에 없는 이유죠.

두 번째 오해: “결국 오픈소스가 승리할 것이다.” 역사를 보면 꼭 그렇지만도 않아요. PC 운영체제 시장에서 오픈소스인 리눅스는 수십 년째 윈도우의 아성을 넘지 못하고 있고, 스마트폰 시장에서도 오픈소스인 안드로이드가 점유율은 높지만 이익은 대부분 폐쇄적인 애플 iOS가 가져가요. 결국 대중은 ‘자유도’보다 ‘편의성’에 기꺼이 돈을 지불하는 경향이 있거든요. AMD가 ROCm을 안드로이드처럼 쉽고 편하게 만들지 못한다면, 그저 소수 매니아들의 ‘장난감’으로 남을 수도 있어요.

두 진영의 특징을 표로 정리하면 이렇습니다.

결국 엔비디아의 ‘안정적인 고급 아파트’와 AMD의 ‘자유로운 날것의 토지’ 사이에서 선택하는 문제예요. 아직은 아파트의 인기가 압도적이지만, 토지의 가능성을 보고 몰려드는 개척자들이 점점 늘어나고 있는 형국이죠.

소제목 6: 우리가 주목해야 할 신호등

이 흥미진진한 싸움의 향방을 가늠하려면 앞으로 몇 가지 신호들을 눈여겨봐야 해요. 전문 개발자가 아니더라도 충분히 따라갈 수 있는 지점들입니다.

1. 주요 AI 도구들의 ROCm 공식 지원: ‘llama.cpp’나 그림 그리는 AI로 유명한 ‘Stable Diffusion’의 실행기(ComfyUI, A1111 등) 같은 인기 도구들이 업데이트될 때, ‘이제 AMD 그래픽카드에서도 클릭 한 번으로 설치되고 완벽하게 작동합니다’라는 공지가 뜨는지 보세요. 이게 진짜 게임 체인저예요. 커뮤니티의 비공식 지원이 아니라, 공식적으로 ‘그냥 될 때’ 대중화가 시작됩니다.

1. AMD의 다음 세대 그래픽카드 가격과 성능: AMD가 엔비디아의 동급 모델보다 훨씬 저렴하면서도, AI 성능은 80~90% 수준까지 따라잡는 ‘가성비 끝판왕’ 제품을 내놓는지 보세요. 합리적인 가격에 ‘내 집 마련’의 꿈을 이룰 수 있게 된다면, ‘엔비디아 팰리스’의 비싼 월세를 감당 못 한 세입자들이 대거 이주를 시작할 수 있습니다.

1. ‘반(反) 엔비디아 동맹’의 움직임: 엔비디아의 독주를 불편해하는 건 AMD뿐만이 아니에요. 구글, 인텔, 퀄컴, 심지어 애플까지 모두 자체 AI 칩을 만들고 소프트웨어 생태계를 구축하고 있어요. 이들이 특정 기업에 종속되지 않는 ‘개방형 표준’을 중심으로 뭉치기 시작하는지 주목해야 합니다. 여러 건설사가 연합해서 새로운 ‘신도시’를 만드는 격이죠. 이 연합이 힘을 받는다면 엔비디아의 ‘나 홀로 팰리스’는 고립될 수 있어요.

1. 최초의 ‘킬러 에이전트 AI’ 앱의 등장: 우리의 일상을 바꿔놓을 첫 번째 ‘에이전트 AI’ 서비스가 어떤 기술 기반 위에서 만들어지는지가 중요합니다. 만약 그 서비스가 오픈소스 기술을 기반으로 탄생한다면, 수많은 개발자들이 그 기술을 배우기 위해 몰려들 것이고, 자연스럽게 AMD ROCm 같은 개방형 플랫폼이 대세가 될 수 있습니다.

소제목 7: '내 집 마련'의 꿈은 이루어질까

결국 AMD의 ROCm 10.0 업데이트는 단순한 소프트웨어 발표가 아니에요. 이건 AI라는 신대륙의 패권을 둘러싼 거대한 전쟁의 흐름을 바꿀 수도 있는 중요한 사건입니다. 한쪽에는 잘 닦인 도로와 완벽한 인프라를 갖춘 제국(엔비디아)이 있고, 다른 한쪽에는 척박하지만 무한한 가능성을 품은 황무지에서 독립을 꿈꾸는 개척자들(로컬 AI 커뮤니티)이 있죠. 그리고 AMD는 이 개척자들에게 ‘쓸 만한 총과 삽’을 쥐여주기 시작한 거고요.

이 개척자들은 기꺼이 불편을 감수해요. 버그와 싸우고, 밤새워 코드를 뒤지고, 복잡한 설정에 머리를 쥐어뜯죠. 그 모든 고생은 ‘내 소유의 AI’를 갖는다는 꿈, 누구의 통제도 받지 않고 내 생각과 상상력을 마음껏 펼칠 도구를 내 손으로 만든다는 기쁨을 위한 거예요. 이건 기술의 문제를 넘어선 정체성과 자율성의 문제입니다.

ROCm 10.0은 아직 ‘내 집’의 등기권리증이 아니에요. 기껏해야 ‘1금융권에서 대출이 가능할 수도 있다’는 희망적인 상담 결과 정도죠. 하지만 지난 몇 년간 굳게 닫혀 있던 엔비디아 제국의 성벽에 의미 있는 균열을 냈다는 것만으로도 충분히 흥분되는 일입니다. 개척자들은 그 틈으로 쏟아져 들어올 한 줄기 빛을 본 거예요.

Q. 그래서 당장 엔비디아 버리고 AMD 그래픽카드 사도 되나요? A. 지금 당장은 말리고 싶네요. AI 초보자라면 더더욱요. 아직은 CUDA 생태계가 훨씬 안정적이고 쓰기 편해요. 하지만 1~2년 뒤를 내다보는 ‘얼리 어답터’라면, 혹은 ‘가성비’와 ‘오픈소스’의 가치를 높게 친다면 충분히 고려해볼 만한 도박이죠. 지금은 ‘미래에 투자한다’는 느낌으로 접근하는 게 맞아요.

Q. ROCm이 그렇게 좋으면 왜 진작에 뜨지 못했나요? A. 간단히 말해, AMD가 ‘진심’이 아니었기 때문이에요. 과거 ROCm은 지원하는 그래픽카드도 제한적이었고, 업데이트도 느렸어요. 개발자들 사이에서 ‘AMD는 AI에 관심 없다’는 말이 나올 정도였죠. 하지만 챗GPT 이후 AI 시장이 폭발하면서 상황이 180도 달라졌어요. 엔비디아가 AI 칩으로 돈을 긁어모으는 걸 보고 뒤늦게 정신 차리고 막대한 자원을 쏟아붓기 시작한 거죠. 이번 10.0 업데이트가 그 신호탄이고요.

Q. '에이전트 AI'는 그냥 마케팅 용어 아닌가요? 너무 뜬구름 잡는 얘기 같아요. A. 반은 맞고 반은 틀려요. 물론 지금 당장 완벽한 AI 비서가 짠하고 나타나진 않겠죠. 하지만 방향성 자체는 명확해요. 지금의 챗봇이 ‘지식 검색 엔진’의 진화라면, 에이전트 AI는 ‘작업 자동화 도구’의 진화에 가까워요. “A에 대해 알려줘”가 아니라 “A를 해줘”가 되는 거죠. 여행 계획 짜기, 이메일 정리, 코딩 보조 등 반복적이고 복잡한 작업을 대신 해주는 개인화된 AI를 모두가 원하게 될 거예요. AMD는 이 미래 시장의 인프라를 먼저 깔겠다는 전략적 베팅을 하는 겁니다.