존버는 승리한다? '미친 짓'이라던 그래픽카드, AI 시대의 예언서가 된 사연

'3090 광풍 경고', 성지가 되다

여러분, 인터넷에서 '성지순례' 좀 다녀보셨나요? 미래를 예언한 듯한 옛날 게시물이나 댓글에 찾아가서 '와, 이걸 어떻게 아셨어요?' 감탄하는 거요. 오늘 얘기할 엔비디아의 '지포스 RTX 3090'이라는 그래픽카드가 딱 그 짝입니다. 몇 년 전, 해외 커뮤니티 레딧에는 '3090 광풍 경고(3090 frenzy warning)'라는 제목의 글이 돌았어요. 당시 비트코인 채굴 열풍으로 미친 듯이 비싸진 3090을 사는 건 어리석은 짓이라는, 지극히 합리적인 경고였죠. 실제로 많은 사람들이 “지금 3090 사는 흑우 없제?”라며 비웃었고요. 저 역시 ‘저걸 저 돈 주고 왜 사나’ 싶었습니다.

그런데 지금, 그 게시물이 정반대의 의미로 재발견되며 성지가 됐습니다. “이 경고는 사실 ‘미래에 3090이 없어서 광풍이 불 테니 미리 사두라’는 뜻이었다”는 식의, 웃지 못할 해석이 붙어서요. 한때 ‘비합리적 소비’의 아이콘이었던 3090이, 갑자기 ‘선견지명’의 상징으로 역주행하고 있는 거죠. 이 코미디 같은 상황의 무대 뒤편에는, 바로 인공지능(AI) 기술의 지각변동이 있습니다.

개인용 컴퓨터에서 직접 AI를 돌려보려는 사람들, 이른바 '로컬 LLM' 유저들이 폭발적으로 늘면서 벌어진 일이에요. 이들은 거대 기업의 서버를 빌리지 않고, 내 방, 내 책상 밑 컴퓨터에서 AI를 길들이려는 사람들이죠. 그리고 이들에게 3090은 구세주 같은 존재가 됐습니다. 대체 이 낡은 그래픽카드에 무슨 특별한 능력이 있길래, AI 시대의 '머스트 해브 아이템'으로 부활한 걸까요? 이건 단순히 한 하드웨어의 재평가를 넘어, 기술과 인간의 관계가 어떻게 변하고 있는지를 보여주는 흥미로운 단서입니다.

AI의 '전세방' 크기 경쟁, VRAM이 뭐길래

이 해괴한 역주행을 이해하려면 먼저 'VRAM(비디오 램)'이라는 개념부터 알아야 해요. 어려운 말 같지만, 사실 우리 일상의 '공간' 개념과 똑같습니다. 컴퓨터의 그래픽카드(GPU)를 AI 모델을 돌리는 똑똑한 요리사라고 상상해 보세요. VRAM은 이 요리사가 쓸 수 있는 '주방 조리대'의 크기입니다.

요즘 유행하는 챗GPT 같은 거대 언어 모델(LLM)은 쉽게 말해, 사람 말을 흉내 내 문장을 만들어 내는 AI인데요. 똑똑하고 섬세한 모델일수록 어마어마하게 덩치가 큽니다. 이 덩치가 바로 모델의 '가중치(weights)'라고 불리는 수십억, 수백억 개의 숫자로 된 데이터 뭉치예요. 요리사가 복잡하고 훌륭한 요리를 하려면 온갖 재료들을 조리대 위에 쫙 펼쳐놓고 써야 효율적이겠죠? AI도 마찬가지입니다. 이 데이터 뭉치 전체를 VRAM이라는 조리대에 한 번에 올려놓고 작업해야 가장 빠르고 안정적으로 돌아가요.

만약 조리대가 좁으면 어떻게 될까요? 요리사는 필요한 재료가 생길 때마다 일일이 냉장고(컴퓨터의 일반 메모리, RAM)나 창고(하드디스크나 SSD)까지 달려가서 재료를 가져와야 합니다. 요리 속도가 터무니없이 느려지는 건 당연하죠. 이걸 전문용어로 '오프로딩(offloading)'이라고 부릅니다. 심하면 아예 요리를 시작조차 못 할 수도 있고요. 로컬 AI 환경에서 VRAM 용량이 절대적으로 중요한 이유가 바로 이겁니다.

바로 이 지점에서 RTX 3090의 진가가 드러납니다. 이 카드는 무려 24GB의 VRAM을 탑재하고 나왔어요. 당시엔 대부분 게임에서 다 쓰지도 못하는 과한 용량이었습니다. 하지만 지금 쓸만한 성능을 내는 오픈소스 LLM을 개인 컴퓨터에서 굴려보려면, 최소 12GB, 쾌적하게 돌리려면 24GB 정도의 VRAM이 필요합니다. 24GB는 로컬 AI 세계의 '국민 평수' 같은 거예요. 이보다 작으면 AI 모델이라는 세입자를 들이기 너무 빡빡하고, 이 정도는 되어야 좀 사람답게(?) AI를 써먹을 수 있는 거죠. 한때는 쓸데없이 넓은 '평수'가, 시대가 바뀌자 AI라는 새 식구를 맞이할 최적의 '전셋집'이 된 셈입니다.

채굴장에서 AI 연구실로: 3090의 롤러코스터

RTX 3090의 지난 4년은 그야말로 롤러코스터였습니다. 이 카드의 가치가 어떻게 평가받아 왔는지 되짚어보면 지금의 현상이 더 입체적으로 보여요.

- 1단계: 괴물 게이밍 카드의 등장 (2020년 9월) 처음 나왔을 때 3090은 '타이탄'급의 성능을 지포스 라인업으로 가져온, 게이머들의 꿈의 카드였습니다. 하지만 1499달러라는 가격은 일반 게이머가 넘보기엔 너무 비쌌죠. '저 돈이면 그냥 콘솔 게임기 여러 대 사겠다'는 반응이 대부분이었습니다.

- 2단계: 암호화폐 채굴 광풍의 주범 (2021년~2022년 초) 비트코인과 이더리움 가격이 폭등하면서 3090은 최고의 '곡괭이'가 됐습니다. 뛰어난 연산 성능으로 암호화폐를 '채굴'하는 데 최적이었기 때문이죠. 수요가 폭발하자 가격은 300만 원, 400만 원을 훌쩍 넘기며 천정부지로 치솟았습니다. 이때 3090을 사는 사람은 전문 채굴업자이거나, 아니면 곧 꺼질 거품에 마지막으로 올라타는 사람으로 보였어요. '3090 광풍 경고'가 나온 것도 바로 이 시기입니다.

- 3단계: '채굴 에디션'의 눈물 (2022년 중반~2023년) 결국 거품은 터졌습니다. 이더리움 채굴 방식이 바뀌면서 그래픽카드 채굴의 시대가 막을 내렸죠. 갈 곳 잃은 수십만 대의 3090이 중고 시장에 쏟아져 나왔습니다. 24시간 혹사당한 '채굴 끌려갔다 온 카드'라는 낙인이 찍히며 가격은 70~80만 원대까지 폭락했어요. 한때의 영광은 온데간데없이, 잘못된 투자의 상징이자 애물단지로 전락한 거죠.

- 4단계: 로컬 AI 시대의 구원자 (2023년 말~현재) 아무도 예상치 못한 곳에서 반전이 일어났습니다. 챗GPT가 촉발한 AI 혁명이 개인 사용자들에게까지 번지면서 '로컬 LLM'이라는 새로운 트렌드가 생겨난 겁니다. 그리고 이 새로운 수요에 가장 완벽하게 부합하는 '가성비' 하드웨어가 바로 중고 RTX 3090이었어요. 채굴장에서 버려졌던 카드가, 이제는 최첨단 AI 연구실의 핵심 장비로 재입성하게 된 드라마틱한 역전극입니다.

이 롤러코스터는 기술의 가치가 스펙 그 자체에 있는 게 아니라, 시대의 '필요'와 맞아떨어질 때 결정된다는 걸 명확히 보여줍니다. 3090의 24GB VRAM이라는 스펙은 변한 적이 없어요. 변한 것은 그 스펙을 갈망하는 사람들과 그들의 목적이었죠.

왜 4090이 아니고, 왜 4080은 안 되나?

여기서 똑똑한 독자들은 질문할 겁니다. “최신 40 시리즈 카드는 더 좋지 않나요? 왜 굳이 구형인 3090을 찾는 거죠?” 아주 좋은 질문이에요. 이 질문에 답을 하다 보면 3090의 독보적인 포지션이 더 명확해집니다.

결론부터 말하면, 이유는 '가격 대비 VRAM 용량', 즉 '램성비' 때문입니다. 현재 시장 상황을 우리에게 익숙한 부동산 시장에 빗대어 볼게요.

표를 보면 명확해지죠. 로컬 AI를 진지하게 시작하려는 개인에게 선택지는 사실상 두 가지입니다. 엄청난 총알을 장전해서 '강남 타워팰리스(RTX 4090)'에 입주하거나, 아니면 합리적인 가격에 '구축 대형 평수(중고 RTX 3090)'를 구하는 거죠. RTX 4080 Super는 분명 최신 기술로 지어진 멋진 '신축 오피스텔'이지만, 방이 하나 모자라서(16GB VRAM) 4인 가족(대형 AI 모델)이 살기엔 비좁은 것과 같아요. 결국 '일단 살아봐야 뭘 하든 할 텐데'라는 생각에 이르면, 3090의 24GB라는 공간은 무엇과도 바꾸기 힘든 가치를 갖게 됩니다.

물론 최신 40 시리즈가 '텐서 코어'라는 AI 전용 연산 유닛의 성능이 더 좋고 전기도 덜 먹는 건 사실입니다. 하지만 앞서 말했듯, AI 모델을 조리대에 올리지도 못하면 요리사의 손이 아무리 빨라 봐야 소용없어요. '일단 올릴 수 있느냐'가 '얼마나 빨리 처리하느냐'보다 선행되는, 아주 원초적인 문제인 셈이죠.

흔한 오해: '성능'과 '용량'의 함정

3090 현상을 둘러싼 흔한 오해 두 가지를 짚어볼 필요가 있어요. 이 함정을 이해하면 기술을 보는 눈이 좀 더 날카로워질 겁니다.

오해 1: “최신 기술이 무조건 더 좋은 것 아닌가요?”

우리는 흔히 '최신 = 최고'라고 생각하는 기술결정론적 사고에 익숙해요. 스마트폰이든 자동차든 새로 나온 게 더 빠르고 기능도 많으니까요. 하지만 3090 사례는 특정 '작업 부하(workload)' 앞에서는 이 공식이 깨질 수 있다는 걸 보여줍니다. 로컬 LLM 구동이라는 새로운 과제 앞에서, 평가 기준 자체가 바뀐 거죠. '최고 속도'보다 '최대 적재 용량'이 더 중요한 평가 척도가 된 겁니다.

마치 이삿짐을 옮기는데, 페라리(최신 고성능 카드)와 낡은 1톤 트럭(3090) 중 하나를 골라야 하는 상황과 같아요. 페라리가 훨씬 빠르고 멋지지만, 냉장고 하나 싣지 못하면 아무 소용없죠. 이삿짐센터 사장님에겐 무조건 1톤 트럭이 '더 좋은 차'인 겁니다. 지금 로컬 AI 유저들이 딱 이삿짐센터 사장님의 심정인 거예요. 물론 모델을 더 작게 만드는 '양자화(quantization)' 같은 기술이 발전하고 있지만, 그럼에도 원본 모델을 그대로 돌릴 수 있는 넉넉한 VRAM의 매력은 여전합니다.

오해 2: “어차피 AI는 챗GPT처럼 클라우드로 쓰는 게 편하지 않나요?”

대부분의 사람들에게 AI는 여전히 웹사이트에 접속해서 쓰는 서비스죠. 그런데 왜 굳이 수십, 수백만 원짜리 하드웨어를 사서 내 컴퓨터에 AI를 설치하려는 '기인'들이 늘어나는 걸까요? 여기에는 몇 가지 중요한 욕망이 숨어 있습니다.

• 첫째, 프라이버시와 데이터 주권입니다. 내가 AI와 나누는 대화, 내가 입력하는 민감한 정보가 어딘가 알 수 없는 서버에 저장되고, 또 다른 AI를 훈련시키는 데 쓰일 수 있다는 찝찝함. 로컬 AI는 이 문제의 근원적인 해결책이에요. 모든 데이터가 내 컴퓨터 안에서만 머무르니까요.
• 둘째, 비용과 자유입니다. 챗GPT-4 같은 고성능 AI를 자주 쓰려면 API라는 사용료를 내야 합니다. 택시 요금처럼 쓸 때마다 돈이 나가죠. 하지만 로컬 AI는 한번 하드웨어를 사두면 추가 비용 없이 얼마든지 마음껏 쓸 수 있어요. 자가용을 산 것과 같죠. 또한, 기업들이 '윤리적' 이유로 걸어둔 여러 검열이나 제약 없이, 날것 그대로의 AI 모델을 탐구하고 실험해 볼 수 있는 자유도 있습니다.
• 셋째, 커스터마이징입니다. 나만의 데이터를 학습시켜 특정 목적에 특화된 AI를 만들 수 있어요. 예를 들어 내 모든 업무 기록을 학습시켜 나만의 업무 비서를 만들거나, 특정 작가의 스타일을 흉내 내는 글쓰기 AI를 만들 수도 있죠. 이건 거대 기업이 제공하는 범용 서비스로는 불가능한, 진정한 '개인화'의 영역입니다.

결국 로컬 AI 열풍은 단순히 기술적 호기심을 넘어, 빅테크에 종속되지 않고 나만의 AI를 소유하고 통제하려는 '디지털 주권'에 대한 열망의 표현인 셈입니다.

엔비디아는 몰랐을까, 아니면 모른 척했을까?

상황이 이쯤 되니 이런 의문이 들 수밖에 없어요. “AI 시대의 절대 강자인 엔비디아가 이런 흐름을 정말 예측 못 했을까? 왜 4070이나 4080 같은 중간급 라인업에 24GB VRAM 옵션을 넣어주지 않았을까?”

엔비디아가 바보라서? 천만에요. 아마 우리보다 백배는 똑똑한 사람들이 모여있는 곳일 겁니다. 이건 실수가 아니라 매우 정교한 '설계'에 가깝다고 보는 게 합리적이에요. 바로 '제품군 분리(Product Segmentation)'라는, 기업 입장에선 지극히 당연한 경영 전략이죠.

만약 100만 원대의 4070 Ti Super 같은 카드에 24GB VRAM을 달아줬다고 상상해 보세요. AI 연구나 개발을 막 시작하는 소규모 기업이나 연구실에서 어떤 선택을 할까요? 굳이 수백, 수천만 원짜리 전문가용 카드(RTX A6000, H100 등)를 살 필요가 없어집니다. 소비자용 카드가 전문가용 카드의 시장을 잠식하는 '카니발라이제이션'이 일어나는 거죠.

엔비디아는 의도적으로 소비자용 카드 라인업의 VRAM에 '유리천장'을 만들어 뒀을 가능성이 높습니다. 딱 최상급인 4090에만 24GB를 허락해서 '맛보기'를 원하는 개인 최상위 유저들의 수요를 충족시키고, 그 이상의 VRAM이 필요한 전문가나 기업은 훨씬 비싼 전문가용 카드를 사도록 유도하는 겁니다. 현대차가 아반떼에 제네시스 G80의 엔진을 얹어주지 않는 것과 똑같은 이치예요. 기술적으로 불가능해서가 아니라, 그렇게 하면 제네시스가 안 팔리니까요.

빡치지만 이게 현실입니다. 기업은 자선사업가가 아니니까요. 그리고 바로 이 엔비디아의 정교한 시장 전략이 만들어낸 '빈틈'을, 구시대의 유물 취급받던 중고 3090이 정확하게 파고들어 자기만의 왕국을 건설한 겁니다. 참 웃프죠.

마무리: 내 책상 밑의 작은 주권

결국 RTX 3090의 기이한 역주행은 단순히 '존버는 승리한다'는 식의 주식 투자 격언이나, 한물간 하드웨어의 재평가 스토리로만 볼 수 없습니다. 이건 훨씬 더 큰 이야기의 서막일 수 있어요.

지난 몇 년간 AI 기술은 소수의 거대 기업이 독점한 클라우드 서버 안에서 발전해 왔습니다. 우리는 그저 그들이 만들어준 창문을 통해 AI를 구경하고, 사용료를 내고 빌려 쓰는 세입자였죠. 하지만 로컬 LLM의 등장은 이 구도에 균열을 내기 시작했습니다. 내 돈으로 산 하드웨어 위에서, 내 통제하에, 나만의 AI를 돌리겠다는 움직임이니까요. 마치 중앙집권적인 제국에 맞서 자신만의 영지를 구축하려는 지방 영주들처럼요.

RTX 3090은 바로 이 새로운 흐름의 한가운데 서 있는 상징적인 도구입니다. 비싸고 구하기 힘든 최신 무기가 아니라, 중고 시장에서 저렴하게 구할 수 있지만 충분히 강력해서 게릴라전을 벌이기에 안성맞춤인 'AK-47 소총' 같은 존재랄까요. 모두가 스마트폰으로 배달 음식을 시켜 먹을 때, 텃밭을 일궈 내 손으로 식재료를 키우려는 'AI 시대의 도시 농부'들에게 꼭 필요한 튼튼한 삽 한 자루일지도 모릅니다.

그래서 3090을 찾는 사람들의 모습은 제게 꽤 뭉클하게 다가옵니다. 거대한 기술의 파도 앞에서 그저 수동적인 소비자로 남지 않으려는 최소한의 저항. 내 데이터와 내 생각의 통제권을 내어주지 않으려는 의지. 내 책상 밑 작은 컴퓨터 케이스 안에, 나만의 작은 주권 하나를 세우려는 인간적인 욕망의 증거처럼 보여서요.

독자가 던질 법한 질문들

Q. 그래서 지금이라도 중고 3090을 사는 게 좋을까요? '채굴 에디션' 위험하다던데요. A. 정답은 없습니다. 목적에 따라 달라요. 만약 주된 목적이 게임이라면, 비슷한 가격대의 최신 40 시리즈 카드가 전력 효율이나 신기술 지원 면에서 더 나은 선택일 수 있습니다. 하지만 '나는 로컬 AI를 꼭 돌려봐야겠다'는 목표가 확고하다면, 중고 3090은 여전히 가장 가성비 높은 진입로입니다. 물론 24시간 혹사당했을지 모를 채굴 카드에 대한 리스크는 본인이 감수해야 합니다. 개인 판매보다는 전문 업체에서 테스트와 보증을 제공하는 제품을 알아보는 게 그나마 안전한 방법이겠네요. 항상 그렇듯, 하이 리스크 하이 리턴입니다.

Q. 3090 말고 다른 대안은 없나요? AMD 그래픽카드는 왜 이야기가 없죠? A. 좋은 지적입니다. AMD도 7900 XTX처럼 24GB VRAM을 가진 고성능 카드를 내놨어요. 하드웨어 스펙만 보면 훌륭한 대안이죠. 문제는 '소프트웨어 생태계'입니다. 현재 대부분의 AI 개발 프레임워크와 라이브러리는 엔비디아의 'CUDA'라는 플랫폼을 중심으로 구축되어 있어요. AMD의 ROCm 같은 대안이 있지만, 아직 안정성이나 커뮤니티 지원, 사용 편의성 면에서 CUDA에 비해 부족한 게 사실입니다. '일단 돌아가게 만드는 것' 자체가 하나의 큰 허들이 될 수 있죠. 그래서 개발자나 연구자들이 울며 겨자 먹기로 엔비디아를 선택하는 경우가 많습니다. 자동차로 치면, 차 자체는 좋은데 전용 부품 구하기가 어렵고 정비소도 별로 없는 상황과 비슷해요.

Q. VRAM만 크면 장땡인가요? 곧 50 시리즈 나오면 3090도 끝물 아닌가요? A. 물론 VRAM이 전부는 아닙니다. 앞서 말했듯 AI 연산 속도에 영향을 미치는 텐서 코어 성능, 데이터 전송 속도 등 다른 요소도 중요해요. 그리고 기술은 계속 발전하겠죠. 내년에 나올 50 시리즈는 아마 지금보다 훨씬 저렴한 가격에 24GB 이상의 VRAM을 제공할지도 모릅니다. 하지만 기술 제품 구매는 늘 '현재'의 필요와 '미래'의 가능성 사이의 도박입니다. '곧 더 좋은 거 나오겠지'라는 생각으로 무한정 기다리다간 아무것도 시작 못 할 수 있어요. 3090의 역주행이 우리에게 주는 교훈은, 완벽한 '미래'를 기다리기보다 '지금 당장' 내 문제를 해결해주는 기술의 가치를 발견하는 즐거움 아닐까요? 3090은 그 즐거움을 가장 합리적인 비용으로 안겨주는 현재의 대안인 셈입니다.