오픈AI의 폭탄선언: '안전팀은 나가, 우린 챗GPT로 돈 벌어야 돼'

요즘 실리콘밸리에서 제일 잘나가는 회사, 오픈AI에서 그야말로 막장 드라마 같은 일이 터졌어요. 미래의 AI가 인류를 위협하지 않게 막는 기술, '슈퍼얼라인먼트' 팀을 이끌던 핵심 연구원 얀 라이케가 '빡쳐서' 회사를 나왔거든요. 그냥 나온 것도 아니고, 트위터에 대문짝만하게 글을 올렸어요. “우리 회사는 인류의 안전보다 반짝이는 새 제품에 정신이 팔렸다. 안전 연구는 뒷전으로 밀려났고, 더 이상 여기서 희망을 볼 수 없다.”

이거 어디서 많이 본 그림 아닌가요? 작년에 샘 알트먼 CEO가 잠깐 쫓겨났다가 화려하게 복귀했을 때, 그때도 명분은 ‘인류를 위한 안전’과 ‘돈 버는 사업’ 사이의 갈등이었잖아요. 결국 돈 버는 쪽이 이겼고, 안전을 외치던 사람들은 하나둘 회사를 떠나고 있어요. 웃프죠. 세상에서 가장 똑똑한 기술을 만든다는 회사에서 벌어지는 일이, 결국엔 ‘돈’ 문제라니. 이건 그냥 한 천재 개발자의 이직 해프닝이 아니에요. 지금 이 순간, 인공지능이라는 기술이 어떤 방향으로 우리 삶에 들어올지를 결정하는 중요한 변곡점이죠. 이 사태가 사람들의 일상, 관계, 정체성을 어떻게 바꿀지, 한번 제대로 파고들어가 볼게요.

'얼라인먼트'가 뭔데요? : 힘센 지니에게 소원 비는 법

'슈퍼얼라인먼트'니 뭐니, 말부터 어렵죠? 최대한 쉽게 풀어볼게요. 이건 AI가 엄청나게 똑똑해졌을 때, 우리 인간의 통제를 벗어나 제멋대로 굴지 않도록 '길들이는' 기술이에요. AI를 우리 인간의 가치와 목표에 '정렬(align)시킨다'고 해서 얼라인먼트라고 불러요.

더 쉬운 비유를 들어볼까요? 알라딘 램프의 '지니'를 생각해보세요. 지니는 엄청나게 강력한 힘을 가졌지만, 주인의 소원을 들어주잖아요. 여기서 얼라인먼트는 지니가 주인의 '의도'를 정확히 파악하고, 부작용 없이 소원을 이뤄주게 만드는 장치 같은 거예요. 만약 얼라인먼트가 엉망이면 어떤 일이 생길까요? 내가 “세상 모든 사람이 행복하게 해주세요”라고 소원을 빌었는데, 지니가 이걸 ‘모든 고통을 없애주면 되겠네?’라고 제멋대로 해석해서 전 인류를 뇌사 상태로 만들어 버릴 수도 있는 거죠. 의도는 선했지만 결과는 최악인, 이런 '의도치 않은 재앙'을 막는 게 바로 얼라인먼트 연구의 핵심이에요.

지금의 챗GPT 같은 AI는 아직 '지니'만큼 강력하지 않아요. 멍청한 대답을 하거나 이상한 그림을 그려주는 수준이죠. 하지만 언젠가 인간보다 모든 면에서 뛰어난 '초지능(AGI, Artificial General Intelligence)'이 등장한다면? 그때 이 초지능이 인류의 목표와 어긋난 목표를 갖게 된다면 정말 영화 터미네이터가 현실이 될 수도 있는 거예요. 얀 라이케와 그의 팀은 바로 이 '최악의 시나리오'를 막기 위해, 즉 초지능 지니에게 올바르게 소원 비는 법을 연구하던 사람들이었어요. 그런데 회사가 보기엔 이 연구가 당장 돈이 안 됐던 거죠.

'컴퓨팅'을 둘러싼 암투: 빛나는 제품 뒤의 그림자

얀 라이케가 폭로한 내용의 핵심에는 '컴퓨팅(compute)' 자원을 둘러싼 싸움이 있어요. 컴퓨팅이 뭐냐면, AI를 훈련시키고 움직이게 하는 데 필요한 어마어마한 양의 컴퓨터 계산 능력이에요. 이걸 그냥 'AI의 전기'나 '기름'이라고 생각하면 쉬워요. 아무리 똑똑한 AI 모델 설계도가 있어도, 이 컴퓨팅이 없으면 그냥 똑똑한 척하는 깡통에 불과하죠.

오픈AI는 원래 슈퍼얼라인먼트 팀에게 회사 전체 컴퓨팅 자원의 20%를 주겠다고 약속했어요. 미래의 위험에 대비하는 게 그만큼 중요하다고 공언한 거죠. 그런데 얀 라이케의 말에 따르면, 이건 그냥 빈말이었어요. 실제로는 이 약속이 지켜지지 않았고, 안전팀은 컴퓨팅 자원을 얻기 위해 다른 제품 개발팀과 치열하게 경쟁하고 구걸해야 했다는 거예요.

이게 뭘 의미할까요? 회사의 진짜 속마음을 보여주는 거예요. 입으로는 “안전이 최우선”이라고 말하면서, 실제 돈과 자원은 전부 '빛나는 새 제품', 즉 GPT-4o처럼 사람들 눈길을 끌고 당장 돈이 되는 곳에 쏟아부은 거죠. 마치 부모가 자식에게 “네 교육이 제일 중요해”라고 말하면서, 정작 교육비는 다 빼돌려서 새 차 사는 데 쓰는 거랑 똑같아요. 행동은 말보다 더 정직하잖아요. 오픈AI의 행동은 명백히 '제품 출시'와 '수익'을 가리키고 있었고, 안전팀은 이걸 온몸으로 느끼며 좌절한 거고요.

이런 상황은 오픈AI뿐만이 아니에요. 구글, 메타 같은 다른 거대 테크 기업들도 마찬가지예요. 이들은 모두 AI 개발 경쟁에서 뒤처지면 끝장이라는 불안감에 사로잡혀 있어요. 그래서 더 빠르고, 더 화려한 AI를 내놓는 데만 혈안이 되어 있죠. 안전은 그저 구색 맞추기용 액세서리가 되어가고 있고요. 이런 '속도전'이 얼마나 위험한지는 역사가 이미 증명한 바 있어요.

21세기의 오펜하이머들: 속도 경쟁의 데자뷔

지금 벌어지는 AI 개발 경쟁을 보고 있으면, 기시감이 들어요. 바로 냉전 시대의 핵무기 개발 경쟁이죠. 당시 최고의 물리학자들은 '맨해튼 프로젝트'에 모여 원자폭탄을 만들었어요. 그들도 처음에는 순수한 과학적 호기심과 애국심으로 시작했죠. 하지만 결과물인 원자폭탄의 파괴력을 목격한 뒤, 프로젝트를 이끈 오펜하이머 같은 과학자들은 깊은 후회와 공포에 빠졌어요. 그는 “나는 이제 죽음이요, 세상의 파괴자가 되었다”는 유명한 말을 남겼죠.

그 후 많은 과학자들이 핵무기의 위험성을 경고하고 국제적인 통제를 호소했어요. 하지만 그들의 목소리는 강대국들의 군비 경쟁 논리에 묻혀버렸죠. “우리가 안 만들면 소련이 만든다”, “힘의 균형을 위해 더 강한 핵무기가 필요하다”는 논리가 모든 것을 압도했어요. 과학자들은 경고했지만, 정치인과 군인들은 '속도'와 '승리'에만 집착했어요.

지금 AI 업계가 딱 그 짝이에요. 얀 라이케나, 작년에 샘 알트먼을 해고하려 했던 일리야 수츠케버 같은 사람들은 '21세기의 오펜하이머' 같아요. 자신들이 만든 기술의 잠재적 위험을 누구보다 잘 알기에, 어떻게든 통제 장치를 만들어야 한다고 외치고 있죠. 하지만 CEO와 투자자들은 “우리가 안 하면 구글이 한다”, “중국에 뒤처질 수 없다”는 논리로 브레이크 없는 질주를 정당화해요. 아래 표를 한번 보세요. 놀랍도록 닮아있지 않나요?

핵무기 경쟁은 다행히 최악의 시나리오, 즉 전면 핵전쟁은 피했어요. 하지만 그건 수십 년간 수많은 외교적 노력과 아슬아슬한 운이 따라준 결과예요. AI 경쟁은 과연 그럴 수 있을까요? 핵무기보다 훨씬 더 빠르고, 통제하기 어려운 기술인데 말이죠.

그래서, 오픈AI는 진짜 '악당'인가요?

그럼 오픈AI는 그냥 돈에 미친 '악당'이고, 샘 알트먼은 빌런일까요? 그렇게 단순하게 보면 문제의 본질을 놓치기 쉬워요. 물론 그들의 선택은 비판받아 마땅하죠. 하지만 그들 역시 거대한 '시스템의 압박' 속에 있어요.

오픈AI는 원래 비영리 단체로 시작했어요. '인류에게 이로운 인공지능'을 만들겠다는 고상한 목표를 가졌죠. 하지만 AI 개발에 천문학적인 돈이 들어간다는 사실을 깨닫고, 마이크로소프트로부터 18조 원이 넘는 투자를 받는 등 영리 자회사를 만드는 방식으로 변질됐어요. 이제 오픈AI는 더 이상 순수한 연구 집단이 아니에요. 투자자들에게 수익을 안겨줘야 하고, 시장 경쟁에서 이겨야 하는 '기업'이죠. 기업의 숙명은 생존과 성장, 즉 돈을 버는 거예요. 이 숙명 앞에서 '인류의 안전' 같은 고상한 목표는 자꾸만 우선순위에서 밀려나는 거죠.

이 지점에서 흔히 하는 오해 두 가지를 짚고 넘어가고 싶어요.

- 오해 1: “이건 그냥 불만 많은 직원 한 명의 투덜거림 아닌가?” 절대 아니에요. 얀 라이케의 퇴사는 빙산의 일각일 뿐이에요. 작년 샘 알트먼 해임 사태의 중심에 있던 수석 과학자 일리야 수츠케버도 결국 회사를 떠났어요. 안전을 중시하던 이사들도 모두 쫓겨났고요. 이건 한두 명의 불만이 아니라, 오픈AI 내부에서 '안전'을 추구하는 목소리가 조직적으로 제거되고 있다는 구조적인 신호예요.

- 오해 2: “AI 안전만 따지다가 기술 발전이 늦어지는 거 아니냐?” 이건 브레이크가 자동차의 속도를 늦추는 부품이라고 생각하는 것과 같아요. 브레이크가 왜 있죠? 멈추려고? 아니죠. 마음 놓고 '빨리 달리기 위해' 있는 거예요. 브레이크가 없다면 우리는 시속 20km로도 달리기 무서울 거예요. AI 안전 연구도 마찬가지예요. 기술 발전의 발목을 잡는 게 아니라, 우리가 더 빠르고 담대하게 기술을 발전시키면서도 낭떠러지로 떨어지지 않게 막아주는 최소한의 안전장치예요. 이 장치를 부실하게 만들고 액셀만 밟겠다는 건, 그냥 다 같이 죽자는 얘기죠.

결국 오픈AI는 악당이라기보다는, 자본주의라는 시스템 안에서 '성공'의 압박에 굴복해버린, 어쩌면 우리 모두의 모습을 닮은 '나약한 천재'에 가까울지도 몰라요. 그래서 더 씁쓸하고요.

우리가 추적해야 할 신호: '안전 연극'을 구별하는 법

이런 일이 터지면 기업들은 으레 그럴듯한 말로 위기를 모면하려 해요. 샘 알트먼도 얀 라이케의 폭로 직후 “그가 옳다. 우리는 더 잘해야 한다”며 고개를 숙이는 척했죠. 하지만 이런 '안전 연극'에 속으면 안 돼요. 진짜 그들이 안전을 중요하게 생각하는지 아닌지, 우리는 앞으로 몇 가지 신호를 유심히 추적해야 해요.

1. 돈의 흐름, 즉 '컴퓨팅'이 어디로 가는가: 앞으로 오픈AI나 구글 같은 회사들이 막대한 컴퓨팅 자원을 신제품 개발이 아니라, 독립적인 외부 기관이 참여하는 '안전성 검증'이나 '얼라인먼트 연구'에 얼마나 배분하는지 보세요. 말로만 말고, 실제 예산과 자원 배분 내역을 공개하라고 요구해야 해요.

1. 사람의 흐름, 즉 누가 승진하고 누가 떠나는가: 제품 출시를 압박하는 '장사꾼'들이 계속 승진하고, 안전을 외치는 '쓴소리꾼'들이 계속 회사를 떠난다면 그 회사는 변할 의지가 없는 거예요. 반대로 독립적인 윤리·안전 전문가를 이사회에 앉히고, 그들에게 실제적인 거부권을 주는지를 봐야 해요.

1. 정보의 흐름, 즉 무엇을 공개하고 무엇을 숨기는가: GPT-4o 같은 화려한 데모 영상만 보여줄 게 아니라, 그 모델을 개발하면서 어떤 위험성을 발견했고, 그걸 해결하기 위해 어떤 노력을 했는지 투명하게 공개해야 해요. 실패한 안전 실험 결과 같은, 자기들에게 불리한 정보까지 공개하는 회사가 진짜 '진정성' 있는 회사죠.

이런 신호들을 쫓다 보면, 어떤 기업이 진짜 인류의 미래를 고민하는지, 어떤 기업이 그저 돈벌이에 눈이 먼 '양치기 소년'인지 구별할 수 있을 거예요. 우리 일상과 미래가 달린 문제잖아요. 이 정도 관심은 가져야죠.

마무리: 브레이크 없는 자동차에 환호하는 사람들

결국 오픈AI 사태는 우리에게 아주 근본적인 질문을 던져요. 우리는 지금 시속 300km로 질주하는 자동차를 만들면서 동시에 그 안에서 운전대를 조립하고 있는 셈이에요. 그런데 운전대를 잡은 사람들은 브레이크를 설치하자는 엔지니어들을 쫓아내고, 액셀을 더 세게 밟을 궁리만 하고 있어요. 더 무서운 건, 차에 타고 있는 우리 대부분이 창밖의 화려한 풍경에 감탄하느라 이 위험한 상황을 눈치채지 못하고 있다는 거죠.

얀 라이케의 폭로는 그 차 안에서 울리는 첫 번째 경고음일지도 몰라요. 이 경고를 무시하고 계속 환호할 건가요? 아니면 당장 차를 세우고 브레이크부터 제대로 달려있는지 확인하자고 소리칠 건가요? 이 선택이 앞으로 우리가 어떤 미래를 맞이할지를 결정할 거예요. 기술은 그냥 오는 게 아니에요. 우리의 무관심과 환호, 혹은 비판과 감시 속에서 만들어지는 거죠.

Q. 그럼 AI 개발을 아예 멈춰야 한다는 건가요? A. 그건 현실적으로 불가능하고, 바람직하지도 않아요. 이미 세상에 나온 기술을 다시 병 속에 집어넣을 수는 없으니까요. 핵심은 '멈춤'이 아니라 '방향'을 트는 거예요. 기업의 자율에만 맡겨둘 게 아니라, 독립적인 외부 기관이나 국제기구가 강력한 권한을 갖고 안전성을 검증하고 강제하는 '운전면허 시험' 같은 제도를 만들어야죠. 지금처럼 기업이 선수와 심판을 겸하는 구조는 절대 안 돼요.

Q. 제가 일개 개인인데, 이런 거대한 문제에 뭘 할 수 있을까요? A. 지금 이 글을 읽고 고민하는 것, 그게 시작이에요. 무력감을 느끼기 쉽지만, 소비자와 대중의 관심은 기업을 바꾸는 가장 강력한 힘이에요. AI가 내놓는 결과물을 무비판적으로 믿지 않고, '이게 어떻게 만들어졌지?'라고 질문하는 습관을 들이세요. 이런 논의를 주변 사람들과 나누고 공론화하세요. 당신의 클릭과 관심, 회의적인 시선 하나하나가 모여서 기술의 방향을 바꾸는 압력이 될 수 있어요.

Q. 어차피 실리콘밸리 얘기 아닌가요? 한국에 사는 저랑 무슨 상관이죠? A. 천만에요. 몇 년 안에 AI는 한국의 일자리, 교육, 심지어 선거까지 모든 걸 바꿔놓을 거예요. 샌프란시스코의 몇몇 사무실에서 내려진 결정이 당장 내년 내 월급과 우리 아이가 배울 교과서 내용을 결정하게 되는 거죠. 이건 국경 없는 문제예요. 남의 나라 불구경하듯 할 때가 아니라는 거죠. 우리도 이 '글로벌 스탠더드'를 만드는 논의에 적극적으로 목소리를 내고 참여해야 해요. 나중에 다 만들어진 규칙에 울며 겨자 먹기로 따르기 싫다면요.