AI 신약 개발, '뽑기'에서 '주문 제작'으로 넘어가나

하나의 신약이 세상에 나오기까지 평균 10년의 시간과 1조 원이 넘는 돈이 듭니다. 성공 확률은 10%에도 미치지 못합니다. 이는 마치 광활한 사막에서 바늘 하나를 찾는 일과 같습니다. 과학자들은 수십만 개의 후보 분자 구조를 합성하고 실험하며 가능성을 타진하지만, 대부분은 독성이 있거나, 효과가 없거나, 인체에 흡수되지 않는 등의 이유로 실패합니다. 이 지난한 과정을 단축하고자 인공지능(AI)이 구원투수로 등판했지만, 그 역할은 제한적이었습니다. 기존 생성형 AI는 그저 수많은 분자 구조를 '많이' 만들어내는 데 그쳤기 때문입니다. 마치 희귀 아이템이 나올 때까지 무한정 버튼을 누르는 '뽑기 게임'과 같았습니다. 어떤 아이템이 나올지는 운에 맡겨야 했습니다.

그런데 최근 이 판도를 바꿀 만한 연구가 발표되었습니다. AI에게 단순히 '분자를 만들어 봐'라고 하는 대신, '독성은 낮고 용해도는 높은 분자를 만들어 줘'라고 구체적으로 주문할 수 있는 길을 연 것입니다. '리워드 트랜스포트(Reward Transport)'라는 이름의 이 기술은, AI의 창작 과정을 '제어'하는 새로운 패러다임을 제시합니다. 이제 우리는 AI를 이용한 분자 설계를 '뽑기'가 아닌 '정밀 조립'의 영역에서 논할 수 있게 되었습니다.

슬라이더를 움직여 신약을 설계하는 법

이 기술의 핵심을 이해하려면 먼저 생성형 AI가 어떻게 '무(無)'에서 '유(有)'를 창조하는지 알아야 합니다. 많은 생성 모델은 '노이즈'에서 시작합니다. 노이즈란 아무런 의미 없는 무작위 값들의 집합으로, TV 화면의 '지지직'거리는 점들을 생각하면 쉽습니다. AI는 이 무의미한 노이즈를 학습한 실제 데이터(예: 약효가 검증된 분자 구조들)의 형태로 변환하는 법을 배웁니다. 이 과정이 마치 흙덩이(노이즈)를 도자기(분자)로 빚는 것과 같다고 볼 수 있습니다.

여기서 중요한 것이 '흐름 매칭(Flow Matching)'이라는 기법입니다. 이는 노이즈와 실제 데이터를 짝지어(커플링) 변환 경로, 즉 '흐름'을 학습하는 방식입니다. 기존에는 이 짝짓기를 주로 계산의 효율성 측면에서 접근했습니다. 어떤 흙덩이를 어떤 도자기에 짝지든, 빚는 기술만 배우면 된다는 식이었습니다.

'리워드 트랜스포트'는 바로 이 '짝짓기'에 대한 관점을 180도 바꿉니다. 짝짓기를 단순히 계산 효율을 위한 기술적 선택이 아니라, 생성물의 속성을 제어하는 '설계도'이자 '인터페이스'로 활용한 것입니다.

비유를 들어보겠습니다. 여기 무작위로 섞인 흙덩이 100개와, 각기 다른 가치를 지닌 도자기 100개가 있다고 합시다. 이전 방식은 흙덩이와 도자기를 아무렇게나 짝지어 빚는 법만 배웠습니다. 하지만 '리워드 트랜스포트'는 다릅니다. 먼저 흙덩이를 무게순으로 일렬로 세웁니다. 그리고 도자기는 '가치'(예: 약효, 안정성 등을 종합한 점수) 순으로 정렬합니다. 그런 다음, 가장 가벼운 흙덩이는 가장 가치가 낮은 도자기에, 가장 무거운 흙덩이는 가장 가치가 높은 도자기에 순서대로 짝을 지어줍니다. 이렇게 하면 '흙덩이의 무게'라는 좌표와 '도자기의 가치'라는 속성 사이에 질서정연한 관계가 형성됩니다.

이것이 바로 '최적 운송(Optimal Transport)' 이론을 활용해 노이즈 공간의 좌표와 분자의 '보상(Reward, 원하는 속성의 점수)'을 정렬하는 원리입니다. AI는 이 정렬된 관계 자체를 학습합니다. 그 결과는 놀랍습니다. 학습이 끝난 AI에게 이제 이렇게 명령할 수 있습니다. "가치가 80점인 도자기를 만들어 줘." 그러면 AI는 과거 학습을 통해 '80점짜리 가치'에 해당하는 '흙덩이 무게'가 얼마인지 이미 알고 있습니다. 그 특정 무게의 흙덩이에서부터 변환을 시작하면, 정확히 80점짜리 결과물이 나오는 것입니다. 마치 포토샵에서 밝기 조절 슬라이더를 원하는 값으로 옮기는 것처럼, 우리는 '보상'이라는 슬라이더를 움직여 원하는 속성을 가진 분자를 직접 생성할 수 있게 됩니다.

설계 패러다임의 진화, 그 역사적 평행선

이러한 변화는 인류 역사의 다른 기술 발전 과정에서도 반복적으로 나타났습니다. 바로 '직관과 우연의 산물'에서 '정밀한 공학적 설계'로의 전환입니다.

초기 선박 건조를 생각해 보십시오. 과거의 뱃사공들은 경험과 직관에 의존해 배를 만들었습니다. 어떤 모양의 배가 파도를 잘 견디고 빠르게 나아가는지는 수많은 시행착오와 어쩌다 얻은 성공을 통해 구전되었습니다. 하지만 유체역학과 재료과학이 발전하면서 '해양 공학'이 탄생했습니다. 이제 엔지니어들은 컴퓨터 시뮬레이션을 통해 배를 건조하기 전에 이미 그 배의 속도, 안정성, 연비 등을 정확히 예측하고 목표에 맞게 설계합니다.

사진 기술도 마찬가지입니다. 초창기 사진은 복잡한 화학 약품 처리와 긴 노출 시간이 필요했고, 결과물은 예측하기 어려웠습니다. 현상하기 전까지는 어떤 사진이 나올지 알 수 없었습니다. 그러나 디지털카메라와 이미지 편집 소프트웨어의 등장은 모든 것을 바꿨습니다. 우리는 이제 촬영 후에도 밝기, 대비, 색감 등 이미지의 거의 모든 속성을 슬라이더 몇 번 움직여 원하는 대로 제어합니다.

'리워드 트랜스포트'가 분자 설계 분야에 가져온 변화는 이와 같은 맥락입니다. 수많은 후보 물질을 '뽑기'처럼 생성해 우연히 좋은 것을 얻으려던 방식에서, 원하는 약리적 특성을 미리 정하고 그에 맞는 분자 구조를 '설계'하는 시대로의 전환을 예고합니다. 이는 과학적 발견의 과정을 근본적으로 바꾸는 패러다임의 전환입니다.

다만 연구는 정확히 읽어야 합니다

물론 이 연구가 모든 문제를 해결한 '만능 열쇠'는 아닙니다. 흥분하기에 앞서 한계부터 짚어봐야 합니다. 재현되는가, 조건은 무엇인가. 메커니즘과 예언은 구분해야 합니다.

첫째, '보상' 값의 추상화 문제입니다. 현실의 신약은 슬라이더 하나로 결정되지 않습니다. 좋은 약이 되려면 약효가 높아야 할 뿐만 아니라, 독성은 낮고, 체내 흡수가 잘 되며(용해도), 안정적으로 유지되고, 합성하기도 쉬워야 합니다. 이 복잡다단한 속성들을 어떻게 '보상'이라는 단 하나의 숫자(스칼라 값)로 압축할 수 있을까요? 이는 마치 자동차를 평가할 때 최고 속도 하나만 보고 연비, 안전성, 승차감, 가격을 모두 무시하는 것과 같습니다. 특정 속성을 극대화하면 다른 중요한 속성이 망가지는 '트레이드오프' 관계가 비일비재합니다. 이 다중 목표 최적화 문제는 여전히 어려운 숙제로 남아 있습니다.

둘째, 막대한 계산 비용입니다. '최적 운송'은 이름처럼 최적의 짝을 찾아주지만, 그 계산 과정은 매우 복잡하고 많은 연산량을 요구합니다. 마치 수천 개의 출발지와 도착지를 연결하는 가장 효율적인 물류 경로 전체를 한 번에 계산하는 것과 같습니다. 학습 단계에서 막대한 컴퓨팅 자원이 필요하다는 의미입니다. 연구진은 신약 개발의 전체 비용을 생각하면 이 정도 투자는 감수할 만하다고 주장하지만, 이는 빅파마(거대 제약사)나 빅테크 기업에나 해당하는 이야기일 수 있습니다. 소규모 연구소나 학계에서는 진입장벽으로 작용할 가능성이 큽니다.

셋째, 재현성과 일반화의 문제입니다. 모든 과학적 발견이 그렇듯, 이 연구 역시 동료 과학자들의 검증을 거쳐야 합니다. 논문에서 사용된 벤치마크 데이터셋(QM9, ZINC 등)에서 보인 성능이, 훨씬 더 복잡하고 새로운 실제 신약 개발 문제에서도 그대로 발휘될지는 미지수입니다. 하나의 성공 사례가 모든 문제에 대한 해결책을 보장하지는 않습니다. 우리는 이제 막 새로운 가능성의 문을 열었을 뿐입니다.

생성 AI에 대한 흔한 오해 두 가지

이러한 기술적 진보를 둘러싸고 흔히 발생하는 오해들을 바로잡을 필요가 있습니다.

- 오해 1: "이제 AI가 스스로 신약을 발명하는 시대가 왔다." > 이는 사실과 다릅니다. '리워드 트랜스포트'는 자율적인 과학자가 아니라, 인간 전문가를 돕는 매우 정교한 '설계 보조 도구'입니다. AI는 유망한 분자 구조의 '청사진'을 제안할 뿐입니다. 그 청사진을 바탕으로 실제 물질을 합성하는 것은 화학자의 몫이며, 세포와 동물 모델에서 그 효과와 독성을 검증하는 것은 생물학자의 역할입니다. 최종적으로 인체에서의 안전성과 유효성을 확인하는 임상시험은 의사와 규제기관의 영역입니다. 이 기술은 전체 신약 개발 파이프라인 중 가장 첫 단계인 '후보물질 설계'를 극적으로 가속화하는 것이지, 10년의 과정을 하루아침에 대체하는 마법이 아닙니다.

- 오해 2: "이 기술이 기존의 모든 AI 신약 개발 방법을 대체할 것이다." > 이것 역시 섣부른 판단입니다. 이 기술은 강력하지만 유일한 접근법은 아닙니다. 강화학습, 기하학적 딥러닝, 단백질 구조 기반 설계 등 다른 AI 방법론들 역시 각자의 강점을 가지고 발전하고 있습니다. 예를 들어, 완전히 새로운 골격 구조를 발견하는 데는 다른 탐색적 방법이 더 유리할 수 있습니다. 미래의 신약 개발은 어느 한 가지 방법이 지배하는 것이 아니라, 여러 AI 도구들이 각 단계의 목적에 맞게 서로를 보완하는 '하이브리드' 형태가 될 가능성이 높습니다. '리워드 트랜스포트'는 공구함에 새로 추가된 강력한 전동 드릴이지, 공구함 전체를 대체하지는 않습니다.

데이터 주권, 그리고 설계의 윤리를 묻다

이 기술의 진정한 파급력은 분자 설계를 넘어섭니다. 핵심은 '의도를 가진 제어 가능한 생성'이라는 개념 그 자체에 있습니다. 분자의 약효를 제어하는 원리는 다른 분야에도 그대로 적용될 수 있습니다. 예를 들어, 법률 문서 생성 AI에 '의뢰인에게 유리한 정도'를 보상 값으로 학습시킨다면 어떻게 될까요? '선동성'이나 '중독성'을 보상으로 하는 뉴스 기사나 소셜 미디어 콘텐츠를 생성할 수도 있습니다. 제어 기술은 그 자체로 가치중립적이지만, 그 사용 목적에 따라 결과는 극명하게 달라질 수 있습니다.

이는 곧 '모델 주권'과 '데이터 주권'이라는 묵직한 질문으로 이어집니다. 이 기술의 핵심 자산은 노이즈 공간과 실제 속성을 연결하는 '지도(map)'입니다. 이 지도는 블록버스터 신약을 주문 제작할 수 있는 능력의 원천입니다. 이 지도를 누가 소유하고 통제하게 될까요? 거대 제약사, 빅테크 기업, 혹은 정부일까요? 특정 기업이나 국가가 이러한 '설계 능력'을 독점할 때, 공정한 경쟁과 인류의 보편적 건강권은 어떻게 보장될 수 있을지 고민해야 합니다.

더 나아가, 강력한 통제력은 그에 상응하는 윤리적 책임을 요구합니다. 더 효과적인 약을 설계하는 데 사용될 수 있는 이 기술은, 이론적으로는 더 치명적인 독소나 새로운 화학 무기를 설계하는 데 악용될 수도 있습니다. 우리는 이제 '생성적 설계' 기술의 윤리적 가이드라인을 심각하게 논의해야 할 시점에 와 있습니다. 이는 더 이상 공학자들만의 숙제가 아닌, 우리 사회 전체가 함께 풀어야 할 문제입니다.

독자가 던질 법한 질문들

Q. 이 기술이 당장 신약 개발 기간을 10년에서 1년으로 줄여줄 수 있다는 뜻인가요? A. 아닙니다. 이는 과장된 기대입니다. 이 기술은 신약 개발의 가장 첫 단계인 '후보물질 발굴 및 설계' 과정을 획기적으로 단축하고 성공률을 높일 잠재력이 있습니다. 그러나 이후의 전임상, 임상 1, 2, 3상 시험 등은 여전히 수년이 걸리는 과정이며, 생물학적 검증은 AI로 대체할 수 없습니다. 전체 파이프라인에서 몇 년을 단축할 수는 있겠지만, 1년으로 줄이는 것은 현재로서는 불가능합니다.

Q. 분자 말고 다른 분야, 예를 들어 이미지나 음악 생성에도 이 기술을 쓸 수 있나요? A. 원리적으로 가능합니다. 예를 들어, 이미지 생성 모델에 이 기술을 적용한다면 '추상성'이나 '따뜻한 느낌' 같은 속성을 보상으로 정의하고, 슬라이더를 움직여 그림의 분위기를 직접 제어할 수 있을 겁니다. 음악에서는 '경쾌함'이나 '슬픔'의 정도를 조절할 수 있겠죠. 다만 각 분야의 '속성'을 어떻게 숫자로 정확히 정의하고 측정할 것인가가 핵심 관건이 될 것입니다. 분자 속성은 물리화학적으로 계산 가능하지만, 예술적 속성은 훨씬 주관적이기 때문입니다.

Q. 개인이 이 기술을 사용해볼 수 있나요? 진입장벽은 어느 정도인가요? A. 현재로서는 전문가 수준의 지식과 상당한 컴퓨팅 자원이 필요합니다. 논문 코드가 공개되더라도, 이를 이해하고 실제 데이터에 맞게 수정하여 대규모로 학습시키는 것은 일반 개인이 하기 어렵습니다. 특히 '최적 운송' 계산은 고사양의 GPU(그래픽 처리 장치)를 여러 개 사용해야 할 수 있습니다. 앞으로 기술이 성숙하고 사용자 친화적인 도구로 패키징된다면 접근성이 나아지겠지만, 당분간은 AI 연구자나 관련 기업의 영역에 머물 가능성이 높습니다.