AI 의사, 더하기 빼기 못하면 해고? 계산기를 쥐여주면 됩니다

1. 시 쓰는 AI, 산수는 초등학생만도 못하다?

인공지능, 특히 LLM(쉽게 말해, 사람 말을 흉내 내 문장을 만들어 내는 AI)이 보여주는 능력은 놀랍습니다. 복잡한 논문 요약부터 막힘없는 창작까지, 마치 지성을 갖춘 존재처럼 보일 때가 많습니다. 하지만 이런 AI에게 간단한 곱셈이나 두 자릿수 덧셈을 시켜보면 어이없는 오답을 내놓는 경우가 허다합니다. 시인에게 갑자기 종합소득세 계산을 맡긴 격입니다.

이것은 AI의 지능이 낮아서가 아니라, 작동 원리가 다르기 때문입니다. LLM은 본질적으로 '확률적 앵무새'입니다. 주어진 단어 다음에 나올 가장 그럴듯한 단어를 통계적으로 예측해 문장을 이어 붙이는 방식입니다. '2 더하기 2는' 다음에는 수많은 텍스트에서 '4'가 나왔으니 '4'라고 답할 확률이 높지만, '13,579 곱하기 9,753은' 같은 문제에는 학습 데이터에 정답이 있었을 리 만무합니다. 그저 그럴듯한 숫자 조합을 내놓을 뿐, 실제 연산을 수행하는 것이 아닙니다.

일상 대화에서는 이런 실수가 사소한 문제지만, 환자의 생명이 달린 의료 현장에서는 치명적입니다. 약물 용량을 계산하거나, 환자의 검사 수치를 바탕으로 위험도를 평가할 때 1%의 오차는 돌이킬 수 없는 결과로 이어질 수 있습니다. 이 때문에 지금까지 의료용 AI는 매우 제한적으로, 사람이 일일이 검증한 계산기 기능만을 탑재하는 보수적인 방식으로 개발되어 왔습니다. AI의 창의적 추론 능력은 활용하지 못한 채, 전자계산기의 역할에만 머물렀던 셈입니다.

2. '네가 풀어'가 아니라 '푸는 법을 알려줘'

최근 공개된 한 논문('Towards a Deterministic Math Solver for Clinical Language Models')은 이 해묵은 딜레마에 대한 영리한 해법을 제시합니다. 바로 AI의 역할을 바꾸는 것입니다. AI에게 직접 문제를 풀게 하는 대신, '문제를 푸는 방법(알고리즘)'을 컴퓨터가 알아들을 수 있는 언어, 즉 코드로 작성하게 하는 방식입니다.

이 '프로그램-솔브(Program-Solve)' 인터페이스의 작동 원리는 의외로 간단합니다. 회사에서 신입사원에게 일을 시키는 과정에 비유할 수 있습니다.

1. '문제 접수': 의사가 환자의 나이, 체중, 혈액 검사 수치를 입력하며 '급성 신장 손상 위험도'를 계산해달라고 요청합니다. 이는 팀장이 신입사원에게 'A고객 관련 매출 보고서 좀 만들어줘'라고 지시하는 것과 같습니다.
2. '해결 계획 수립': LLM은 요청의 맥락을 파악합니다. '급성 신장 손상 위험도' 계산에 필요한 표준 의료 공식(예: KDIGO 진단 기준)이 무엇인지 이해합니다. 똑똑한 신입사원이 지시를 받자마자, 사내 데이터베이스에서 관련 매출 데이터를 찾고 어떤 항목을 어떻게 계산해야 할지 계획을 세우는 것과 비슷합니다.
3. '계산 코드 생성': 이제 LLM은 계산을 직접 하지 않습니다. 대신 이 공식을 파이썬(Python, 레고 블록처럼 명령어를 조립해 컴퓨터를 움직이는 간결한 프로그래밍 언어) 코드로 짧게 작성합니다. `if 크레아티닌_수치 > 1.5 and 소변량 < 0.5: return '위험'` 과 같은 식입니다. 이는 신입사원이 엑셀을 열고, 'SUMIF 함수를 써서 A고객 매출 합계를 구하고, VLOOKUP으로 제품 코드를 연결해야겠다'고 구체적인 실행 계획을 짜는 단계입니다.
4. '안전한 환경에서 실행': 이 코드는 '제한된 로컬 실행기'라는 안전한 공간으로 보내집니다. 외부와 차단된 컴퓨터 안에서, 마치 계산기가 숫자만 받아 답을 내놓듯, 코드를 실행해 정확한 결과값만 돌려줍니다. 신입사원이 회사 보안 규정을 지키며 자기 컴퓨터 안에서만 엑셀 작업을 마친 뒤, 최종 결과 보고서만 팀장에게 제출하는 것과 같습니다.

이 방식의 핵심은 역할 분담입니다. LLM은 언어적 맥락을 이해하고 문제 해결 절차를 설계하는 '지능적 기획자' 역할을, 코드 실행기는 한 치의 오차도 없이 계산을 수행하는 '성실한 실행자' 역할을 맡습니다. LLM의 고질병인 '환각(Hallucination, 그럴듯한 거짓 정보를 만들어내는 현상)'으로 인한 계산 오류를 원천 차단하고, 언제나 동일한 조건에서 동일한 결과를 내는 '결정론적(deterministic)' 신뢰성을 확보하게 됩니다.

3. 계산기에서 운영체제로: AI 역할의 진화

이러한 접근은 단순히 계산 정확도를 높이는 것을 넘어, AI의 역할 자체에 대한 근본적인 관점 변화를 보여줍니다. 이는 컴퓨터의 역사적 발전 과정과 놀랍도록 닮았습니다.

초창기 컴퓨터는 거대한 계산기에 불과했습니다. 특정 연산을 위해 만들어진 기계였죠. 그러다 운영체제(OS)가 등장하면서 패러다임이 바뀌었습니다. 운영체제는 직접 모든 일을 처리하지 않습니다. 대신 워드프로세서, 웹브라우저, 게임 등 다양한 전문 프로그램(도구)을 불러와 실행하고, 이들이 서로 충돌하지 않게 관리하고 조율하는 '지휘자' 역할을 합니다.

LLM도 비슷한 길을 가고 있습니다. 모든 것을 스스로 해결하려는 '만능 AI'에서, 다양한 전문 도구를 능숙하게 사용하는 '지능형 운영체제' 또는 '에이전트'로 진화하는 것입니다. 수학 계산이 필요하면 계산기 코드를, 최신 정보가 필요하면 검색 엔진을, 데이터베이스 조회가 필요하면 SQL 쿼리를 생성하여 각 전문가에게 일을 맡기는 방식입니다.

이러한 변화는 'RAG(Retrieval-Augmented Generation)'라는 또 다른 기술 흐름과도 맥을 같이 합니다. RAG는 LLM이 답변을 생성할 때, 최신 외부 데이터베이스를 참조하여 사실에 근거한 답변을 만들도록 하는 기술입니다. '프로그램-솔브'가 계산의 정확성을 보강한다면, RAG는 정보의 최신성과 사실성을 보강합니다. 둘 다 LLM의 약점을 외부 도구와의 협력으로 극복하려는 하이브리드 전략인 셈입니다.

4. 흔한 오해: 'AI가 의사를 대체한다'는 착각

다만 연구는 정확히 읽어야 합니다. 이 기술이 곧바로 AI 의사의 등장을 의미하는 것은 결코 아닙니다. 여기서 흔히 발생하는 두 가지 오해를 짚고 넘어가야 합니다.

첫 번째 오해: '이제 AI의 계산 오류 문제는 완전히 해결됐다.' > 아닙니다. '산수' 오류 문제는 해결됐지만, '논리' 오류 문제는 여전히 남습니다. LLM이 환자의 상태를 잘못 이해하고 엉뚱한 의료 공식을 코드로 작성한다면 어떻게 될까요? 예를 들어 신장 기능 점수를 계산해야 할 상황에 간 기능 점수 공식을 가져온다면, 계산 과정은 100% 정확하겠지만 그 결과는 환자를 위험에 빠뜨릴 수 있습니다. '쓰레기가 들어가면 쓰레기가 나온다(Garbage In, Garbage Out)'는 컴퓨터 과학의 제1원칙은 여기서도 유효합니다. 문제 해결의 초점이 '부정확한 계산'에서 '부정확한 논리'로 옮겨갔을 뿐입니다. 물론, 코드의 논리를 검증하는 것은 AI의 두뇌 속을 들여다보는 것보다 훨씬 수월한 과제이긴 합니다.

두 번째 오해: '이 기술이 발전하면 의사의 역할이 줄어들 것이다.' > 오히려 정반대입니다. 이 기술은 AI를 의사의 '대체재'가 아닌, 훨씬 강력하고 신뢰할 수 있는 '보완재'로 만듭니다. 의사는 더 이상 AI가 내놓은 숫자를 불신하며 일일이 재검증하는 데 시간을 낭비할 필요가 없습니다. 대신 AI가 어떤 논리(코드)에 근거해 그 값을 계산했는지 투명하게 확인하고, 그 결과를 바탕으로 최종적인 임상적 판단을 내리는 데 집중할 수 있습니다. 이는 마치 베테랑 조종사가 자동항법장치를 불신하는 대신, 그 작동 원리를 정확히 이해하고 비상 상황에 대처하는 데 역량을 집중하는 것과 같습니다. 최종 판단의 책임과 권한은 언제나 인간 전문가에게 있습니다.

연구진은 'MedCalc-Bench Verified'라는 1,100개의 의료 사례와 55개의 계산기가 포함된 데이터셋을 통해 이 방식의 우수성을 입증했습니다. 하지만 이는 통제된 실험실 환경의 결과입니다. 실제 의료 현장의 복잡하고 예측 불가능한 변수들 속에서 이 시스템이 얼마나 강건하게 작동할지는 또 다른 검증의 영역으로 남아있습니다.

5. '코드 감사'의 시대와 데이터 주권

이러한 변화는 우리에게 묵직한 질문을 던집니다. AI가 점점 더 많은 전문 영역에서 '코드 생성기'가 되어간다면, 우리는 무엇을 감시하고 추적해야 할까요?

과거에는 AI가 내놓은 '결과'의 편향성과 정확성이 주된 관심사였습니다. 하지만 이제는 AI가 생성한 '코드'의 논리적 타당성과 안전성이 새로운 감사(Audit)의 대상이 됩니다. 금융 기관이 AI를 이용해 대출 심사 코드를 생성한다면, 그 코드가 특정 인종이나 성별에 불리한 편향을 담고 있지는 않은지, 코드 자체를 들여다봐야 하는 시대가 오는 것입니다.

더 나아가 '도구 주권'이라는 개념도 중요해집니다.

• '누가 그 코드를 실행하는가?': AI가 생성한 코드를 실행하는 '실행기'는 누가 만들고 통제할까요? 만약 특정 빅테크 기업의 폐쇄적인 실행기 환경에 전 세계 의료 데이터 처리가 종속된다면, 이는 새로운 형태의 독점이 될 수 있습니다.
• '어떤 공식이 표준으로 쓰이는가?': LLM이 특정 의료 공식을 '표준'처럼 코드화하기 시작하면, 다양한 의학적 견해나 최신 연구 결과가 반영되지 못하고 특정 학파의 공식만 고착될 위험은 없을까요? 코드화는 곧 표준화를 의미하기 때문입니다.
• '오류의 책임은 누구에게 있는가?': 만약 AI가 생성한 코드의 논리 오류로 의료 사고가 발생한다면, 그 책임은 코드를 생성한 AI 개발사, 코드를 실행한 병원, 아니면 최종적으로 이를 감독한 의사 중 누가 져야 할까요? 법적, 윤리적 책임 소재가 훨씬 더 복잡한 문제로 떠오릅니다.

결국 이 기술은 LLM을 단순한 '언어 모델'에서 사회의 규칙과 절차를 코드로 구현하는 '사회 시스템의 설계자'로 격상시킬 잠재력을 품고 있습니다. 따라서 우리는 이제 AI의 화려한 능력에 감탄하는 것을 넘어, 그 AI가 사용하는 도구와 그 도구가 작동하는 시스템의 투명성, 공정성, 그리고 주권을 확보하는 문제에 대해 논의를 시작해야 합니다. AI에게 계산기를 쥐여주는 것은 시작일 뿐입니다.

6. 독자가 던질 법한 질문들

Q. LLM을 그냥 수학 계산에 더 강하게 훈련시키면 안 되나요? 왜 이렇게 번거로운 방식을 써야 하죠? A. 좋은 질문입니다. 하지만 근본적으로 어렵습니다. LLM의 작동 방식은 단어와 단어 사이의 통계적 관계를 학습하는 것이지, 수학적 공리를 이해하는 것이 아니기 때문입니다. 시인에게 평생 시만 쓰게 하다가 갑자기 미적분을 풀게 하는 것과 같습니다. 물론 방대한 수학 데이터를 학습시켜 어느 정도 성능을 높일 수는 있지만, '100% 정확성'이 보장되는 결정론적 결과를 얻기는 거의 불가능합니다. 각자 잘하는 일에 집중시키는 것이 훨씬 효율적이고 안전한 접근입니다. 언어모델은 언어적 추론을, 계산기는 계산을 맡는 것이죠.

Q. AI가 생성한 코드가 잘못되거나 해킹에 사용될 수도 있지 않을까요? 더 위험한 것 아닌가요? A. 매우 중요한 지적입니다. 그래서 '제한된 로컬 실행기' 즉, 샌드박스(Sandbox)라는 개념이 핵심입니다. AI가 만든 코드는 인터넷이나 병원 내부 시스템에 접근할 수 없는, 완전히 격리된 모래상자 안에서만 실행됩니다. 설령 악성 코드가 생성되더라도 외부로 피해를 줄 수 없습니다. 또한, 생성된 코드는 인간이 읽고 검증할 수 있습니다. LLM이 왜 그런 답을 내놨는지 알 수 없는 '블랙박스' 문제에 비하면, 논리가 명백히 드러나는 코드를 검증하는 것은 훨씬 통제 가능한 문제입니다. 위험의 종류가 '예측 불가능한 오류'에서 '관리 가능한 오류'로 바뀌는 셈입니다.

Q. 이런 기술이 실제 병원에서 쓰이려면 얼마나 걸릴까요? A. 고위험 분야인 만큼 상당한 시간이 필요합니다. 기술적 검증뿐만 아니라, 식품의약품안전처나 미국 FDA 같은 규제 기관의 엄격한 심사와 승인 절차를 거쳐야 합니다. 아마도 환자 진단이나 치료에 직접 관여하기보다는, 의료 연구 데이터 분석, 행정 자동화, 의대생 교육 등 비교적 위험도가 낮은 분야에 먼저 도입될 가능성이 높습니다. 하지만 계산과 추론을 분리하는 이 원칙은 AI의 신뢰성을 높이는 핵심 열쇠이기에, 향후 3~5년 내에 다양한 전문 분야에서 전문가를 보조하는 도구로 빠르게 확산될 것으로 보입니다.