세계와 경제
마이크로소프트 AI 수장 술레이만, 오픈AI의 '모델 이상 행동'에 “심각한 상황” 경고
글 · 여우진
최근 인공지능(AI) 업계의 지형도를 뒤흔들 중대한 발언이 나왔습니다. 마이크로소프트 AI의 최고경영자(CEO)인 머스타파 술레이만은 CNBC ‘스쿼크 박스(Squawk Box)’에 출연해 전략적 파트너인 오픈AI의 최신 모델에서 발견된 “우려스러운 모델 행동(concerning model behavior)”에 대해 “심각한 상황(serious situation)”이라고 경고했습니다. AI 거물 중 한 명인 술레이만의 이 발언은 단순한 견해 표명을 넘어, AI 시장 전반에 걸쳐 안전성, 책임감 있는 개발, 그리고 투자 심리에 광범위한 영향을 미칠 것으로 예상됩니다.
술레이만 CEO는 딥마인드(DeepMind) 공동 창업자이자 인플렉션 AI(Inflection AI)를 창립했던 인물로, 마이크로소프트의 AI 사업부를 총괄하며 AI 기술의 상업화와 동시에 안전성 및 윤리적 개발에 대한 깊은 관심을 피력해 왔습니다. 그가 AI 모델의 잠재적 위험에 대해 공개적으로 경고한 것은 이번이 처음이 아닙니다. 그의 저서 ‘다가오는 물결(The Coming Wave)’에서도 AI와 합성 생물학 같은 강력한 기술이 인류에게 미칠 수 있는 통제 불능의 위험을 경고하며 안전 장치의 필요성을 강조한 바 있습니다. 따라서 이번 발언은 단순한 경쟁 구도 속 비판이 아닌, AI 기술의 핵심 주체로서의 진정성 있는 우려를 담고 있다고 해석됩니다.
오픈AI가 최근 내부적으로 인정한 ‘이상 행동’에 대한 구체적인 내용은 아직 공개되지 않았지만, 전문가들은 고급 AI 모델에서 나타날 수 있는 예측 불가능한 답변 생성, 편향성 심화, 잠재적 오용 가능성 등을 포함할 것으로 추정하고 있습니다. 이는 마치 자동차의 제어 시스템에 예기치 않은 결함이 발생했을 때 나타나는 ‘리콜’ 사태와 유사하게, AI 모델의 핵심 기능에 대한 신뢰도 하락으로 이어질 수 있습니다.
이러한 발언은 마이크로소프트와 오픈AI의 관계, 그리고 AI 시장의 투자 심리에도 복합적인 영향을 미칠 수 있습니다. 마이크로소프트는 오픈AI의 최대 투자자로서, 오픈AI의 모델 안정성은 마이크로소프트의 클라우드 서비스 애저(Azure)를 통한 AI 제공 전략에 직접적인 영향을 미칩니다. 술레이만의 발언은 표면적으로는 파트너에 대한 우려를 표명하는 것이지만, 다른 한편으로는 마이크로소프트가 AI 안전성 분야의 리더십을 강화하고 있음을 시장에 각인시키는 전략적 움직임으로도 볼 수 있습니다. 이는 장기적으로 마이크로소프트의 AI 관련 투자 가치를 높이는 요인이 될 수 있습니다.
반면, 오픈AI 입장에서는 신뢰성 문제에 직면할 수 있습니다. 이미 샘 알트만 CEO 해고 사태 등으로 한 차례 조직 안정성에 대한 우려를 겪었던 오픈AI는 이번 ‘모델 이상 행동’ 논란으로 또 다시 기술적, 윤리적 관리 능력에 대한 의문을 받게 될 수 있습니다. 이는 향후 오픈AI의 투자 유치나 기업 가치 평가에 부정적인 영향을 미 미칠 가능성도 배제할 수 없습니다.
업계 전문가들은 이러한 상황이 전반적인 AI 개발 속도와 방향에 대한 재평가를 요구하고 있다고 지적합니다. 과도한 경쟁으로 인한 ‘질주’보다는 안전성과 통제 가능성을 우선시하는 ‘페이싱(Pacing)’의 중요성이 더욱 부각될 것이라는 관측입니다. 특히, 최근 엔트로픽(Anthropic) 등 경쟁사들이 AI 안전을 전면에 내세우는 상황에서, 술레이만의 발언은 AI 기술의 발전과 함께 다음과 같은 핵심 쟁점들을 수면 위로 올리고 있습니다.
- AI 모델의 복잡성 증대에 따른 예측 불가능성 증가
- 기업 내부 감사 및 외부 독립 기관을 통한 안전성 검증의 필요성 증대
- AI 기술 개발 속도와 안전 조치 마련의 균형점 탐색
- AI 거버넌스 및 윤리적 가이드라인 제정의 시급성
인사이트
마이크로소프트 AI 수장의 경고는 AI 기술 발전의 한계를 보여주는 동시에, AI 시장의 투자자들에게 기술적 역량과 더불어 위험 관리 및 안전성 확보 능력이 기업 가치를 평가하는 핵심 요소가 될 것임을 시사합니다.
자주 묻는 질문
- 마이크로소프트 CEO가 왜 파트너인 오픈AI를 공개적으로 비판하나요?
- 머스타파 술레이만은 AI 안전성에 대한 오랜 신념을 가진 인물입니다. 그의 발언은 파트너십 내 우려 표명인 동시에, 마이크로소프트가 책임감 있는 AI 개발의 선두 주자임을 시장에 알리는 전략적 행보로 해석될 수 있습니다.
- '심각한 상황'이라는 게 정확히 어떤 의미인가요?
- 오픈AI의 최신 AI 모델에서 나타난 예측 불가능하거나 통제하기 어려운 행동들을 지칭합니다. 이는 모델의 잠재적 오용, 편향성 증대, 또는 예상치 못한 부작용 발생 가능성과 연관되어 AI 기술의 근본적인 안전성 문제를 제기하는 것으로 보입니다.
- 이런 발언이 AI 시장이나 투자에 어떤 영향을 미칠까요?
- AI 기업의 기술력뿐만 아니라 안전성 및 윤리적 관리 역량이 투자 결정의 중요한 기준으로 부상할 수 있습니다. 전반적인 AI 개발 속도 조절과 더욱 강화된 규제 및 안전 장치 마련에 대한 요구가 높아질 가능성이 있습니다.
이 기사 어땠어요?
피드백을 남겨주시면 더 나은 맞춤 추천을 만듭니다.