하네스 엔지니어링이란 무엇인가 -- AI 에이전트의 '마구'를 설계하는 기술

하네스 엔지니어링은 AI 에이전트가 자율적으로 일하되, 동시에 안전하게 통제할 수 있는 환경을 만드는 기술입니다. 소프트웨어 엔지니어링에서 'test harness'라는 개념은 1970년대부터 존재했지만, LLM 기반 AI 에이전트의 예측 불가능한 특성 때문에 완전히 새로운 의미를 갖게 되었습니다. 핵심 철학은 단순합니다. 에이전트가 규칙을 어겼을 때 프롬프트를 고치는 것이 아니라, 그 실패가 구조적으로 반복 불가능하도록 시스템 자체를 바꾸는 것입니다. AI 에이전트를 강력한 말에 비유하면, 에이전틱 엔지니어링은 말을 훈련시키는 기술이고, 하네스 엔지니어링은 가죽끈과 고삐와 수레를 만드는 기술입니다. 말을 아무리 잘 훈련시켜도 마구 없이는 밭을 갈 수 없습니다.