[스타트업/기술] 에이전트의 Self-approval 문제 | LLM 저작 파이프라인을 결정론적 게이트로 막다
문제: 사람 없이 돌던 에이전트 루프가 중간 결과물을 건너뛰고, 검수 없이 체크포인트 승인을 스스로 기록 했다. 이를 막으려 만든 게이트도 체크포인트 A와 B에서는 검수 역할이 적어 낸 숫자를 그대로 믿었다. 결정: 체크포인트 승인은 게이트 스크립트가 기록 하게 했다. 시나리오 파일이 이미 만들어진 B와 C에서는 게이트가 스키마 검증기를 직접 돌려 승인 여부를 정한다. 결과: B 승인 시점에 스키마 결함이 있으면 승인이 거부된다. 전에는 …