AI 에이전트 실패를 블레임리스 포스트모템으로 보는 이유
에이전트 실패는 사람이나 모델의 탓이 아니라 프롬프트·권한·리뷰·도구 경계가 새는 시스템 결함으로 봐야 합니다. 블레임리스 포스트모템은 비난하지 않고 새는 지점을 찾아 재발 가능성과 영향을 낮추는 방법입니다.
이 글은 Google SRE 공식 문서와 코딩 에이전트 보안 안내를 기준으로 한 일반 설명이며, 조직의 사고 대응 절차와 도구 권한 설정에 따라 세부 적용은 달라질 수 있습니다.
블레임리스 포스트모템은 무엇인가?
한 줄 답: 사고 기록은 책임자를 정하는 문서가 아니라 사건의 영향·대응·원인·재발 방지 조치를 남기고 학습하는 문서입니다.
Google SRE가 설명하는 포스트모템은 사건 자체와 영향, 완화 또는 해결을 위해 취한 조치, 근본 원인, 재발을 막기 위한 후속 조치를 기록하는 문서입니다. 따라서 결과만 적는 것이 아니라 어떤 일이 언제 어떻게 진행되었고, 무엇이 영향을 받았으며, 어떤 대응이 이루어졌는지를 함께 남깁니다.
주된 목적은 사건을 문서화하고, 사건에 기여한 근본 원인을 이해하며, 재발 가능성이나 영향을 낮출 효과적인 예방 조치를 마련하는 데 있습니다. 기록을 남기는 행위가 끝이 아니라 다음 변경과 검증으로 이어져야 한다는 뜻입니다.
‘블레임리스’는 개인이나 팀의 부적절한 행동을 기소하지 않고 사건에 기여한 원인을 찾는다는 의미입니다. 사건에 관여한 사람들이 당시 가진 정보 안에서 좋은 의도로 올바른 선택을 하려 했다는 전제를 두면, 비난보다 정보·조건·통제의 부족을 살필 수 있습니다.
이 원칙에서 포스트모템 작성은 처벌이 아니라 조직 전체의 학습 기회입니다. 당황스러운 사건일수록 숨기지 않고 공유하고 검토해야 하며, 검토되지 않은 기록은 사실상 존재하지 않은 것과 같으므로 교훈을 얻을 수 있는 범위까지 넓게 공유해야 합니다.

시말서와 포스트모템은 무엇이 다른가?
한 줄 답: 시말서는 누가 잘못했는지를 향하기 쉽지만, 이 방식은 통제와 절차가 어느 지점에서 새었는지를 묻습니다.
시말서식 질문은 ‘누가 승인했나’, ‘누가 실행했나’, ‘누가 건너뛰었나’에 머물 수 있습니다. 포스트모템식 질문은 대상 범위가 충분히 정의되었는지, 권한과 승인 단계가 적절했는지, 검토가 실제로 작동했는지처럼 바꿀 수 있는 조건을 확인합니다.
손가락질과 망신 주기가 우세하면 처벌에 대한 두려움 때문에 문제가 드러나지 않을 수 있습니다. 사람을 더 조심하게 만드는 데만 기대기보다 복잡한 환경에서 올바른 선택을 돕도록 시스템과 프로세스를 바꾸는 편이 재발 방지에 직접 연결됩니다.
좋은 기록에는 맥락과 핵심 세부, 타임라인, 영향, 근본 원인, 조치 항목, 교훈이 담겨야 합니다. 반대로 맥락이 빠지고 조치가 모호하며, 비난성·감정적 표현이 들어가고, 담당자나 공유 대상이 없거나 발행이 늦어지면 기록이 학습 도구로 기능하기 어렵습니다.
두 질문의 차이는 인사상 책임의 존재 여부를 정하는 데 있지 않습니다. 같은 사건을 분석하더라도 처벌할 사람을 찾는 질문보다 누락된 통제를 찾는 질문이 예방 조치를 만들기 쉽다는 점에 있습니다.

AI 에이전트 실패는 어디서 새는가?
한 줄 답 : 잘못된 결과는 모델의 성격이 아니라 작업 범위, 실행 권한, 검토 단계, 도구가 닿는 경계가 함께 만든 결과로 점검합니다.
팀장 말대로 가는 문화가 첫 설명을 확정 답으로 받아들이는 것이라면, 에이전트 작업에서 첫 완료 응답을 확정 결과로 받아들이는 것도 같은 문제를 만듭니다. 완료 응답은 검토와 검증을 시작하는 신호이지, 승인과 동일한 신호가 아닙니다.
잘못된 파일이 수정되었다면 프롬프트에 대상과 제외 경로, 변경 금지 범위가 충분히 적혔는지 확인해야 합니다. 동시에 에이전트가 쓸 수 있는 디렉터리가 작업 범위와 일치했는지, 범위를 벗어난 쓰기를 막는 경계가 있었는지도 살펴야 합니다.
명령이 의도보다 크게 실행되었다면 권한 모드와 명령 승인 게이트가 있었는지 확인합니다. 비밀이 노출되었다면 도구가 접근할 수 있던 경로와 자격 증명이 필요한 범위를 넘지 않았는지, 리뷰가 변경과 제안 명령을 확인했는지 점검합니다.
무조건 승인·찬성하는 검토도 별도의 리뷰 누수입니다. 이른바 러버스탬프(rubber-stamp) 승인은 검토가 있었던 것처럼 보이지만 실제로는 첫 완료나 첫 설명을 확인 없이 통과시키므로, 누가 맞았는지가 아니라 이견을 내거나 거절할 통제가 있었는지를 물어야 합니다.
| 새는 지점 | 시말서 질문 | 이 방식의 질문 |
|---|---|---|
| 잘못된 파일 수정 | 누가 승인했나 | 프롬프트 범위와 쓰기 경계가 어디였나 |
| 폭주 명령 | 누가 실행했나 | 권한 모드와 명령 승인 게이트가 있었나 |
| 비밀 유출 | 누가 노출했나 | 도구가 어떤 경로·자격 증명에 닿을 수 있었나 |
| 리뷰 무시 | 누가 건너뛰었나 | 사람 리뷰 게이트가 필수였나, 선택이었나 |
| 무조건 승인/찬성 | 누가 맞다고 했나 | 이견을 내거나 거절할 게이트가 있었나 |
이 표의 목적은 특정 회사나 사건의 책임자를 정하는 것이 아닙니다. 같은 실패를 다시 분석할 때도 원인 질문을 통제 질문으로 전환하고, 확인할 증거와 변경할 절차를 구체화하는 데 목적이 있습니다.

프롬프트·권한·리뷰·도구 경계는 어떻게 고치나?
한 줄 답 : 재발 방지 조치는 ‘더 조심하라’가 아니라 대상·승인·검토·접근 범위를 바꾸고 측정 가능한 책임을 붙이는 방식으로 설계합니다.
프롬프트에는 수정 대상, 수정 금지 경로, 완료 조건, 검증 기준을 분명히 적어 작업 범위를 고정합니다. 완료의 의미를 에이전트의 응답이 아니라 테스트·diff·검증 결과로 연결하면 범위가 흐려졌을 때 확인할 기준도 분명해집니다.
권한은 읽기, 파일 쓰기, 테스트 실행, 명령 실행을 모두 같은 수준으로 묶지 않는 방식으로 설계합니다. 필요한 작업에만 단계적으로 승인을 요구하고, 민감한 경로나 자격 증명에는 별도의 접근 경계를 두어 한 번의 잘못된 판단이 미치는 범위를 줄여야 합니다.
리뷰는 최종 diff와 제안 명령을 사람이 확인하는 필수 게이트로 둡니다. 첫 완료 응답을 자동 승인하지 않고, 범위·검증·권한에 대한 확인 결과를 남겨야 리뷰가 단순한 형식에 그치지 않습니다.
특히 이견 게이트(dissent gate)를 독립된 필수 검토로 설계해야 합니다. 두 번째 에이전트나 검토 단계는 결과를 확인하는 역할에 그치지 않고 범위 이탈·검증 누락·과도한 권한을 지적하며, 반대하거나 승인을 거절하거나 재작업을 요청할 수 있어야 합니다.
이 게이트의 통과 기준은 찬성 여부가 아닙니다. 반대 근거를 확인했는지, 대안이나 추가 검증 요구를 기록했는지, 해소되지 않은 이견이 있으면 진행을 멈췄는지를 확인해야 합니다. 확인만 하고 거절할 수 없는 절차는 복수 승인처럼 보여도 실제로는 러버스탬프 승인이라는 리뷰 누수를 반복합니다.
도구 경계는 작업 디렉터리, 민감 경로, 자격 증명 접근을 필요한 범위로 줄이는 장치입니다. Claude Code 공식 보안 문서는 Manual mode에서 읽기 전용으로 시작하고, 파일 편집·테스트·명령 실행 전에 승인을 요청하며, 시작한 작업 폴더와 하위 폴더에만 쓸 수 있고 상위 디렉터리 수정에는 명시적 권한이 필요한 사례를 설명합니다.
이 사례가 모든 에이전트의 동작을 보장하는 것은 아닙니다. 다만 도구가 가진 권한의 범위와 사용자가 승인 전에 제안 코드·명령을 검토해야 하는 지점을 함께 보여 주므로, 권한과 리뷰 경계를 설계할 때 참고할 수 있습니다.
후속 조치에는 담당자, 우선순위, 측정 방법, 예방 효과를 붙여야 합니다. ‘주의를 강화한다’처럼 모호한 문장 대신 특정 경로의 쓰기를 차단하거나 필수 리뷰를 통과하게 하고, 정해진 검증으로 그 변경이 재발 가능성이나 영향을 낮추었는지 확인해야 합니다.

FAQ
한 줄 답 : 에이전트 실패를 재발 방지에 연결하려면 개인 평가와 시스템 개선의 목적을 먼저 나누어야 합니다.
Q. 이 원칙이 책임을 묻지 않는다는 뜻입니까?
A. 사고 원인 분석에서 개인 비난보다 사건에 기여한 원인과 예방 조치를 우선한다는 뜻입니다. 조직의 별도 인사·보안 절차를 대신하는 의미는 아닙니다.
Q. 모델이 틀렸다면 모델의 문제가 아닙니까?
A. 모델의 특성만으로 결론을 고정하지 않고, 모델에 준 작업 범위와 권한, 리뷰 단계, 도구 접근 조건을 함께 점검합니다. 그 조건을 바꾸어 같은 유형의 결과가 반복될 가능성과 영향을 낮추는 것이 목적입니다.
Q. 작은 에이전트 실수도 기록해야 합니까?
A. 이용자 영향, 데이터 손실, 긴 해결 시간, 온콜 개입, 모니터링 실패처럼 학습 가치가 있는 기준을 조직 상황에 맞춰 정해야 합니다. 모든 사소한 동작을 같은 수준으로 기록하기보다 재발 가능성과 영향, 되돌리기 어려움을 기준으로 일관된 문턱을 마련하는 편이 적절합니다.
Q. 에이전트가 무조건 동의하면 안 됩니까?
A. 승인만 하는 검토는 리뷰가 새는 신호일 수 있습니다. 반대 의견을 내고, 승인을 거절하고, 재검토나 재작업을 요구할 수 있는 이견 게이트를 두어야 검토가 실제 통제로 작동합니다.
출처
한 줄 답 : 사고 기록 문화는 Google SRE의 두 공식 문서에, 권한·검토 경계 사례는 Claude Code 공식 보안 문서에 근거합니다.
- [Google SRE Book, Postmortem Culture](https://sre.google/sre-book/postmortem-culture/))
- [Google SRE Workbook, Postmortem Culture](https://sre.google/workbook/postmortem-culture/))
- [Claude Code, Security](https://code.claude.com/docs/en/security))
'AI 에이전트 관련' 카테고리의 다른 글
| Claude Code, 터미널에서 코딩 에이전트를 쓰는 방법 (0) | 2026.08.31 |
|---|---|
| herdr 후기, 에이전트를 여러 개 띄울 때 (0) | 2026.08.28 |
| Claude Code에 Ollama Cloud를 붙여 월 20달러로 쓰는 후기 (0) | 2026.08.26 |
| Claude Code Router OpenRouter, 다른 모델에서 멈추면 provider only를 의심해야 합니다 (0) | 2026.08.26 |
| 클로드는 텍스트에 워터마크를 어떻게 넣나? (1) | 2026.08.25 |









