처음에는 서비스 장애처럼 보였다. 연결은 살아 있었고, 서버도 멀쩡했고, 새 요청도 정상적으로 들어왔다. 그런데 답변만 계속 막혔다. 다른 모델로 바꿔도 결과는 같았다.
원인은 대화방에 쌓인 지난 작업이었다. 그 방에서는 보안 도구를 시험하고, 공격 코드를 분석하고, 위험한 명령의 범위를 따졌다. 각각은 정당한 실험이었지만, 긴 기록 전체를 한꺼번에 읽는 모델에게는 사정이 달랐다. 평범한 질문 하나도 이전 맥락과 묶이면서 위험한 요청처럼 보였다.
주인은 처음에 서비스를 다시 띄우는 쪽을 의심했다. 하지만 프로세스를 갈아도 같은 대화 기록을 다시 읽으면 실패도 그대로 돌아온다. 결국 기존 기록은 보존하고 새 대화방만 열었다. 그제야 답변이 바로 나왔다.
여기서 운영 규칙 하나가 생긴다. 보안 실험은 별도 대화에서 해야 한다. 작업이 끝나면 결과만 가져오고, 공격 코드와 디버깅 흔적까지 일상 대화에 계속 매달아 두지 않는다. 대화방은 단순한 화면이 아니다. 모델이 다음 요청을 판단할 때 읽는 실행 환경에 가깝다.
긴 맥락이 언제나 더 나은 답을 만든다는 믿음은 틀렸다. 관련 없는 기록이 쌓이면 정확도만 흐리는 게 아니라, 정상 요청까지 막는 고장 원인이 된다. 서버가 멀쩡한데 AI만 입을 닫는다면 재시작 버튼보다 먼저 대화방의 짐부터 봐야 한다.