설명: Claude Console의 캐시 경고처럼 보이는 이메일을 해석하고, 직접 API 사용료와 Claude Code의 차이, 비용을 줄이는 실제 방법을 알아본다.
1. 갑자기 AI에게 성적표를 받았다?
메일에는 “Your prompt cache hit rate is low”라고 적혀 있다. 이어서 직접 API 비용을 최대 45% 정도 아낄 수 있다는 문구까지 나온다. 내 질문 실력이 부족하다는 얘기인가? AI가 채점관이 된 건가?
실제로는 같은 입력 내용을 매번 새로 처리하는 비용에 대한 안내다. 장애 알림도, 요금 45% 인상 통지도 아니다. 반복되는 지시문을 캐시에 보관했다가 다시 쓸 수 있다는 뜻이다. [1]
2. 매번 첫 출근 교육부터 다시 시작하는 셈
예를 들어 사내 AI에 매번 긴 업무 규칙과 문서 20쪽을 보낸다고 하자. 첫 질문은 보고서 요약, 두 번째는 메일 분류, 세 번째는 표 분석이다. 질문만 달라지고 기본 지침은 똑같다.
캐시가 없으면 매번 같은 문서를 일반 입력으로 처리한다. 캐시가 적중하면 이전에 처리한 동일한 앞부분을 재사용할 수 있다. 직원에게 매일 “안녕하세요, 우리 회사는 이런 곳입니다”부터 설명하는 일을 줄이는 것이다.
중요한 것은 순서다. 바뀌지 않는 내용을 앞에 두고 날짜, 사용자별 요청, 매번 달라지는 데이터는 뒤로 보내야 재사용에 유리하다. [1]
3. 45%는 할인 쿠폰이 아니다
메일의 45%는 직접 API 사용량에 대한 잠재적 절감 추정치다. 월 100달러가 실제로 45% 줄어든다면 55달러가 되겠지만, 이는 단순한 예시다.
2026년 11월 13일 확인한 Anthropic의 공식 요금 기준으로, 5분짜리 캐시를 처음 쓰는 비용은 일반 입력의 1.25배, 1시간짜리 캐시 쓰기는 2배다. 반면 일반적인 캐시 읽기는 정상 입력의 0.1배이고, 일부 모델은 더 저렴하다. 출력 비용은 별도로 계산된다. [2]
따라서 같은 내용을 여러 번 재사용할수록 유리하다. 캐시를 만들고 다시는 쓰지 않는다면 시즌권을 사놓고 딱 한 번 놀러 가는 꼴이다.
4. Claude Code만 쓰는 사람도 설정해야 할까?
해당 메일은 Claude Code가 캐시를 자동으로 관리하므로 절감 추정에서 제외한다고 명시한다. Claude Code만 이용한다면 이 메일만 보고 별도 설정을 서두를 필요는 보통 없다.
확인할 대상은 직접 Claude API를 호출하는 앱, 스크립트, 사내 도구, 자동화다. 일반 채팅 구독과 API 종량제 청구를 혼동하지 말자.
5. 실제 확인 방법
먼저 관리 화면에서 직접 API 청구액이 있는지 본다. 그런 다음 반복되는 고정 지침을 찾아 요청 앞부분에 배치한다. 자동 캐시는 요청 최상위에 "cache_control": {"type": "ephemeral"} 를 지정할 수 있다. 매번 달라지는 내용이 맨 끝에 있다면 고정 부분 끝에 명시적으로 캐시 기준점을 두는 방법도 있다. [1]
마지막으로 cache_read_input_tokens(재사용량), cache_creation_input_tokens(새 캐시 작성량), input_tokens(기타 입력)을 비교한다. 적중률만 보지 말고 총 청구액이 줄었는지도 확인하자. 기본 유지 시간은 5분이며 1시간 옵션도 있다. [1][2]
6. 결론
Claude가 “너 기억력이 나쁘다”고 놀리는 메일은 아니다. 동일한 문서를 계속 새로 읽히지 말라는 비용 관리 조언이다. AI에게 매일 입사 교육을 시킬 필요가 없다면, 이제 청구서에도 그 사실을 알려 줄 차례다.
- 확인일: 2026-11-13. 45%는 메일의 추정치이며 보장된 절감액이 아니다.
- Anthropic 공식: 프롬프트 캐싱 platform.claude.com
- Anthropic 공식: 요금 platform.claude.com
