중요한 것은 주제 자체보다 오늘의 판단과 실행 순서를 바꾸는지입니다.
왜 재사용 적중률이 새 핵심 지표인가
2026년 5월 기준 Anthropic 지시문 재사용의 유효시간은 5분이다. 같은 공통 앞부분을 보내면 재사용된 부분은 입력 토큰 비용의 10%로 청구된다. 100만 토큰 컨텍스트를 매번 보내면 회당 비용이 무겁지만, 재사용 유효시간 안에서 같은 공통 앞부분을 여러 번 재사용하면 평균 비용이 급격히 떨어진다.
운영 측에서 측정해야 할 것은 절대 비용이 아니라 적중률이다. 적중률을 보지 않으면 다음 두 가지를 알 수 없다 — (1) 어떤 호출 패턴이 재사용 기회를 놓치고 있는가, (2) 어떤 작업 흐름 재설계가 가장 큰 투자 대비 효과를 줄까. 우리는 처음 측정 시점에 14%였고, 6가지 패턴을 차례로 적용한 후 87%까지 올라갔다. 회당 평균 비용은 1/6로 떨어졌다.
이 글의 나머지에서는 6가지 패턴을 차례로 다룬다 — (1) 공통 앞부분을 별도 지시문 부품으로 분리, (2) 같은 공통 앞부분으로 여러 질문 묶기, (3) 유효시간 5분 안에 후속 왕복 호출 예약, (4) 재사용 유효시간 만료 직전 자동 갱신, (5) 지시문 시작 부분을 안정화, (6) 재사용 hit율을 매 호출마다 로깅. 각 패턴마다 전후 측정값과 코드 예시가 포함된다.
📖 나머지 패턴 6개와 측정 데이터는 데일리 첨부 멤버에게 매일 메일로 발송됩니다. 첨부 PDF에는 코드 스니펫과 그래프가 포함됩니다.
- 2026년 5월 기준 Anthropic 지시문 재사용의 유효시간은 5분이다. 같은 공통 앞부분을 보내면 재사용된 부분은 입력 토큰 비용의 10%로 청구된다. 100만 토큰 컨텍스트를 매번 보내면 회당 비용이 무겁지만, 재사용 유효시간 안에서 같은 공통 앞부분을 여러 번 재사용하면 평균 비용...
- 운영 측에서 측정해야 할 것은 절대 비용이 아니라 적중률이다. 적중률을 보지 않으면 다음 두 가지를 알 수 없다 — (1) 어떤 호출 패턴이 재사용 기회를 놓치고 있는가, (2) 어떤 작업 흐름 재설계가 가장 큰 투자 대비 효과를 줄까. 우리는 처음 측정 시점에 14%였고, 6가지 패턴을 차례로 적용한...
- 이 글의 나머지에서는 6가지 패턴을 차례로 다룬다 — (1) 공통 앞부분을 별도 지시문 부품으로 분리, (2) 같은 공통 앞부분으로 여러 질문 묶기, (3) 유효시간 5분 안에 후속 왕복 호출 예약, (4) 재사용 유효시간 만료 직전 자동 갱신, (5) 지시문 시작 부...
→ 영어판 보기
- 2026년 5월 기준 Anthropic 지시문 재사용의 유효시간은 5분이다. 같은 공통 앞부분을 보내면 재사용된 부분은 입력 토큰 비용의 10%로 청구된다. 100만 토큰 컨텍스트를 매번 보내면 회당 비용이 무겁지만, 재사용 유효시간 안에서 같은 공통 앞부분을 여러 번 재사용하면 평균 비용...
- 운영 측에서 측정해야 할 것은 절대 비용이 아니라 적중률이다. 적중률을 보지 않으면 다음 두 가지를 알 수 없다 — (1) 어떤 호출 패턴이 재사용 기회를 놓치고 있는가, (2) 어떤 작업 흐름 재설계가 가장 큰 투자 대비 효과를 줄까. 우리는 처음 측정 시점에 14%였고, 6가지 패턴을 차례로 적용한...
- 이 글의 나머지에서는 6가지 패턴을 차례로 다룬다 — (1) 공통 앞부분을 별도 지시문 부품으로 분리, (2) 같은 공통 앞부분으로 여러 질문 묶기, (3) 유효시간 5분 안에 후속 왕복 호출 예약, (4) 재사용 유효시간 만료 직전 자동 갱신, (5) 지시문 시작 부...
→ 영어판 보기
핵심 정리
- 2026년 5월 기준 Anthropic 지시문 재사용의 유효시간은 5분이다. 같은 공통 앞부분을 보내면 재사용된 부분은 입력 토큰 비용의 10%로 청구된다. 100만 토큰 컨텍스트를 매번 보내면 회당 비용이 무겁지만, 재사용 유효시간 안에서 같은 공통 앞부분을 여러 번 재사용하면 평균 비용...
- 운영 측에서 측정해야 할 것은 절대 비용이 아니라 적중률이다. 적중률을 보지 않으면 다음 두 가지를 알 수 없다 — (1) 어떤 호출 패턴이 재사용 기회를 놓치고 있는가, (2) 어떤 작업 흐름 재설계가 가장 큰 투자 대비 효과를 줄까. 우리는 처음 측정 시점에 14%였고, 6가지 패턴을 차례로 적용한...
- 이 글의 나머지에서는 6가지 패턴을 차례로 다룬다 — (1) 공통 앞부분을 별도 지시문 부품으로 분리, (2) 같은 공통 앞부분으로 여러 질문 묶기, (3) 유효시간 5분 안에 후속 왕복 호출 예약, (4) 재사용 유효시간 만료 직전 자동 갱신, (5) 지시문 시작 부...
→ 영어판 보기
