MCP 토큰 사용: 결과당 4개의 버킷을 측정

MCP 토큰 사용은 확인된 결과 에 따라 측정되어야 하며 서버, 도구 호출 또는 채팅에 따라 측정되지 않습니다. 유용한 총수는 요청된 결과를 생성하기 위해 필요한 모든 모델 호출에서 소비되는 입력입니다. 기본 지침, 노출 된 도구 스키마, 발견 역사 및 도구 결과 유용한 부하로 나뉘어 있습니다. 최적화 후보자를 각각 동일한 결과 인증을 낸 후에만 비교하십시오. 이 규칙은 두 가지 일반적인 실수를 방지합니다. 공급자 세션 전체는 계획이나 결과가 성장을 일으켰는지 말할 수 없습니다. 작은 토큰 수치는 에이전트가 잘못된 도구를 선택하거나 배달 상품을 놓친 경우에도 효율적으로 보일 수 있습니다. 먼저 계산하고, 결과 계약을 보존하고, 그리고 한 번에 한 표면을 변경합니다. 최적화하기 전에 4 버킷 리저를 구축하십시오 MCP 도구 사양는 발견을 위해 tools/list 를 정의하고 모든 도구에 이름, 설명 및 입력 스키마를 제공합니다. 클라이언트는 도구를 모델에 제시하기 전에 그 응답을 변환할 수 있으므로 MCP 자체는 토큰을 충전하지 않습니다. 하나의 작업에 대해 기록: 바구니 그 안에 있는 것은 왜 자라나는지 기본 기준 시스템 지침, 사용자 작업, 요청 포장 각 샘플링 호출에서 반복됩니다. 계획 도구 이름, 설명, 입력 스케마, 클라이언트가 노출하는 해설 더 많은 도구, 말 그대로 설명, 반복된 노출 발견 검색 일치, 선택된 도구 설명, 이전 발견 회전 점진적인 공개로 돌아가는 여행이 추가됩니다. 결과 메시지 역사에서 저장된 도구 출력 용어 로드 및 반복된 재결합 전체 경로를 통해 모든 버킷을 합쳐서 하나의 결과로: 제공자의 캐시 읽기, 캐시 작성, 출력 토큰, 지연 및 인접 열에 가격을 유지하십시오. 네 개의 입력 칸에 조용히 섞지 마십시오. 그들은 다른 질문에 대답합니다. 캐시된 스키마는 한 제공자에게는 여전히 컨텍스트를 차지하고 여전히 신선성 검사를 필요로 할 때 비용이 덜 들 수 있습니다. 측정 전에 결과 인증을 정의하십시오. 아래 실험에 대한 임무는: 현재 지불 API 오류율, 관찰 시간 및 증거 소스를 반환합니다. 3개의 필드가 존재했을 때만 경기가 통과됩니다. 이것은 의도적으로 이 도구가 성공적으로 반환된 것보다 더 엄격합니다. 증거가 없는 비율은 조사할 수 없습니다. 컴팩트 출력은 다음 결정에 필요한 필드를 보유할 때만 유용하다. 정확한 요청을 계산하고, 추측된 텍스트 비율을 계산하지 마십시오. 동일한 모델, 시스템 프롬프트, 메시지 및 전송하려는 도구와 함께 목표 제공자의 카운터를 사용하십시오. Antropics 토큰 회계 문서는 최종 지점은 도구를 포함한 메시지 요청과 동일한 구조화된 입력값을 받아들이는 것을 명시합니다. 또한 그 결과물을 추정으로 표시하고 계획된 모델에 대한 계산을 권장합니다. 비행 전 요청은 이렇게 보일 수 있습니다. 키를 JSON 장치나 보고서에 넣지 마세요. 반환된 입력 번호를 모델 식별자, 카운터 시간, 요청 해시, 노출 된 도구 수, 호출 번호 및 결과 ID로 저장합니다. 기본 요청에 대한 카운터를 한 번 실행하고, 다음 입력값을 변경하기 때문에 각 모델/툴 회전 후 다시 실행하십시오. 공급자가 카운터를 가지고 있지 않다면, 연결된 로컬 토케니저를 비교 프록시로 사용하세요. 세리얼라이저와 토케니저 버전을 고정시켜두세요. 이 문서의 장치는 js tiktoken 1.0.21를 cl100k base 와 함께 사용합니다. 이 세 가지 시나리오에서 재생이 가능하지만 클로드 토케니저는 아닙니다. 아래의 비율은 고정관념의 상대적인 형태에 대한 증거이며, 보편적인 MCP 저축이 아닙니다. 40개의 도구가 실제로 측정한 검사 가능한 유물은 40개의 합성 작동 도구를 만듭니다. 한 도구는 요청된 결제 오류율 증거를 반환하고, 나머지 39개 도구에는 현실적인 이름, 설명 및 JSON 스키마가 있지만 이 작업에 관련이 없습니다. 세 가지 경로를 비교합니다. 1. 모든 40개의 스키마를 노출하고 말 그대로의 결과를 유지한다. 2. 알려진 도구만을 노출하고, 압도적인 결과를 유지한다. 3. search tools , describe tools , 그리고 execute tool 를 노출하고, 하나의 스케마를 발견하고, 컴팩트된 결과를 유지합니다. 모든 경로는 같은 3분야 영수증을 통과했습니다. 측정된 프록시 입력값은: 시나리오 전화 기본 기준 계획 발견 결과 전체 저축 : : : : : : : 정적 40 도구, 말 그대로의 결과 2 110 8,768 0 625 9,503 기하급수 선택된 도구, 컴팩트한 결과 2 110 188 0 55 353 96.3% 역동적인 발견, 콤팩트한 결과 4 220 572 309 55 1,156 87.8% 지배적 인 관찰은 주위 비율이 아니라 배정입니다. 반복된 스키마는 8,768개의 9,503개의 프록시 토큰을 정적 경로에 기여했습니다. 그 결과를 단독으로 단절하면 그 작업량이 회복되지 않을 것입니다. 반대로, 올바른 도구가 이미 알려져있을 때, 일 도구 경로는 동적 발견을 제치고 있습니다. 왜냐하면 발견은 모델 호출의 수를 두 배로 증가시키고 309 개의 역사 토큰을 추가했기 때문입니다. 펌프와 카운터는 검사하기에 충분히 작습니다. 실제 도구 정의와 구조를 재현하지만 비용 또는 컨텍스트 창 문턱을 설정하기 전에 프록시를 제공자의 카운터로 교체하십시오. 또한 합성 성공 영수증은 실제 전달 가능한 또는 외부 효과에 대한 결정적인 검증으로 대체합니다. 이러한 결과는 더 큰 Speakeasy 동적 도구 집합 기준의 방향과 일치합니다. 진보적인 도구 노출은 정적 스키마 입력을 크게 줄일 수 있지만 더 많은 도구 호출이 필요하며 지연 시간을 증가시킬 수 있습니다. 그들의 비율은 그들의 도구 집합, 작업 및 모델에서 왔습니다. 그들은 당신에게 약속이 아닙니다. 가장 큰 버킷에서 컨트롤을 선택하세요 1개의 개입을 선택하기 위해 리저를 사용하세요: 스케마가 지배하고 필요한 도구가 라우팅 컨텍스트에서 알려져 있다면, 허용된 서브셋을 노출하십시오. 스케마가 지배적이지만 도구가 알려지지 않은 경우, 역동적인 검색과 설명을 검색 오류 사례에 대해 테스트하십시오. 결과들이 지배적이라면, 결정에 관련된 분야만을 프로젝하고 신선함, 커버링, 오류, 증거 참조를 유지하십시오. 기본 기준이 지배적인 경우 반복된 지침을 단축하거나 안정적인 정책을 특정 작업 맥락에서 분리하십시오. 발견이 지배하는 경우 라우팅을 개선하거나 안전하게 설정된 선택을 재사용하거나 더 큰 정적 하위 집합을 받아들이십시오. 토큰 최적화 장치를 설치하지 마십시오. 버킷과 작업을 시작하십시오. 40개의 도구 CRM 표면은 점진적인 발견을 정당화할 수 있습니다. 항상 알려진 읽기 전용 메트릭 도구를 호출하는 일정 건강 검사는 아마도 그렇지 않을 것입니다. 역동적인 발견을 위해, 테스트 실패는 저축과 마찬가지로 공격적입니다. 모호한 사용자 용어, 거의 복제된 도구 이름, 사용할 수 없는 도구, 권한 손실, 오래된 도구 목록 및 도구를 선택하지 않는 쿼리를 포함하십시오. 검증된 결과까지의 선택 정확성과 P95 시간을 측정한다. 추가 검색 단계는 스케마 감소가 검색 및 지연 비용을 초과할 때만 가치가 있습니다. 결과 압축은 자신의 경계를 필요로 합니다. 식별자, 단위, 관찰 시간, 커버리지, 오류 상태 및 다음 행동에 영향을 미치는 때마다 증거 참조를 보관하십시오. 전체 기록, 복제 된 시사, 사용되지 않은 메타 데이터 및 원료 로그를 피하십시오. 컴팩트한 결과로 운영자가 판단을 신뢰하거나 재현할 수 있는 이유를 제거하면 데이터 손실입니다. 간단한 프로모션 게이트를 사용하세요: 펌프를 복사하는 대신 작업량에서 목표물을 설정하세요. 결과품질, 도구 선택, 신선함 또는 검증이 감소하면 되돌려 놓습니다. 소량의 토큰은 복구 신호가 아니며 완료된 MCP 호출은 의도된 작업이 이루어졌다는 증거가 아닙니다. 건강 경계를 명확하게 유지 하십시오. 토큰 성장은 반복된 스키마, 과장 된 도구 결과, 재실험 또는 컨텍스트 축적을 나타낼 수 있습니다. 또한 합법적일 수도 있습니다. 새로운 도구가 필요하게 되거나, 조사에 증거가 필요하거나, 대리인은 룰링하는 대신 기다리고 있습니다. 유용한 진보와 예상된 결과와 함께 사본을 해석하십시오. Sidewisp는 현재 비공개 프리뷰 단계입니다. 그 제품 방향은 시간 및 예산 효율성을 하나의 에이전트 건강 신호로 포함하지만 실시간 토큰 사용 수집 및 최적화가 계획되어 있습니다. 그 기능은 오늘날 배송되지 않습니다. 이제 실천적인 단계는 자신의 결과별 대책서를 보관하고 증거들을 보존하고 한 번에 한 번의 MCP 노출 변경을 테스트하는 것입니다. 그 다음 결정은 구체적입니다. 안정적인 알려진 도구 경로를 위해 선택된 노출을 사용, 검색 테스트를 통과하는 큰 불확실한 표면에 대한 역동적 발견, 그리고 유용한 로드 역사가 실제 비용일 때 결과 투영. 같은 결과 인증을 받은 후에야 변경사항을 공개한다.