Context Window & Kompaksi

Context Window & Kompaksi

Context window mencakup percakapan, balasan model, output tool, dan file yang dibaca agent. Baca nilai produksi; jangan berasumsi semua model punya 200K token:

curl -s https://api.nexotao.com/models | jq -r \
  '.models[] | [.model, .context_window] | @tsv'

Window Fase 1 saat ini

ContextModel ID
10.000.000llama-4-scout-17b
1.050.000gpt-5.6-terra
1.000.000claude-opus-4-6, claude-sonnet-4-6, nova-2-lite, llama-4-maverick-17b, minimax-m2
400.000gpt-5.6-luna
300.000nova-lite, nova-pro
256.000mistral-large-3, devstral-2, qwen3-coder-30b, qwen3-coder-next, nemotron-super-120b, nemotron-nano-30b, kimi-k2-5
203.000glm-4-7
200.000claude-opus-4-5, claude-sonnet-4-5, claude-haiku-4-5, glm-5
164.000deepseek-v3-2
128.000deepseek-r1, magistral-small, ministral-14b, ministral-8b, ministral-3b, nova-micro, llama-3-3-70b, gemma-3-27b, gpt-oss-120b, gpt-oss-20b
32.000qwen3-32b

API adalah sumber kebenaran kalau nilainya berubah.

Setup Claude Code

Pakai ID Claude aktif agar Claude Code bisa mengkalibrasi dan melakukan kompaksi dengan benar:

SettingNilai
ANTHROPIC_BASE_URLhttps://api.nexotao.com
ANTHROPIC_AUTH_TOKENkey sk-nexo-... milikmu
ANTHROPIC_MODELclaude-opus-4-6
ANTHROPIC_DEFAULT_OPUS_MODELclaude-opus-4-6
ANTHROPIC_DEFAULT_SONNET_MODELclaude-sonnet-4-6
ANTHROPIC_DEFAULT_HAIKU_MODELclaude-haiku-4-5
CLAUDE_CODE_DISABLE_EXPERIMENTAL_BETAS1

Lihat Claude Code untuk generator config.

Menjaga sesi panjang

  • Biarkan client autocompact saat mendekati window yang dipublikasikan.
  • Jalankan /compact sebelum tugas besar atau setelah membaca banyak file.
  • Jalankan /clear saat tugas selesai dan riwayat tidak lagi diperlukan.
  • Untuk client tanpa kompaksi, pangkas atau ringkas giliran lama sendiri.

Kalau prompt terlalu besar, gateway mengembalikan 400 upstream.context_length_exceeded; lakukan kompaksi, ringkas, atau pecah input. 413 request.too_large berarti body HTTP melewati batas gateway.

Teks & ChatSemua Integrasi