Postmortem 3 masalah terbaru Claude

Ringkasan tiga isu yang baru-baru ini terjadi (penyebab dan solusi)

1. Kesalahan perutean context window (Context Window Routing Error)

• Penyebab: Sebagian permintaan untuk model Sonnet 4 salah dirutekan ke server yang dikonfigurasi untuk context window yang lebih besar sebesar 1M token. Perubahan load balancing pada 29 Agustus memperburuk masalah ini.
• Solusi: Logika perutean diperbaiki agar permintaan dikirim ke kumpulan server yang benar, lalu diterapkan pada bulan September.

2. Kerusakan output (Output Corruption)

• Penyebab: Konfigurasi yang salah pada server TPU Claude API menyebabkan error selama pembuatan token, sehingga karakter yang tidak terduga muncul dalam respons. Ini memengaruhi beberapa model Claude.
• Solusi: Masalah diselesaikan dengan mengidentifikasi dan me-roll back perubahan yang salah konfigurasi pada 2 September.

3. Kesalahan kompilasi "approximate top-k" ("approximate top-k" miscompilation)

• Penyebab: Perubahan kode untuk meningkatkan pemilihan token memicu kemungkinan bug pada compiler XLA:TPU, yang memengaruhi Claude Haiku 3.5 dan model lainnya.
• Solusi: Perubahan tersebut di-roll back dan tim bekerja sama dengan tim XLA:TPU untuk menyelesaikan bug compiler. Selain itu, mereka beralih menggunakan operasi "exact top-k" untuk pemilihan token.

[darjeeling]

Karena hanya ringkasan penyebabnya yang terlalu disingkat, versi terjemahannya ada di sini.

https://rosettalens.com/s/ko/a-postmortem-of-three-recent-issues

[click]

Belakangan ini Claude Code jadi agak bodoh, jadi kadang malah lebih baik diunggah ke GitHub lalu ditanyakan lewat web; mungkin ada hubungannya ya?