Revolut、Claudeから内製モデルへの移行でAIコーディングコストを90%削減

英フィンテック企業のRevolutは、標準のAIコーディングツールをClaudeなどの商用サービスから独自運用のオープンソースモデルに切り替え、推論コストを約90%削減したと発表した。同チームは56基のNvidia B200 GPUを用いてGLM-5.3をデプロイし、NVFP4量子化やPrefillとDecodeの分離といった最適化によって、256kコンテキストにおいて3秒未満のファーストトークンレイテンシ（TTFT）と200トークン/秒のインタラクティブなスループットを達成した。