Session systèmes 3/3 · Exercices

Dimensionnement et optimisation du cache KV

  1. Estimer la mémoire pour des contextes courts et longs.
  2. Répéter à concurrence 1, 8 et 32.
  3. Proposer une expérience de contexte borné ou de préfixe partagé.
Afficher la réponse

Dans l’estimation linéaire simplifiée, elle double approximativement. Non. La réutilisation de préfixe suit des règles propres au fournisseur.