FocusLM Recherche
Des notes ancrées dans la recherche sur la mémoire de l'IA, les fenêtres de contexte et la création d'une IA qui connaît vraiment votre monde.
Chiffrer la mémoire de l'IA : pourquoi une clé par projet vaut mieux qu'une par base
Une IA qui se souvient de votre vie détient de la matière que vous ne confieriez pas à un inconnu. Nous chiffrons chaque fichier de mémoire et chaque message de chat avec une clé qui appartient à ce seul projet, et la recherche explique pourquoi les alternatives évidentes fuient.
LirePlus de contexte n’est pas toujours mieux : ce qui se passe au-delà de 64k tokens
Une vaste étude portant sur plus de 20 modèles a constaté qu’entasser davantage de texte récupéré dans le prompt cesse souvent d’aider — et, pour de nombreux modèles, commence à nuire — bien avant que la fenêtre ne soit pleine. Plus grand n’est pas synonyme de mieux.
LireEt si un LLM gérait la mémoire comme un système d’exploitation ?
La fenêtre de contexte est petite et fixe. MemGPT emprunte une idée vieille de 40 ans aux systèmes d’exploitation — une hiérarchie de mémoire avec pagination — pour permettre à un modèle de travailler avec bien plus d’informations qu’il n’en tient dans la fenêtre.
LireRAG ou long contexte : lequel devriez-vous vraiment utiliser ?
Quand un modèle peut lire un million de tokens, la récupération est-elle obsolète ? Une étude de Google DeepMind répond non — le long contexte l’emporte sur la qualité quand on peut se le permettre, la récupération l’emporte sur le coût, et un simple routeur récupère l’essentiel des deux.
LirePerdu au milieu : pourquoi les longues fenêtres de contexte échouent en silence
Les LLM exploitent le début et la fin d’un long contexte bien mieux que son milieu — un effet en U qui persiste même dans les modèles conçus pour le long contexte. Voici ce que montre la recherche et ce que cela implique.
Lire