Thomas Serval

Il y a plein de types de mémoires.

les détails techniques, donc il y a des mémoires ultra rapides qui sont les plus demandées, puis il y a des vieilles mémoires qu'on n'utilise plus.

Il est possible qu'on remette en service des choses de mémoire, typiquement la mémoire qu'on a dans les disques durs, ou même les disques durs à l'ancienne avec des plateaux.

Ne jetez pas vos disques durs.

Voilà, on va peut-être les réutiliser.

Ça dépend de la durée de la chose.

Mais c'est clair qu'on va se retrouver dans une économie.

On avait eu une discussion avec le patron de Google Cloud.

Grosso modo, il y a à peu près un facteur 1000 d'optimisation de l'efficacité des algorithmes de LLM aujourd'hui.

Et ça, c'est juste de la qualité de programmation.

Pourquoi ?

Parce qu'on peut peut-être revenir... Les LLM sont partis d'une logique où ça sortait d'un labo, et ils se sont dit, on va virtualiser l'algorithme qu'on a mis en place avec beaucoup de mémoire.

La virtualisation, c'est de fabriquer un PC qui n'existe pas au niveau technique.

Et donc, en fait, on a conçu des LLM, non pas en se disant, on va améliorer l'efficacité de l'algorithme, on va juste se dire que c'est pas cher de mettre 10 000 ou 100 000...

processeurs les uns à côté des autres, qu'ils soient existants ou pas.

Par contre, la consommation de mémoire de tous ces trucs-là, elle est codée très salement.

C'est d'ailleurs pour ça que DeepSeek a réussi à rattraper les autres.

C'est parce qu'en fait, ils ont fait un facteur 2 d'efficacité, mais d'après les propres spécialistes de Google, mais Anthropic te dira probablement la même chose, je ne sais pas si OpenAI a mis ça, et quand j'étais chez Google, on était obsédés

Et donc, je pense que dans les gagnants, plus les boîtes sont grosses et vieilles, plus elles ont cette expertise, qui d'ailleurs, historiquement, est russe.

Donc, recycler.