Les ingénieurs de Meta, la maison-mère de Facebook, ont révélé comment ils ont pu offrir de la mémoire gratuite grâce à une solution logicielle appelée Transparent Memory Offloading (TMO).
Cette solution fait désormais partie du noyau Linux et, en résumé, décharge automatiquement les données vers d'autres niveaux de stockage - par exemple, l'expandeur de mémoire CX de Samsung - qui sont moins coûteux et plus économes en énergie que la mémoire.
Les économies réalisées sont importantes ; TMO fonctionne sur des millions de serveurs Facebook depuis plus d'un an et permet d'économiser jusqu'à près d'un tiers de mémoire par serveur. Bien que cela soit probablement insignifiant sur des dizaines ou même des centaines de serveurs, l'immense échelle de Facebook représente un défi unique.
L'appétit gargantuesque de Facebook pour la RAM
Le plus grand réseau social du monde compte près de trois milliards d'utilisateurs actifs mensuels et des millions de serveurs répartis sur 21 sites dans le monde. Si chaque serveur dispose en moyenne de 128 Go de RAM, cela représente 256 millions de Go (ou 256 Po) de RAM. Ce qui, à un coût moyen de 4 $ par Go (RAM DDR4 ECC), équivaut à environ 1 milliard de dollars de mémoire. Cela part de l'hypothèse que Facebook dispose d'au moins deux millions de serveurs (le blog de Facebook citait des "millions de serveurs" dès juillet 2018), le nombre réel s’avérant probablement bien plus élevé.
Les chiffres présentés par l'équipe qui a travaillé sur cette technique ont démontré que le coût de la mémoire représente un tiers de la facture des serveurs de Meta - la RAM compressée et le SSD représentant pour leur part moins de 11%. Plus inquiétant encore, le coût de la RAM (en pourcentage de l'infrastructure totale) a plus que doublé depuis que Facebook a lancé sa première génération de serveurs (l’entreprise en est actuellement à la quatrième).
L'adoption de TMO s'accompagne de quelques inconvénients, notamment une dégradation des performances. Mais les gains en termes d'économie d'énergie et de mémoire l'emportent largement sur les inconvénients et les itérations futures. Le tout combiné à des améliorations matérielles (citons des disques SSD ou CXL plus rapides) qui offrira une atténuation supplémentaire.
