À propos de Cacheon
Faire tourner un LLM rapidement demande une infrastructure d'inférence pointue, difficile à construire et à maintenir. Cacheon (SN14) en fait une compétition ouverte pour trouver la solution la plus rapide.
Les miners soumettent leurs optimisations sous forme de conteneurs Docker, tous testés sur le même matériel dans un environnement isolé. Ils sont mesurés sur la latence (le temps avant le premier token) et sur le débit (tokens par seconde), par rapport à une référence comme vLLM. Les réponses doivent rester identiques à celles du modèle de base : pas question de gagner en vitesse en sacrifiant la qualité. Dès qu'un moteur open source plus rapide sort, il devient la nouvelle référence à battre.
Les solutions gagnantes sont proposées aux développeurs et aux entreprises sous forme de service d'inférence prêt à l'emploi.
Questions fréquentes sur Cacheon
Qu'est-ce que Cacheon ?
Cacheon met en compétition des moteurs d'inférence pour LLM afin de trouver les plus rapides, mesurés par un benchmark open source, puis les propose aux développeurs comme un service prêt à l'emploi.
Comment investir dans Cacheon (SN14) ?
Depuis le Dynamic TAO, chaque subnet a son propre token, appelé alpha. Pour vous exposer à Cacheon, vous stakez des TAO sur le subnet 14 : ils sont convertis en alpha de Cacheon, dont le prix évolue avec la demande pour le subnet. Il faut d'abord acheter des TAO, puis les staker. Le prix d'un alpha peut varier fortement : ce n'est pas un conseil en investissement.
Où suivre Cacheon ?
L'équipe publie ses annonces sur son compte X. L'historique du prix de l'alpha est visible sur TaoSwap, avec des données plus poussées que sur cette page (liquidité du pool, principaux détenteurs, stats des miners et des validators…). Vous pouvez aussi y échanger l'alpha.