Cactus Compute présente Needle 2, un petit modèle agentique conçu pour fonctionner directement sur des appareils contraints. Le projet annonce un binaire de 14 Mo, environ 28 Mo de mémoire de session et 45 millions de paramètres, avec un objectif précis : gérer des appels d’outils, de l’usage d’appareil et de l’extraction structurée sans dépendre systématiquement du cloud.
Le positionnement est plus étroit que celui des grands modèles généralistes. Cactus vise les téléphones, objets connectés, ordinateurs personnels modestes, systèmes domotiques, wearables et petits robots, où le budget mémoire, la latence et la consommation restent déterminants. Le dépôt GitHub du projet décrit Needle comme un modèle pour « tiny devices » et signale une licence MIT, tandis que la page de présentation met en avant une exécution locale avec repli possible vers des modèles plus grands lorsque la confiance est insuffisante.
Un modèle spécialisé dans les actions structurées
Needle 2 n’est pas présenté comme un chatbot universel. Son intérêt tient plutôt à la traduction d’une demande utilisateur vers des fonctions typées : allumer un équipement, remplir un schéma JSON, appeler une action mobile ou déclencher une séquence simple sur un objet connecté. Cactus affirme que le modèle atteint 500 tokens par seconde sur Raspberry Pi 5 et entre 300 et 700 tokens par seconde sur des téléphones Android à bas coût, selon les exemples publiés sur la page du projet.
Cette approche s’appuie sur un papier arXiv consacré aux « Simple Attention Networks », où les auteurs étudient des transformeurs sans couches feed-forward classiques. Le papier, publié le 20 juillet 2026, ne suffit pas à valider tous les usages produits de Needle 2, mais il donne le contexte de recherche revendiqué par Cactus : réduire la complexité du modèle tout en conservant assez de capacité pour des tâches cadrées.
Pourquoi cela compte pour la robotique légère
Pour la robotique, la promesse est moins spectaculaire qu’un humanoïde de démonstration, mais elle touche un verrou très concret. Beaucoup de petits robots et de systèmes embarqués ne peuvent pas héberger un grand modèle, ou ne doivent pas envoyer chaque instruction vers un serveur distant. Un modèle local de ce type peut servir d’interface entre le langage naturel et une liste fermée d’actions, avec une latence plus prévisible et une meilleure continuité hors ligne.
Le sujet reste toutefois à traiter avec prudence. Les chiffres publiés viennent de Cactus et de ses bancs de test, et les performances varient fortement selon les schémas d’outils, les catégories de benchmarks et les matériels. Sur BFCL v4, la page du projet montre notamment des écarts entre les appels Python simples, les cas JavaScript, les appels parallèles et le taux de réponses bien formées. En clair, Needle 2 vise l’efficacité locale, pas le remplacement d’un modèle de raisonnement général.
Notre analyse
Needle 2 illustre une tendance importante de l’IA embarquée : déplacer une partie de l’orchestration agentique au plus près du matériel. Si le modèle tient ses promesses dans des environnements réels, il pourrait aider des fabricants à ajouter une couche de commande locale à des appareils modestes, des assistants domestiques aux petits robots éducatifs ou de service. Le point à surveiller sera la robustesse : un modèle minuscule peut être très utile si son domaine d’action est fermé, testé et réversible, mais dangereux s’il reçoit trop d’autorité sans garde-fous.
La prochaine étape sera donc moins la taille du binaire que l’intégration : qualité des schémas d’outils, seuils de confiance, journalisation, refus des actions ambiguës et repli vers un modèle plus puissant lorsque la demande sort du cadre. C’est sur ces mécanismes que se jouera l’intérêt industriel de ce type de modèle pour les appareils edge.
