Les agents d'IA ne peuvent pas communiquer entre eux, ne peuvent pas être considérés comme fiables et ne peuvent pas être audités. C'est le constat dressé par les entreprises qui déploient ces systèmes.
C'est pourquoi des startups comme BAND et Nimble travaillent sur l'orchestration, l'observabilité, la connectivité et la sécurité de ces agents. Les enjeux sont considérables, car les entreprises comme Waymo, qui développe des voitures autonomes, ont besoin de systèmes fiables pour prendre des décisions en temps réel.
L'orchestration des agents
BAND est en train de développer une plateforme qui permet de gérer les agents d'IA de manière centralisée. L'objectif est de permettre à ces agents de communiquer entre eux et de prendre des décisions de manière autonome. Nimble, quant à lui, se concentre sur l'amélioration de la recherche web pour les agents d'IA, en développant des systèmes de recherche spécialisés qui peuvent réduire les coûts et améliorer la précision.
L'impact sur le secteur
Les entreprises comme Target, qui utilise des agents d'IA pour améliorer leur chaîne d'approvisionnement, insistent sur l'importance de la sécurité et de la fiabilité de ces systèmes. Les décideurs comme Siobhán Mc Feeney, vice-présidente de Target, soulignent que les modèles d'IA eux-mêmes ne sont pas suffisants pour créer un avantage concurrentiel, mais que c'est tout ce qui est construit autour qui fait la différence.
Il faudra surveiller de près les développements dans ce domaine, car les entreprises qui parviendront à déployer avec succès des systèmes d'IA sécurisés et fiables seront celles qui prendront les devants sur le marché.