De la robotique à l’IA agentique, Joëlle Pineau – l’une des personnalités internationales majeures de l’intelligence artificielle – expose, dans cet entretien, les défis à venir, les enjeux de souveraineté des données et la nécessité d’alliances internationales fortes.

Revue Politique et Parlementaire – Vous faites de la recherche en IA depuis plus de deux décennies. Comment vos sujets de recherche ont-ils évolué au fil du temps ?

Joëlle Pineau – Mes premières recherches ont porté sur la construction d’un robot infirmier combinant mobilité et capacités conversationnelles pour aider les personnes âgées, pendant mon master et mon doctorat à l’Université de Carnegie Mellon. Elles s’appuyaient, à l’époque, sur les techniques d’apprentissage automatique ou machine learning(domaine de l’intelligence artificielle qui permet aux machines d’apprendre, à partir de données, sans être explicitement programmées) et en particulier de l’apprentissage par renforcement ou reinforcement learning (quand un agent apprend à prendre des décisions en interagissant avec un environnement et reçoit des récompenses ou des pénalités en fonction de ses essais et erreurs) et sur des modèles de prise de décision basés sur des mathématiques.

Au fil du temps, j’ai revisité ces techniques, d’abord dans le cadre de travaux que j’ai menés à l’Université McGill, où nous avons commencé à construire des fauteuils roulants robotisés, puis dans des systèmes de dialogue à très grande échelle, notamment le premier modèle Llama, le Large Language Model (LLM) de Meta, lorsque je co-dirigeais son laboratoire de recherche.

Le chemin a été assez long pour que le machine learning mûrisse jusqu’aux modèles d’IA agentique de Cohere, c’est-à-dire des modèles capables de prendre des décisions.

RPP – Quelles raisons vous ont conduite à accepter ce nouveau rôle dans une jeune entreprise comme Cohere ?

Joëlle Pineau – En tant que Chief AI Officer chez Cohere, je reviens à mes premiers travaux visant à permettre aux machines de prendre des décisions, d’effectuer des actions et d’interagir avec les humains dans le monde réel. Cette vision se reflète dans le concept d’IA agentique, au cœur des travaux de Cohere aujourd’hui.

La création d’agents IA efficaces s’appuie sur les meilleurs modèles d’IA multilingues intégrant la diversité culturelle, une caractéristique essentielle pour que les systèmes IA fonctionnent de façon fluide, tant au niveau de l’IA-humain que de l’IA-société. J’ai été particulièrement motivée par l’opportunité, rare, de créer ce type de modèles à grande échelle en dehors des États-Unis et de la Chine. Nous pouvons ainsi fournir des solutions IA adaptées à des publics différents, notamment mais pas seulement, en Europe, au Moyen-Orient, au Japon, en Corée du Sud.

Nous repoussons également les limites de la recherche pour maximiser l’efficacité de nos modèles, en matière de performance et de sobriété énergétique.

RPP – Quelle est la place des êtres humains dans vos recherches ?

Joëlle Pineau – L’interaction avec les humains est toujours au cœur de la conception de l’IA. Je pense plus précisément les interactions entre l’IA et les êtres humains à travers deux catégories distinctes : les tâches consultatives qui consistent à répondre à des questions, résumer des documents, fournir des informations. Ces tâches nécessitent très peu d’autonomie et sont relativement sûres. Et les tâches agentiques, dans lesquelles les systèmes d’IA prennent des initiatives telles que l’organisation d’une réunion, le traitement d’un paiement ou l’exécution d’un flux de travail. Notre responsabilité est d’autant plus engagée pour ces dernières.

Pour que ces agents restent fiables, nous mettons en place des garde-fous : nous limitons les informations auxquelles ils peuvent accéder et les actions qu’ils peuvent effectuer sans autorisation. Par exemple, autorisez-vous un agent IA à accéder aux détails de votre carte bancaire ? Est-il autorisé à consulter votre agenda et planifier des réunions ?

Ces garde-fous visent autant l’autorisation de partage d’informations que celle de la prise d’actions, afin de garantir que les agents IA fonctionnent de manière sûre et prévisible dans des environnements humains.

RPP – Des centaines de personnalités, dont des experts en IA, ont signé une lettre ouverte appelant à l’arrêt du développement de l’IA superintelligente en octobre dernier. Ce n’est pas la première fois. Comment voyez-vous ces initiatives ?

Joëlle Pineau – Franchement, nous avons besoin de discussions plus nuancées, et non d’interdictions générales. Si l’objectif est de sensibiliser aux problématiques posées par la technologie, je privilégierais une approche plus pragmatique : identifier les risques, atténuer les dommages, veiller à ce que les gens aient une vue d’ensemble et élaborer des solutions de manière collaborative.

Suspendre la recherche dans l’IA serait oublier les énormes avantages qu’elle peut apporter, tant à l’économie qu’à la société en général, dans des domaines tels que la santé et la robotique. Au lieu de freiner le progrès, nous avons besoin d’un plan d’action clair qui permette à des pays comme le Canada ou la France de tirer parti des avantages de l’IA.

RPP – À mesure que l’IA s’intègre davantage dans les opérations des entreprises, comment Cohere aborde-t-elle des questions telles que le contrôle et la souveraineté des données ?

Joëlle Pineau – La proposition au cœur des technologies de Cohere est d’intégrer la protection de la vie privée et la sécurité dès leur conception. Nos modèles fonctionnent non seulement sur le cloud mais aussi sur les serveurs propriétaires d’une entreprise, en utilisant ses propres données, sans qu’aucune information ne soit communiquée à Cohere ou à l’extérieur de l’organisation. C’est la garantie d’un niveau de sécurité et de contrôle maximum.

Pour ceux dont les usages ne requièrent pas un niveau de sécurité maximum mais peuvent profiter de l’exploitation de jeux de données (ou datasets) externes, les modèles de Cohere peuvent également fonctionner dans le cloud. Il sera alors nécessaire de bien vérifier les conditions et garanties des fournisseurs de services cloud.

Finalement, c’est à l’utilisateur, individu ou entité, de choisir et de bien identifier son niveau d’exigence en matière de conformité et de tolérance au risque en fonction de son activité et de son besoin en données. Notre objectif est donc d’offrir de la flexibilité sans compromettre la confiance.

RPP – Cette année, le Canada était à l’honneur au salon Vivatech, le grand salon français dédié aux technologies. Quelles sont d’après vous les opportunités de collaboration entre les écosystèmes canadiens et français en matière d’IA ?

Joëlle Pineau – La France est d’abord, pour nous, un pays de talents en numérique et en IA et notre objectif est de créer avec eux des opportunités de croissance pour tous ceux qui souhaitent vivre et innover dans votre pays.

Mais le Canada et la France partagent aussi de nombreux points communs, non seulement la langue pour nombre de Canadiens, mais aussi l’approche collaborative qui permet de répondre aux défis complexes de la technologie. Le renforcement de la collaboration entre nos deux pays serait d’une valeur ajoutée considérable pour construire des cadres réglementaires mondiaux favorisant l’innovation responsable.

Très honnêtement, la véritable concurrence se trouve ailleurs. Elle ne devrait pas opposer le Canada et la France. Dans le contexte actuel, il est important de nouer des alliances solides : la France et l’ensemble de l’Europe ont tout à gagner à avoir un partenaire de confiance en Amérique du Nord, et le Canada a tout à gagner d’une collaboration plus étroite avec l’Europe. Elle est essentielle pour faire progresser une IA qui reflète nos valeurs communes.

RPP – Parmi les nombreuses avancées réalisées dans le domaine des grands modèles linguistiques, lesquelles, selon vous, transformeront le plus profondément les industries ou la société, et pourquoi ?

Joëlle Pineau – Le « moment ChatGPT » pour l’IA agentique n’a pas encore eu lieu, mais pourrait être la prochaine révolution technologique. La création d’agents sûrs et utiles reste l’un des défis les plus importants à relever.

Pour y parvenir, il va falloir franchir la frontière de la création de systèmes multi-agents. Aujourd’hui, la plupart des agents IA sont entraînés en solitaire, comme des enfants à qui on apprend les fondamentaux de la lecture et de l’écriture, mais pas les relations sociales. L’avenir réside dans la conception de systèmes IA qui collaborent efficacement, pour créer un écosystème ou une « place de marché » d’agents IA travaillant ensemble pour offrir une réelle valeur ajoutée aux êtres humains.

Ce sont là des domaines de recherche passionnants qui pourraient redéfinir notre interaction avec la technologie et ouvrir la voie à des formes de productivité et de collaboration entièrement nouvelles.

Joëlle PINEAU
Chief AI Officer de Cohere

Professeure à l’Université McGill

Membre de Mila (Institut québécois d’intelligence artificielle)

Ancienne vice-présidente de la recherche en IA chez Meta

(Propos recueillis par Thaïma Samman et Anca Caruntu)