Augmenté plutôt que dépendant

La machine remplacera-t-elle bientôt l’être humain ? Les emplois sont-ils menacés ? À l’ère de l’intelligence artificielle, reste-t-il encore de la place pour les qualités humaines ? Le discours actuel tend à brosser une vision apocalyptique des nouvelles technologies de plus en plus sophistiquées. Ce faisant, nous surestimons l’intelligence artificielle (IA) et créons dans la foulée des représentations de l’IA qui n’ont plus grand-chose à voir avec la réalité technologique.

Cette surenchère freine à la fois la société et la communauté des scientifiques et nous empêche de développer des approches de l’IA aptes à faciliter la collaboration avec les êtres humains, sur un pied d’égalité.

Le mythe de l’IA comme être humain amélioré

En dehors de la communauté des spécialistes, l’IA est actuellement le plus souvent comprise comme « Artificial General Intelligence (AGI) », c’est-à-dire comme une intelligence généraliste comparable à celle de l’être humain. Que ce soit Hal dans Space Odyssey, Kit dans Knight Rider ou T-800 dans Terminator, les IA anthropomorphiques sont omniprésentes dans la culture populaire. On a facilement tendance à oublier que ce type d’intelligence artificielle n’est que pure utopie – du moins pour le moment.

L’AGI s’oppose à la Narrow Artificial Intelligence (NAI), ou IA faible. Celle-ci ne cherche pas à reproduire l’intelligence humaine, mais à résoudre un problème très complexe et très spécifique. Et contrairement à l’AGI, ce type d’intelligence artificielle est déjà très avancé.

L’expérience réalisée par l’industrie dans ses efforts d’automatisation le montre : le travail physique pénible et répétitif est automatisé. Les tâches requérant une capacité d’improvisation ou de résolution de problèmes ont survécu aux vagues d’automatisation précédentes. Comme les IA nécessitent de grandes quantités de données et un entrainement couteux et qu’elles sont actuellement seulement capables d’imiter la créativité, l’être humain peut, grâce à ses capacités d’adaptation, envisager l’avenir sous un angle relativement positif.

Mécaniser ou renforcer ?

Même si les technologies d’automatisation ne nous remplaceront probablement pas dans un avenir proche, elles sont susceptibles de changer notre façon de travailler. Plus l’IA est performante, plus elle peut rendre les décisions humaines superflues.

Ce risque nous met au défi de veiller davantage, en développant de nouvelles technologies, à renforcer les personnes qui travaillent et à limiter la mécanisation en encourageant l’être humain à interagir avec l’IA. Nous ne parlons donc plus d’intelligence artificielle, qui remplace l’intelligence humaine, mais d’intelligence augmentée (ou Augmented Intelligence), envisagée comme complément et comme soutien.

Intelligence augmentée

Par exemple, lorsqu’un logiciel basé sur l’IA extrait automatiquement des informations pertinentes à partir de milliers de pages de texte pour qu’un être humain puisse tirer des conclusions à partir des sections sélectionnées, on se trouve dans une situation d’intelligence augmentée. De même, lorsqu’une IA signale des anomalies sur des radiographies, suggère des traductions ou détecte des défauts de qualité pour qu’un être humain puisse décider plus rapidement que faire de ces informations, nous parlons d’intelligence augmentée.

Cette répartition du travail entre l’être humain et la machine se justifie, car l’analyse « manuelle » des données ou la détection d’anomalies prend beaucoup de temps à l’être humain et se révèle source d’erreurs. Inversement, la machine n’est pas en mesure de prendre en compte d’autres aspects en dehors de sa conception étroite des données. L’intelligence augmentée permet donc de prendre des décisions plus rapides et plus efficaces tout en restant « humaines ».

Certes, la mise en œuvre de ces systèmes d’intelligence augmentée pose certains problèmes. De ce fait, les employé-e-s humain-e-s peuvent difficilement remettre en question les résultats de l’IA. En effet, l’IA ne pense pas logiquement, mais calcule les solutions les plus probables en fonction des données d’entrainement et des paramètres cibles fixés. Et comme toute nouvelle technologie, l’intelligence augmentée risque de durcir les stéréotypes et le déséquilibre des pouvoirs plutôt que de les abolir.

Morale pour la boite noire

Notre devoir de société nous pousse à décider sur quelles valeurs morales nous voulons fonder l’interaction humain-machine à l’avenir. Il est difficile d’imaginer une IA totalement dépourvue de stéréotypes, car en plus des types de préjugés connus, les données d’entrainement cachent des modèles que nous, humains, ne connaissons pas encore.

Par exemple, si une IA présélectionne des dossiers personnels et reconnait dans les données d’entrainement que les personnes présentant une certaine ressemblance avec une personne majoritairement perçue de manière négative par le public ont été moins souvent embauchées, elle exploitera ce modèle à titre de recommandation. Ces modèles dans les données d’entrainement créent une discrimination inattendue pour nous, humains. Une IA totalement neutre s’avère donc peu réaliste. Mais nous pouvons décider de la manière dont les IA doivent traiter les formes de discrimination, de marginalisation et d’exclusion que nous connaissons.

Employé-e-s augmenté-e-s

Grâce à l’intelligence augmentée, la machine passe du statut de substitut de l’être humain à celui d’extension et de renfort des travailleurs et travailleuses humain-e-s. En fait, le monde de l’industrialisation connait un changement de paradigme.

Par le passé, les machines étaient complexes et couteuses. Les travailleurs et travailleuses ne disposaient que de possibilités réduites de modifier les machines ou de compléter leurs propres compétences. Cependant, les nouvelles technologies telles que la robotique collaborative démocratisent la technologie, qui devient plus accessible pour les non-spécialistes.

L’IA et la robotique se muent ainsi en outils qui rendent les travailleurs et travailleuses plus efficaces et les aident dans leurs tâches. Il ne s’agit donc plus de réduire au maximum leur marge de décision pour éviter les erreurs. Au lieu de cela, la technologie est utilisée pour soutenir les travailleurs et travailleuses autonomes et les avertir d’erreurs possibles.

Nous avons besoin d’un code de déontologie de l’IA

L’idée que l’IA pourrait bientôt se hisser au rang d’« être humain amélioré » est aussi fascinante que trompeuse. Au lieu de nous préoccuper de visions utopiques, nous devons clarifier ce à quoi l’interaction être humain-machine doit ressembler à l’avenir. En fin de compte, ce n’est pas la technologie qui constitue une menace, mais plutôt la façon dont nous la mettons en œuvre et l’utilisons.