Blog

Intelligence Artificielle et pilotage par la valeur

10 avril 2017/ Sabine Bohnké / gouvernance, Intelligence Artificielle, Transformation numérique / 0 comments

L’or/L’esclavage/le risque : Intelligence Artificielle ou Intelligence bénéfique?

Les nouveaux explorateurs

Certaines annonces sur le marché de l’Intelligence Artificielle et l’effervescence d’investissements actuels qu’il suscite font irrésistiblement penser à Christophe Colomb. Quand il a réclamé l’aide du roi et de la reine d’Espagne pour sa seconde expédition, c’était avec une promesse. En retour, il leur rapporterait de son prochain voyage : « autant d’or qu’ils en auront besoin et autant d’esclaves qu’ils en exigeront ».
Christophe Colomb a utilisé tous les expédients pour trouver l’or escompté. A lire le témoignage de Las Casas (les indes sanglantes) les espagnols n’ont pas compris, ou n’ont pas voulu comprendre, la valeur humaine de ce qu’il découvrait et l’on détruit sauvagement, par soif de l’or.

En sera-t-il ainsi en Intelligence Artificielle, pour l’exploration des nouveaux territoires technologiques? Ne verrons-nous que l’appât du gain, c’est-à-dire vendre plus et réduire plus les coûts humains, sans voir les impacts collatéraux? Dans ce cas nous pourrions bien passer à côté de formidables opportunités d’intelligence collaborative, bénéfiques pour l’ensemble des sociétés humaines. Voire aussi oublier de garder le contrôle sur ce qui pourrait bien finir par nous dépasser. En Intelligence Artificielle, tout n’est pas encore écrit. Les technologies nous donnent de nouvelles cartes à explorer. A nous de jouer le bon jeu avec, celui à somme non nulle.

Pour mille milliards de dollars … vous aurez des solutions, pas de l’intelligence.

Côté or, le marché de l’intelligence artificielle devrait générer entre 1,49 et 2,95 trillions (1000 milliards) de dollars d’ici 2025. Selon une étude de 2016 commandée par Facebook et réalisée par Analysis Group. De quoi attiser beaucoup d’envies.
Dans son rapport de novembre 2016 « Predictions 2017: Artificial Intelligence Will Drive The Insights Revolution », le Forrester quant à lui a prédit une augmentation de plus de 300% de l’investissement en Intelligence Artificielle en 2017 par rapport à 2016, tous secteurs confondus.

« Grâce à l’utilisation d’interfaces cognitives dans des systèmes complexes, des analyses avancées et des technologies d’apprentissage par machine, l’IA aidera à prendre des décisions commerciales plus rapides dans le domaine du marketing, du commerce électronique, de la gestion des produits et d’autres secteurs de l’entreprise en aidant à réduire l’écart entre les points de vue et l’action

Forrester

Mais quel est l’objectif recherché ? Clairement, mieux identifier les comportements des internautes, pour pouvoir davantage influencer les actes d’achat. Il faut donc collecter et analyser leur localisation, leur environnement, leur préoccupation immédiate, etc. Pour Google, Facebook, Amazon et autres, l’intérêt de satisfaire des annonceurs ou placer leurs propres produits est net. Ce qui conduit à une façon questionable de pousser l’information par des filtres.

En tous cas, l’âge de l’accès, tout du moins gratuit, est fini. Selon une étude d’econsultancy de 2016, l’utilisateur Facebook moyen pourrait voir 1500 posts dans son Newsfeed chaque jour. L’utilisateur moyen en voit 300 à cause du filtrage de l’algorithme. Sans sponsorisation, vos posts sont vus par 1% à 6% de vos fans.

L’ère de l’intelligence ou de l’assistance ?

 « Google annonce la mort du moteur de recherche traditionnel et l’avènement de l’Age de l’assistance » titre Frenchweb. L’article présente l’assistant décisionnel personnel Google Home, qui a réponse à tout, plongé au cœur de votre vie. A vos interrogations, il fournira la bonne réponse plutôt que de vous offrir une liste de possibles. Mais si on a mal formulé le besoin ? Si on souhaite justement explorer des pistes variées? Voir d’autres opinions, ouvrir son champ d’écoute?

Venus robotique – peinture de Hajime soramaya

Certes le contexte sémantique de la question devrait permettre de contextualiser le besoin et le reformuler. Cela n’en sera pas moins fait au plus près d’une réponse possible connue. A priori, elle sera de préférence orientée ou sponsorisée, que cela soit par des influenceurs ou des annonceurs.

Entre les lignes, il y a de quoi s’interroger sur cette vision d’une seule réponse fût-elle hyper-personnalisée. On peut aussi s’interroger sur qui bénéficie du service d’assistance. C’est une vision, qui dessine d’ores et déjà une fracture dans la société. On n’assiste que ceux qui peuvent payer.

L’ère de l’assistance n’est certainement pas encore l’ère de l’intelligence, mais elle pourrait être l’ère de la fracture numérique.

Et jusqu’où cette assistance peut-elle aller ? Au-delà de proposer des tenues ou un parfum personnalisés, en quoi l’IA peut assister l’être humain ?

A ce stade, les plus grosses inquiétudes que soulève l’IA apparaissent. Si au lieu d’utiliser «assister» on utilisait « remplacer » ? De nombreuses personnes craignent de perdre leurs emplois avec les nouvelles technologies en Intelligence Artificielle. D’autres vont plus loin, qui craignent, comme Elon Musk ou Stephan hawking, de voir « annihiler » prendre le pas sur « assister ». L’homme deviendrait esclave de la machine.
Mais avant l’annihilation de l’espèce, c’est peut-être la perte de sens du lien humain qui devrait nous inquiéter.

L’intelligence Artificielle automatise de nombreuses activités professionnelles

L’automatisation des emplois vue par l’OCDE

Le potentiel de l’intelligence artificielle et de la robotique avancée pour effectuer des tâches réservées aux humains est énorme.
Cela ne devrait pourtant pas dire diminuer les emplois, mais bien plus revoir l’organisation du travail et les organisations managériales. Ce potentiel peut servir d’un côté à supprimer des tâches répétitives et sans intérêt. De l’autre, il peut donner à tous des occasions de se concentrer sur des activités plus stimulantes.
Cela ne sera pas sans effort de remise en question des rapports entre travail, emploi, entreprises, sociétés et individus.
On s’en souvient peut-être, en 2013, un rapport de deux chercheurs d’Oxford, Frey et Osborne, concluait que près d’un emploi sur deux (47%) était menacé par la numérisation de l’économie.

Depuis, l’OCDE a réagi en 2016 en revoyant la méthodologie de l’étude. Ce chiffre a ainsi été revu à 9% en moyenne sur l’union européenne. Néanmoins, il resterait 30% d’emplois à risque moyen de substitution et une menace très inégale selon le niveau de diplôme.

En 2016, Mc Kinsey rapportait que 46% des activités professionnelles aux Etats-Unis ont le potentiel pour être automatisées en utilisant la technologie actuelle. Cette automatisation obtenue grâce à l’Intelligence Artificielle ne vise pas, d’ailleurs, que des emplois peu diplômés. Il est plus rentable d’automatiser des activités exécutées par des hauts salaires que celles d’ouvriers payés 10 dollars de l’heure… Ce qui représenterait une réduction de la masse salariale de 2,7 trillion de dollars (mille milliards).

L’automatisation, potentiel pour plus de créativité

Dans l’article ‘four fundamentals of workplace automation‘, les auteurs de l’étude Mc Kinsey prenaient garde à faire le distinguo entre « activités » et métiers. Ainsi, les auteurs estimaient que moins de 5% des professions pouvaient être entièrement automatisées avec les technologies actuelles. Cela dit, 60% des professions pouvaient voir au moins 30% des activités qui les constituent automatisées. Selon les auteurs, c’est l’opportunité de revoir une organisation du travail plus axée sur la créativité et les rapports humains bénéfiques. Surtout quand seulement 4 % des activités dans l’économie américaine s’appuient sur la créativité et 29 % sur l’intelligence émotionnelle.

Tristesse par gato gato gato

Ce qui laisse une lueur d’espoir pour modifier une situation parfois dramatique sur le marché américain. Dans un article du 4 avril de la Harvard Business Review, Allison J. Pugh souligne les ravages sociétaux du sentiment d’insécurité des américains vis-à-vis de leur travail. Face à un emploi précaire ressenti comme inévitable, les maux vont des problèmes de santé, de drogues, jusqu’au suicide. Or justement, cette précarité n’a rien d’inévitable et la résignation ne s’impose pas. Si les américains choisissent la réduction d’effectifs comme conséquence de l’automatisation, ce n’est ni la seule option, ni la meilleure. L’auteur ainsi de mettre en avant les choix de formations et de protection pris par d’autres pays. En soulignant qu’ils n’en ont pas vu pour autant leur productivité diminuer.

Un potentiel qui demande de l’engagement des organisations

Lueur d’espoir qui demande sans doute rapidement un engagement plus grand dans la restructuration du travail. Car le dernier rapport de PWC quant à lui annonce 38% d’emplois aux US qui seraient potentiellement à haut risque d’automatisation à l’horizon 2030s, plus qu’au Royaume-Uni (30%) l’Allemagne (35%) ou le Japon (21%).

Au-delà de l’automatisation d’emplois existants, les créations d’emplois dans le numérique existent aussi. Michael Mandel, dans le magazine Forbes, fait état de 300 000 emplois créés aux Etats-unis depuis 2007 grâce au e-commerce. Il insiste d’ailleurs sur le fait qu’il ne s’agit pas seulement d’emplois sous-payés.
Selon l’analyse qu’il tire des donnés du Bureau of Labor Statistics, les entreprises numériques à haute productivité se développent et créent de nouveaux emplois dans une grande partie du pays.
La société Adecco avance également des chiffres optimistes dans un livre blanc sur la digitalisation et la robotisation.  

“Un million d’emplois qualifiés vont être créés dans les cinq prochaines années grâce à la robotique. Le chiffre d’affaires des entreprises numériquement matures est six fois plus élevé que les autres”. 

Adecco

Les technologies numériques sont cependant des vecteurs d’externalisation du travail salarié vers un travail indépendant précaire. L’OCDE estime ainsi qu’en Europe, avec le développement du travail indépendant autorisé par le numérique, « un nombre croissant de travailleurs risquent de se retrouver exclus des conventions collectives ou de l’assurance chômage ».

Ainsi, parler de uber et la création d’emplois, serait un contre-exemple de progrès positif. En effet, il n’y a pas de partage de la valeur ajoutée créée par la plate-forme entre les acteurs. Ces emplois sont destinés à terme à être complètement automatisés par des voitures autonomes. Et comme uber n’a pas de liens de salariat avec ses « partenaires chauffeurs », ils n’auront pas de recours. D’où les actions en justice pour requalifier le lien  à New York, en Angleterre, en France, etc.

A la place d’une bataille Homme-machine, un jeu à somme non nulle

Hypomnesis –
Jef Safi –
https://www.flickr.com/photos/jef_safi/

Donc Intelligence Artificielle rime-t-elle avec suppression ou avec création d’emplois ? Assiste-t-on à une bataille entre l’Homme et la machine ? La question ne se pose pas en des termes aussi simplistes. On peut interroger le périmètre des mesures et des méthodes utilisées pour évaluer la transformation des emplois. Cependant l’existence même de débats autour de ces études illustre la nécessité de revoir l’organisation du travail avec les technologies en Intelligence Artificielle. Le principe est d’arriver à un jeu à somme non nulle entre tous les acteurs. C’est à dire rechercher l’intérêt général suivi d’un partage des gains. L’inverse de la relation entre uber et ses chauffeurs, en somme.

Beaucoup de technologies sont affublées à l’heure actuelle du vocable « intelligent ». Pourtant, certaines n’ont d’autre intelligence que la répétition d’une réponse logique connue à une entrée connue.
De quelle intelligence parle-t-on ? Des capteurs intelligents, des objets connectés dits intelligents, des bâtiments intelligents, des villes intelligentes, des logiciels d’automatisation de processus maîtrisés et répétitifs, des algorithmes de recherche intelligents, des chatbots d’assistance (ou robots conversationnels), des assistants décisionnels intelligents, des robots intelligents ?
A quel moment dépasse-t-on l’automate ? Et une fois l’automate dépassé, quel contrôle aurons-nous ?
Il y a un monde entre le « Dash button »sur la machine à laver pour recommander de la lessive et les technologies qui permettent de déceler et diagnostiquer la maladie d’Alzheimer bien avant le stade d’atrophie de l’hippocampe.
La question de l’Intelligence des technologies est directement liée à l’intelligence que nous aurons mis à les créer. C’est-à-dire au niveau de réflexion qui aura précédé cette création.

Ne limitons pas l’Intelligence Artificielle à des relations clients artificielles

Aiko Chihira l’humanoïde de Toshiba hôtesse d’accueil

Malheureusement, la multiplication des objets connectés dans le domaine de la santé est souvent cruellement déconnectée des besoins réels.

Ainsi, au Japon, les progrès de la robotisation répondent au vieillissement de la population et à une hostilité vis-à-vis de la diversité démographique. Ils ne répondent pas à l’augmentation de la solitude des personnes âgées. Pas plus qu’ils n’adressent l’insécurité des jeunes, de moins en moins confiants en l’avenir.

Ailleurs, les solutions de téléassistance et d’objets connectés pour les personnes âgées ne sont pas plus un substitut au lien humain qui vient à manquer. On peut toujours imaginer, pour faire du chiffre, remplacer ce lien humain par un chatbot ayant passé le test de turing. Mais les expériences en la matière visent à conseiller sur des offres ou à vendre des produits et des services, pas à dialoguer purement.

Confondre relation humaine avec relation client est l’un des grands maux du siècle.

Deep-learning et analyse de données permettent surtout d’industrialiser la personnalisation de recommandations clients. L’objectif est de trouver le temps de cerveau disponible pour passer la bonne annonce au bon moment et générer du revenu.

Les Chiffres d’Alzheimer en France

Pourtant, au-delà du marketing, l’usage de l’Intelligence Artificielle peut transformer drastiquement nos capacités d’interagir de manière coopérative.
Prenons l’exemple de la maladie d’Alzheimer. A l’horizon 2020, selon France Alzheimer, elle touchera un français sur 4 de plus de 65 ans.
Aux Pays-Bas une équipe de chercheurs du Vrije, a exploité des IRM avec du data mining pour détecter précocement les signes d’Alzheimer. Au canada, c’est avec une technologie d’analyse de la parole, que Winterlight labs détecte les troubles cognitifs.

Les machines ne remplacent pas les humains, mais permettent d’exploiter de grandes masses d’information de façon de plus en plus pertinente. Avec des technologies d’apprentissage, elles nous offrent des possibilités accrues de corréler des faits.

Si nous allons dans ce sens, nous pouvons voir combien, dans une organisation apprenante, l’assistance d’une Intelligence Artificielle peut nous permettre de relier et d’exploiter des connaissances pluridisciplinaires.

Vers une augmentation de l’intelligence collaborative

L’organisation Intelligente pourrait être une victoire de l’IA, non en se substituant aux humains, mais en alimentant notre créativité avec ses capacités. En d’autres termes, l’IA peut nous rendre plus efficaces en nous rendant plus collaboratifs.

Si nous partons du principe que « le tout est plus que la somme des parties », les technologies en Intelligence Artificielle nous permettent davantage d’approche systémique et de comprendre non seulement les éléments mais encore leurs relations et leurs interactions avec l’environnement.
Ce que nous pourrions libérer comme créativité et comme potentiel d’amélioration coopérative de la société humaine est énorme.

You’re probably not an evil ant-hater who steps on ants out of malice, but if you’re in charge of a hydroelectric green energy project and there’s an anthill in the region to be flooded, too bad for the ants. Let’s not place humanity in the position of those ants.

Stephan Hawking

Une telle IA, sans être forcément nocive, considérerait potentiellement l’humanité comme une fourmilière ou une réserve d’esclaves biologiques. Cependant, à quoi sert d’augmenter ses capacités cérébrales à titre d’individu, si nous ne l’appliquons pas dans un cadre coopératif ? Un tel scénario envisage de facto une humanité à deux vitesses où l’égoïsme pratique l’emporte. Avec d’un côté, des individus aisés améliorés qui seront compétitifs face à des IA et de l’autre, des laissés pour compte corvéables à merci.
Qu’est-ce qui nous amènerait là ? Si ce n’est un manque total de responsabilité et un jeu à somme nulle dans l’exploitation des technologies?

Les derniers progrès en Intelligence Artificielle effraient et certains n’hésitent pas à prédire la fin de l’espèce humaine. Est-ce réaliste ? Peut-être pas à court terme, même s’il faut se garder de minimiser les capacités maximum des IA. Dans tous les cas, il y a des questions de responsabilités, de gouvernance, à se poser d’ores et déjà.

Errare humanum est

Homme de Vitruve -Oeuvre du Musée des sciences & technologies Léonard de Vinci de Milan

Ce que nous avons devant-nous, ce sont des capacités accrues de vitesse de traitement de grands volumes d’informations présentant des liens. Nous pourrons ainsi, grâce à des programmes auto-apprenants, collecter et traiter rapidement bien plus de données que nous ne le pouvons dans une équipe humaine. Ces programmes seront même en mesure de déduire, décider et agir de manière autonome.

Mais un programme qui va vite, peut se tromper vite aussi. Tout dépend de ce qu’on lui aura donné comme sources d’informations, contraintes d’origine et buts à rechercher.

Comment traiter les erreurs possibles, voire nécessaires des futures Intelligences Artificielles? L’évolution de la vie sur terre est pleine d’erreurs de programmation, en un certain sens. Du moins si on veut à tous prix appliquer à cette évolution un modèle de représentation logique.

Ces erreurs, ou supposées telles, peuvent apparaître dans la combinaison de gènes qui n’auraient, a priori, pas dû se rassembler, ou dans des variations du génome, coupables ou non, de certaines maladies. Ce sont de ces erreurs qu’ont émergés de multiples possibles.
Ceux de l’espèce humaine elle-même y compris, peut-être. Car nous savons au moins à présent que  l’Homme n’est pas au centre de l’univers.

Or, à ce jour, la notion d’erreur est profondément humaine. « Errare humanum est » au sens strict. Est une erreur une chose que nous concevons comme telle dans un système de valeurs humaines, fondé sur la notion d’un devoir commun. Notre humanité questionne le sens et la valeur de ce que nous sommes et de nos actions, non à titre individuel, mais à titre d’espèce. Par sa faculté de raison, l’Homme s’est doté d’une finalité éthique.

A moins que simplement, parce que doué de raison, l’Homme ait pu comprendre que la prise en compte dans une société des normes et de l’éthique aboutit à de meilleurs résultats pour tous. Ce que cherche à montrer l’économiste kaushik Basu en utilisant la théorie des jeux.

Eduquer l’Intelligence Artificielle à l’éthique : un vœu pieux ?

Théorie des jeux et Intelligence Artificielle sont certes intimement liées, mais pas forcément pour préparer une IA à la notion d’éthique.

Car en quoi avons-nous préparé les futures Intelligences Artificielles, censées nous dépasser, « au bien » ? Il faut l’entendre ici en ce sens de la singularité de l’homme selon Kant, où il doit « être formé au bien » (dans «Anthropologie d’un point de vue pragmatique»). En quoi les rendrons-nous capables de distinguer les bonnes erreurs, celles qui conduisent par hasard à un résultat bénéfique, des mauvaises?

Comment distingueront-elles ce qui fait progresser l’humanité, de ce qui n’est que de l’égoïsme pratique ? C’est-à-dire une recherche de profit immédiat sans conscience des conséquences.
A court-terme, nous utilisons essentiellement l’IA pour influencer des actes d’achats. Le «deep learning », les sciences psycho-cognitives, l’analyse et l’apprentissage de milliers de données par la machine servent essentiellement à proposer des offres d’annonceurs.

Et quand nous disons que l’homme est responsable de lui-même, nous ne voulons pas dire que l’homme est responsable de sa stricte individualité, mais qu’il est responsable de tous les hommes (…)(…) Ainsi, notre responsabilité est beaucoup plus grande que nous ne pourrions le supposer, car elle engage l’humanité toute entière. (…) 

Jean-Paul Sartre

Parce que cela devrait faire partie de son apprentissage ou des règles de contrôle à lui appliquer.
L’Homme se construit dans la somme des expériences vécues et des interactions avec son environnement et il est responsable de ce qu’il est, selon Sartre.

Intelligence Artificielle, responsabilité humaine et pilotage par la valeur

Les 23 principes d’Asilomar. Asimov revu et corrigé dans le contexte des progrès en Intelligence Artificielle.

En quoi la responsabilité d’une IA peut-elle engager l’humanité? Il n’y a pas de principes naturels pour susciter cela. C’est à l’homme de les édicter.
Sans chercher à donner une conscience à la machine, c’est de notre responsabilité actuelle de créer les conditions favorables à ce que l’IA supporte cet engagement.

C’est de la responsabilité de toute organisation qui utilise les technologies de l’IA, de garder une responsabilité humaine.
Ce qui plaide essentiellement à ce qu’on applique à tout projet d’Intelligence Artificielle les principes mêmes du pilotage par la valeur. C’est-à-dire chercher la meilleure balance entre la couverture des besoins d’un ensemble de parties prenantes, la consommation de ressources pour y parvenir et la maîtrise des risques et des contraintes.

Maximiser la valeur pour le plus grand nombre de parties prenantes, c’est le jeu à somme non nulle que l’on doit apprendre aux programmes d’Intelligence Artificielle.

Les 23 principes d’asilomar, issus en février dernier des conférences du FLI, qui veulent encadrer le développement de l’Intelligence Artificielle vont dans ce sens. Il est toutefois dommage que responsabilités et valeurs n’apparaissent qu’à partir des 9eme et 10 eme positions. Puisque le reste devrait en découler.

Il est également dommage que ce ne soit pas une préoccupation de toute organisation, privée ou publique. Toutefois, cela restera dans tous les cas une charte, comme celle des Nations Unies.

Aussi, avant de craindre les intentions des Intelligences Artificielles et les vouloir bénéfiques, nous pourrions commencer à avoir plus d’intelligence humaine. Piloter les projets par la valeur serait un bon début.

Tags automatisationcréation de valeuremploiIAintelligence artificielleintelligence collaborativeobjets connectésrobotstransformation numérique