Blog

Comprendre les outils d’IA : un enjeu d’Intelligence Economique

2 février 2023/ Sabine Bohnké / Intelligence Artificielle, Intelligence Economique / 0 comments

Image issue des archives Internet – Domaine Public

L’IA, un marteau de guerre… économique ?

Dans l’art de la guerre économique, l’IA fournit des armes numériques pour le triptyque : veille, influence, protection. Ces armes ont pour particularité d’être peu visibles et on ne les lie pas forcément à leurs résultats. Surtout quand il s’agit de « l’art du faire savoir, faire croire et du faire faire ». La subtilité nécessairement liée à l’art de l’influence de l’IE est opposée à la visibilité des influenceurs des réseaux sociaux.

Large language models, and more generally foundation models, are powerful technologies that carry a potential risk of significant harm. Unfortunately, we, the AI community, currently lack community norms around their responsible development and deployment

Condemning the deployment of GPT-4chan, tribune de Percy Liang et Rob Reich de Stanford

Ce qui peut constituer une difficulté à déterminer la complicité par instigation, si l’influence pousse jusqu’au délit. Pour mémoire, l’article 121-7 du Code pénal contient cette phrase : “est complice d’un crime ou d’un délit la personne qui, sciemment, par aide ou assistance, en a facilité la préparation ou la consommation”.

Relativisons la réplique suivante : « il ne faut pas confondre les outils et les usages que l’on peut en faire ». Tout dépend des outils en question, certains présentent davantage d’opportunités que d’autres pour devenir des armes d‘influence massives. Ainsi, comparer un outil d’IA à un marteau est simpliste. Car un outil d’IA peut être bien plus nuisible sans être aussi visible.

Que ce soit pour « casser » massivement des protections … ou pour influencer une décision. L’explicabilité des algorithmes d’IA est d’ailleurs un sujet non trivial où il faut se méfier des explications données… par certains types d’algorithmes eux-mêmes.

L’article sur le problème du videur, publié dans interstices l’illustre bien.

Pour vivre avec son temps, il faut le comprendre

Ever Changing World. Source: Robert Nunnally on Flickr, licence cc-by 2.0

Évitons d’opposer lapidairement ce vieil adage aux craintes autour de l’IA : « le monde change, il faut savoir vivre avec son temps! » Car ne faudrait-il pas, pour vivre avec son temps, en aborder consciemment les nouveaux enjeux ? En particulier, mieux vaut comprendre les risques de certains outils d’IA qu’on utilise pour savoir s’en prémunir.

Parce qu’il y a des risques. Les 360 spécialistes (chercheurs, ingénieurs, experts développeurs) de l’IA signataires en juillet 2022 de la tribune condamnant le déploiement de GPT-4Chan par Yannic Kilcher (cf : encart1) en sont convaincus.

Toute proportion gardée, il n’y a pas de souci à ce qu’une interface conversationnelle telle que ChatGPT soit utilisée par un étudiant. L’usage est d’autant plus à promouvoir afin qu’ils en identifient les lacunes et en comprennent les tenants et aboutissants. On pourrait même espérer en sortie de l’exercice plus de réflexion critique et pas seulement du côté des étudiants. Mais nous parlons d’un baobab qui cache une forêt. Le propos va au-delà d’une querelle des Anciens et des Modernes. Si États-Unis et Chine investissent massivement dans les technologies d’IA, ce n’est pas forcément par grandeur d’âme ou humanité.

De plus, leurs investissements semblent cohérents sur les plans économiques et « recherche et développement ». Selon le « global vibrancy AI tool » tenu par l’HAI de Stanford (perspective américaine) la France serait nettement moins performante. En particulier, en ce qui concernerait l’usage des compétences IA à titre professionnel et la pénétration de ce type de compétences dans les entreprises.

Cependant, on peut être aussi un peu critique sur les indicateurs employés, leur calcul et la source (Linkedin exclusivement, cf. Encart2). Là encore, l’interprétation « ne coule pas de source » et il faudrait relativiser selon l’usage culturel par pays de LinkedIn.

Lutter avec un questionnement critique constructif

Questioning – Source flickr, duncan cumming, Candie graffiti, Shoreditch, licence CC BY-NC 2.0

Néanmoins, cela renforce un constat fait par tous les pays. Il faut éclairer une population factuellement sur les impacts et enjeux de l’IA dans la vie quotidienne et les emplois. Ce constat est retracé dans le rapport « comprendre l’impact de l’intelligence artificielle sur le développement des compétences » publié en 2021 par l’Organisation des Nations Unies pour la science, l’éducation et la culture et par le Centre international UNESCO-UNEVOC pour l’enseignement et la formation techniques et professionnels pour l’éducation, la science et la culture (cf. encart 3).

L’accès à la connaissance pour développer l’esprit critique reste une ancre face aux dérives des guerres d’influence. Les « pour ou contre » épidermiques que suscite l’extrême publicité autour d’outils lancés inachevés, invisibilisent le besoin d’une IA du quotidien, fiable, responsable ET frugale. Soit une IA plus économe en données, en ressources machines et en énergie. Francis Bach, directeur de recherche Inria, s’exprime sur le sujet dans l’article « Mieux comprendre l’IA pour une utilisation plus raisonnée ».

Nous devons sortir du paradoxe de l’épée et du bouclier dans lequel nous entraîne la course aux outils d’IA bankable. Il y a une autre façon de s’armer, en posant les questions appropriées.

Questionnons notre intelligence humaine au service de la compréhension de ce que nous faisons, ou utilisons, en rapport avec l’IA. Quels sont les usages pour quelles typologies d’outils ? Connaissons-nous leurs capacités réelles et sous quelles conditions ? Qui fait quoi ? D’où proviennent les financements, pour quelles attentes ? De quels retours d’expérience disposons-nous ? Pouvons-nous évaluer les risques et prendre les mesures de mitigation ?

Utiliser l’OSINT pour éclairer l’usage des outils d’IA

Source Image : Internet Archive Book – Domaine Public

Comme à chaque époque où nous pensons vivre une révolution technologique, la tentation est grande de se dire qu’on ne peut pas suivre l’accélération du progrès et la dynamique d’innovation. Pourtant, nous le pouvons, en nous informant de manière pertinente et utile. La maîtrise de l’information va de pair avec notre esprit critique et notre capacité à prendre des décisions. Mieux vaut ne pas y renoncer trop aisément.

Car il ne s’agit pas de chercher à tout savoir, mais savoir où tout chercher. C’est là où l’OSINT (open source Intelligence) prend tout son sens.

Dans cet article, je propose et je commente dix sites à consulter pour avoir des éléments de compréhension sur les outils d’IA, au-delà d’ailleurs du seul aspect de Machine Learning, puis dix sources d’information à surveiller sur Internet pour suivre le développement des enjeux connexes. Cela devrait permettre d’éclairer les usages et les évolutions des outils, en particulier pour construire des solutions d’entreprise.

Dix sources pour comprendre l’IA

#INRIA

L’INRIA est la source majeure pour la recherche Française autour de l’IA actuellement. En effet, en novembre 2018, Inria se voyait confier la coordination du Programme national de recherche en IA (PNRIA). Sur le site officiel de l’INRIA, on trouve directement des articles. Dont le point d’Isabelle Herlin, coordinatrice du PNRIA, titré : « Former, attirer et faire rester les talents en IA : conditions clés du positionnement de la France à l’international« .

Vous voulez une revue sérieuse avec un réel comité éditorial ? La revue scientifique en ligne pilotée par l’INRIA, Interstices, lancée en 2004, est faite pour vous. Elle contient des articles allant de la vulgarisation simple à l’exposé de problèmes plus complexes. « Le suivi scientifique de la revue est assuré par le comité éditorial, où sont représentés Inria, le CNRS, plusieurs universités ainsi que des associations professionnelles du domaine, notamment la SIF et la SMAI. Le directeur de la publication est le Président-directeur général d’Inria« . Pour consulter les articles sur l’IA, le lien est le suivant : https://interstices.info/domaine/intelligence-artificielle/

D’autre part, l’INRIA publie un ensemble de cours sur FUN, dont celui-ci : Machine learning in Python with scikit-learn – Cours – FUN MOOC (fun-mooc.fr)

#FranceIA

Site : https://www.hub-franceia.fr/
Le Hub France IA « est une association loi 1901 qui vise à fédérer les acteurs de l’écosystème IA pour permettre le développement de propositions et de solutions concrètes« .
Sur le site on trouvera l’actualités des différents groupes de travail lancés avec les membres de l’écosystème (entreprises, institutions, écoles).

#Perspectives-IA

À l’initiative de la DGEFP (Délégation Générale à l’Emploi et à la Formation Professionnelle) et la Coalition française pour les compétences numériques (French Digital Skills & Jobs coalition, liée au MEDEF), PERSPECTIVES IA a vu le jour pour « accompagner les dirigeants d’entreprises, leurs collaborateurs et le grand public vers une meilleure connaissance de l’Intelligence Artificielle, de ses usages et des opportunités qu’elle représente« .

Le site constitue une base de ressources documentaires intéressantes (vidéo, podcast, articles) pour évangéliser les entreprises. Néanmoins, il apparaît qu’il n’y a plus de publications à la une depuis plus d’un an.

#Commission Européenne

Si vous voulez comprendre la stratégie de l’UE en matière d’Intelligence artificielle, allez consulter la page suivante.
Une approche européenne de l’intelligence artificielle | Bâtir l’avenir numérique de l’Europe (europa.eu)
On y trouvera notamment accès à la proposition européenne d’un cadre juridique pour l’IA.

#OCDE

L’OCDE a également publié des principes sur l’Intelligence artificielle.

On trouvera sur le site OECD.ai les principes en question, ainsi qu’un blog , AI Wonk, où les experts du réseau AI de l’OCDE s’expriment : OECD Working Party and Network of Experts on AI – OECD.AI. On trouvera sur la page dédiée au principe « investir dans la recherche et le développement de l’AI », les politiques par pays, dont la France.

#Elements of AI

Ce Mooc pour comprendre ou apprendre les fondamentaux de l’IA a été lancé à l’origine en 2018 par l’université d’Helsinki. La Commission Européenne a aidé à traduire les cours pour les mettre à disposition de tous les européens. Les cours en ligne sont gratuits et disponibles également en français : https://course.elementsofai.com/fr-be/

#ETSI

L’organisme de standardisation a constitué un groupe « Industry Specification Group on Securing Artificial Intelligence (ISG SAI) » pour créer des standards afin de préserver et d’améliorer la sécurité des nouvelles technologies d’IA. Ils ont produit un rapport particulièrement explicatif, avec l’énoncé du problème.

#Forum IA Québec

Site : https://forumia.quebec/intelligence-artificielle#intro

On peut trouver des ressources francophones sur l’IA au Québec, qui n’est pas en reste sur le sujet.

Le forum IA québec fournit de nombreuses ressources pour comprendre l’IA dans la vie des entreprises. « Le Forum IA Québec est un OBNL dont la mise sur pied remonte à avril 2020. Sa création découle d’une recommandation contenue dans la Stratégie pour l’essor de l’écosystème québécois en intelligence artificielle que le Comité d’orientation de la grappe en IA présentait en 2018 au ministère de l’Économie, de l’Innovation et de l’Énergie du Québec (MEIE).« 

On pourra en particulier consulter la vitrine IA Québec et ses cas pratiques en entreprise pour comprendre l’IA au quotidien : https://vitrine.ia.quebec/etudes.
Le MEIE est le principal partenaire financier du Forum IA Québec.

On peut également citer l’observatoire International Sur les impacts sociétaux de l’IA et du numérique. Lancé en décembre 2018 au Québec et dirigé par la professeure-chercheuse en relations industrielles et directrice de l’Institut d’éthique appliquée de l’Université Laval, Lyse Langlois, l’Observatoire regroupe près d’une vingtaine d’établissements universitaires et collégiaux, de même que près de 90 centres de recherche, incluant Mila, engagé dans le développement socialement responsable et bénéfique de l’intelligence artificielle. On y trouve en particulier une veille scientifique et stratégique sur les enjeux pour la société québécoise.

#STANFORD

L’institut de Stanford pour l’intelligence artificielle centrée sur l’humain, Stanford HAI, publie en particulier l’AI index. Ce rapport annuel « suit, rassemble, distille et visualise les données relatives à l’intelligence artificielle, permettant aux décideurs de prendre des mesures significatives pour faire progresser l’IA de manière responsable et éthique en pensant aux humains« .
De plus, on peut consulter de nombreux cours et/ou séminaires gratuit en ligne réalisés par Stanford, par exemple : Stanford Seminar – ML Explainability Part 1 I Overview and Motivation for Explainability – YouTube

#MIT-IBM Watson AI lab

Ce laboratoire, fondé en 2017, mixe dans une communauté de recherche des scientifiques du MIT avec des chercheurs d’IBM. L’objectif poursuivi par cette communauté est de traduire la recherche fondamentale en applications pour l’industrie. Le laboratoire travaille sur des techniques pour rendre les systèmes d’IA à grande échelle plus efficaces et robustes. Il développe également des systèmes d’IA pour les soins de santé et une variété d’applications décisionnelles. On peut trouver les articles de recherche, avec le code, à cette adresse : https://mitibmwatsonailab.mit.edu/research/papers-code/

Ce n’est, bien sûr, pas le seul site où on peut trouver des modèles d‘IA, des datasets et des articles de recherche. Mais le laboratoire s’engage de son côté au sérieux des publications, via évaluation par les pairs, qu’il présente ainsi. « Peer-review is the lifeblood of scientific validation and a guardrail against runaway hype in AI. Our commitment to publishing in the top venues reflects our grounding in what is real, reproducible, and truly innovative.« 

Dix sources pour surveiller les évolutions de l’IA

#AAAI

Site : https://aimagazine.com/
Site : https://aitopics.org/

AI Magazine est la publication officielle de l’AAAI ( Association for the Advancement of Artificial Intelligence). La première publication date de 1980 et il couvre tout le champ de l’Intelligence Artificielle. Le journal contient des papiers de recherche, en licence Creative Commons attribution 4.0 et référençables par leur numéro de DOI.
Exemple, cet article de Ian Beaver sur la reconnaissance vocale interrogeant la capacité de l’IA à être équivalente à l’humain. Is AI at Human Parity Yet? A Case Study on Speech Recognition.

Si le journal est trimestriel, le site publie régulièrement des actualités sur les nouveautés dans le domaine de l’AI.

Lancé en 1998 par l’AAAI, AITopics s’enorgueillit d’être la plus grande collection d’informations d’Internet sur la recherche, les experts et les applications de l’intelligence artificielle. Sa mission « est d’éduquer et d’inspirer grâce à une grande variété de ressources recueillies sur le Web, sélectionnées puis organisées. »

AiTopics a automatisé avec l’outil NewsFinder, sur une sélection de sites ciblés (américains), la collecte d’articles traitant d’Intelligence Artificielle. Ce qui permet de faire des recherches sur critères. Ainsi en partant de AITopic on peut trouver cet article de Wired, de décembre 2022, qui souligne que l’Intelligence Artificielle est aussi importante pour les gouvernements que les routes et les chemins de fer.

#ActuIA

Site : https://www.actuia.com/
Un portail Web francophone d’actualités quotidiennes consacré à l’intelligence artificielle et à la datascience et un magazine trimestriel édité par Net Square Digital.
Stéphane Nachez, cofondateur d’actuIA, expliquait avoir lancé ActuIA pour « fédérer et donner de la visibilité à l’écosystème IA Français« . On peut voir ici son interview par Stephane Gothereau. Lequel tient une chaîne youtube AI for you avec des vidéos explicatives intéressantes et abordables sur le Machine Learning.

#Theconversation

The Conversation est un média en ligne et une association à but non lucratif. Il repose sur un modèle de collaboration entre expert·e·s et journalistes avec l’objectif est de partager le savoir, en faisant entendre la voix des chercheuses et chercheurs dans le débat citoyen.

Bien sûr, on ne trouvera pas que des articles sur l’IA dans Theconversation. Mais on en trouvera des pertinents et étayés, qui sont faciles à lire tout en se basant sur la compétence d’experts. Je conseille en particulier la lecture de cette tribune sur ce « beau parleur » de ChatGPT, signée de Fabien Suchanek, professeur à l’IMT et Gaël Varoquaux, directeur de recherche en intelligence artificielle et applications en santé de l’Inria.

#Dataversity

Site : DATAVERSITY – Data Education for Business and IT Professionals

Dataversity Education LLC est un éditeur en ligne de ressources pédagogiques pour les professionnels des affaires et des technologies de l’information (TI) tout autour de l’exploitation des données. Data science et intelligence artificielle sont donc des sujets traités à part entière.

Dataversity est derrière les conférences Enterprise Data World, tenues depuis 26 ans.

Les ressources informationnelles sont de différents types : conférences hébergées en face à face, événements en ligne gratuits, webinaires en direct, livres blancs, formations en ligne, actualités quotidiennes, articles et blogs.

#Emerj

Site : https://emerj.com/

Emerj est spécialisé sur les études de marché relatives à l’Intelligence Artificielle, afin d’évaluer les impacts sur les organisations et les industries. C’est une source de références pour les applications professionnelles de l’IA, utilisées par de nombreuses sociétés ou associations.

#ArtificialIntelligence-news.com

Site : AI News – Artificial Intelligence News (artificialintelligence-news.com)

Artificial InteIligence News, fait partie du portefeuille de l’éditeur anglais TechForge Media. Le site en ligne fournit des informations, des analyses et des opinions sur l’écosystème de l’IA, de la normalisation aux cas d’utilisation commerciale et aux opportunités de développement.

#Towards Data Science

Towards Data Science est une publication de Medium Corporation. La plateforme américaine de publications en ligne. On y trouve des centaines d’auteurs indépendants qui partagent leurs expertises et leurs connaissances. Le site s’enorgueillit d’avoir des contenus pouvant intéresser aussi bien des débutants que des experts.

J’ai ainsi trouvé une publication intéressante en janvier 2023, de Maeda Hanafi, chercheuse chez IBM research sur le thème « human-center AI ». L’article en question compare GPT-3 et un outil d’HILT (Human In the Loop Tool). L’auteur y souligne que l’un des plus grands défis quand on utilise GPT-3 pour l’extraction de motifs textuels est son « inventivité ». Les textes extraits ne font pas toujours partie de donnée en entrée, cf. l’image ci-dessous fournie par l’auteure.

#Forbes

Le magazine économique américain fait intervenir régulièrement des experts de l’AI dans ses colonnes. On peut trouver des articles spécifiques à l’intelligence artificielle ici.

Site : https://www.forbes.com/ai/

#HUGGINGFACE

Site: Hugging Face – The AI community building the future.
Blog : https://huggingface.co/blog
Formations NLP : https://huggingface.co/course/chapter1/1

On pourrait également citer les sites des laboratoires des GAFAM ou associés (exemple Meta AI et paperswithcode, Google AI, Open AI, etc.). Ce serait un peu superflu au regard de leur audience. C’est pourquoi je préfère mentionner HuggingFace (créée par des Français mais basée aux Etats-Unis). D’ailleurs, cette plateforme de collaboration en ligne est également utilisée par Microsoft, Meta, Google AI. Elle permet aux utilisateurs de gérer, partager et développer leurs modèles d’IA (MachineLearning/NLP). Hugging Face a développé une gamme de produits basés sur l’IA, notamment une librairie d’apprentissage en profondeur open source appelée Transformers. Hugging Face propose aussi un Blog et une formation NLP gratuite.

Yannic Kilcher est connu des amateurs de Machine Learning et de LLM, par sa chaîne youtube traitant des sujets IA. Il a déployé un chatbot basé sur GPT, GPT-4Chan sur le forum 4Chan. Lequel a été entraîné sur le canal de discussion pol, tristement célèbre pour le type de messages qui y circule. Il s’en explique dans cette vidéo. L’expérience a entraîné une controverse non négligeable. Celle-ci a le mérite de souligner l’importance du débat sur la dangerosité potentielle de certaines expérimentations.

Pour en savoir plus :
Un article du journal du geek en Français.
Un article détaillé et factuel du gradient qui aborde les leçons à retirer de l’expérience.

Le « global vibrancy AI tool » tenu par l’HAI de Stanford, positionne assez mal la France sur les indicateurs suivants (sur des mesures de 2021) :
• Relative AI Skill Penetration, 17ième sur 17 pays.
• AI Hiring Index, 19ième sur 22 pays
• AI Talent concentration, 14 ième sur 22 pays.

Ces trois indicateurs utilisent des mesures calculées à partir de données Linkedin.

Le premier indicateur repose sur un calcul des fréquences des compétences auto-ajoutées des utilisateurs de LinkedIn dans un domaine spécifique de 2015 à 2021, puis en repondérant ces chiffres à l’aide d’un modèle statistique pour obtenir les 50 meilleures compétences représentatives dans cette profession.

Le second indicateur, qui correspond à un indice d’embauche, repose sur le calcul suivant. Le taux d’embauche de l’IA est le pourcentage de membres de LinkedIn ayant des compétences en IA sur leur profil ou travaillant dans des professions liées à l’IA, qui ont ajouté un nouvel employeur au cours de la même période où le travail a commencé, divisé par le nombre total de membres Linkedin sur la même localisation. Ce taux est ensuite indexé sur le mois moyen en 2016. Par exemple, un indice de 1,05 en décembre 2021 indique un taux d’embauche supérieur de 5 % à la moyenne mensuelle de 2016.

Le troisième indicateur, la concentration de talents IA repose sur un ratio entre le nombre de talents IA au niveau national et le nombre de membres LinkedIn dans les pays respectifs. Un membre LinkedIn est considéré comme un talent IA s’il a explicitement ajouté des compétences IA à son profil et/ou s’il occupe un poste considéré comme nécessitant des compétences IA.

Tags "ingénierie des connaissances"compétencesguerre économiqueinfluenceintelligence artificielleOSINTrisques IASourcingVeille