[Index] Intelligence artificielle

[Tugdual]

Les bonds de géant :

• des interfaces cerveau-ordinateur...

[Tugdual]

Les axes de normalisation de l'AFNOR pour une IA :

• capable d'établir des bases de confiance et de gouvernance...

Extrait :

Un domaine comme l’IA, qui évolue très vite et soulève des questions, a besoin d’accords qui constituent un ancrage. Les normes offrent un cadre idéal à cet égard. L’Association française de normalisation (AFNOR) est l'organisation française qui représente la France auprès de l'Organisation internationale de normalisation et du Comité européen de normalisation. L’AFNOR présente six axes qui doivent guider l’IA par des normes capables d’établir des bases de confiance et de gouvernance, en publiant une feuille de route stratégique sur les étapes clés de cette normalisation, déjà bien amorcée.

[...]

Diviser les systèmes d’IA en quatre catégories est actuellement l’objectif, selon les risques représentés. Le niveau 4 représente un risque inacceptable et comprend des catégories de mécanismes aussi sensibles que la manipulation des comportements, le crédit social ou encor la reconnaissance faciale. Les niveaux 1 et 2 représentent respectivement des risques minimums et faibles. L’IA d’un filtre antispam est ainsi de niveau 1, tandis que celle d’un bot de discussion est de niveau 2. Ils seront soumis à un simple code de conduite.

Le niveau 3 sera l’objet de toutes les attentions et concerne les systèmes à haut-risque. Services critiques, publics et privés essentiels, santé ou encore justice y seront présents. Dans ce niveau, tout système IA devra faire cette fois l’objet d’un examen de conformité par des organismes notifiés. Et, bien sûr, cette mesure de conformité se fera à l’aube des normes précédemment établies.

Leur élaboration est d’autant plus importante qu’un cadre clair empêche certaines entreprises de s’accaparer un marché en imposant des technologies devenant autant de « standards de fait ». L’influence de ces structures se fait quand même sentir pendant la création des normes, car chaque partie prenante tente de structurer le marché en faveur de ses propres technologies. L’Afnor le redit d’ailleurs : la participation d’un maximum d’acteurs est cruciale, puisque la voix de tout un chacun compte.

[Tugdual]

Yann LeCun (Meta) explore :

• la frontière énergétique de l'apprentissage profond...

[Tugdual]

Nook, une IA de nouvelle génération :

• bat plusieurs champions du monde de bridge...

Extrait :

« Les précédents succès de l'IA, comme lors de la confrontation entre humains et échecs, sont basés sur des systèmes de type "boîte noire" où l'humain ne peut pas comprendre comment les décisions sont prises. En revanche, la boîte blanche utilise la logique et les probabilités tout comme un humain », explique Stephen Muggleton, professeur au département d'informatique de l'Imperial College de Londres.

Au contraire, NooK représente une approche "boîte blanche" ou "neurosymbolique". Plutôt que d'apprendre en jouant des milliards de parties d'un jeu (avec l'apprentissage profond traditionnel), l'IA apprend d'abord les règles du jeu, puis améliore son jeu par la pratique. Il s'agit d'un système hybride basé sur les règles et l'apprentissage profond. « L'apprentissage automatique en boîte blanche est étroitement lié à la manière dont nous, les humains, apprenons de manière incrémentielle en effectuant des tâches quotidiennes », explique Stephen Muggleton.

Même si une personne ou une IA ne peut pas expliquer avec des mots ce qu'elle fait, son comportement doit être "lisible" pour les autres, c'est-à-dire qu'elle doit appliquer des règles qu'ils comprennent. Cette approche "boîte blanche" sera essentielle dans des domaines tels que les soins de santé et l'ingénierie. Les voitures autonomes qui négocient un carrefour devront être capables de lire le comportement des autres, de réagir et peut-être même d'expliquer.

Pour l'instant, il reste encore beaucoup à apprendre à l'intelligence artificielle, qui ne comprend pas, par exemple, le principe de l'enchère, qui fait partie du jeu de bridge et constitue un élément essentiel pour approfondir la communication, ni la tromperie.

[Tugdual]

DeepMind de Google estime avoir fait une percée en IA :

• qui se rapproche de l'intelligence humaine...

[Tugdual]

Une étudiante accusée de tricherie à un examen :

• par une intelligence artificielle...

[lucius]

• Dall-E mini, l'IA qui crée des images, a encore (beaucoup) de progrès à faire
• Le site de l'outil

C'est à la base de TALN et de text mining qui transforme du texte en image.

[Tugdual]

Des images montrent un char robot piloté par l'IA :

• qui fait exploser des voitures...

Extrait :

Alors que la communauté internationale peine à trouver un moyen de contrôler le développement des systèmes d'armes létales autonomes (SALA), des ébauches de ce type d'arme continuent à se multiplier. La dernière en date est Type-X, un char de combat robotisé alimenté par l'IA, développé par l'estonien Milrem Robotics et Kongsberg Defence & Aerospace, une société norvégienne leader en matière de technologie et de défense. Le char autonome et robotique a été dévoilé pour la première fois en juin 2021 et, comme le montre la vidéo suivante, le Type-X vient de réaliser le premier tir d'essai de sa tourelle à distance Protector.

[...]

Des voies s'érigent contre les armes létales alimentées par l'intelligence artificielle, mais leur développement se poursuit quand même, principalement en Israël, en Chine, aux États-Unis et dans certains pays européens. En juillet dernier, un rapport a révélé que l'Israël utilisait des essaims de drones autonomes pour traquer et anéantir le Hamas sans intervention humaine.

[...]

Malgré les implications éthiques plutôt évidentes du fait qu'un système alimenté par l'IA s'occupe du "sale boulot" à distance, Milrem Robotics a levé des fonds importants auprès de la Commission européenne pour développer un véhicule terrestre sans pilote de la taille d'une machine à laver appelé THeMIS (Tracked Hybrid Modular Infantry System), qui peut fournir aux troupes des moyens de transport, ainsi que détecter et éliminer les IED (improvised explosive device - engins explosifs improvisés). Il n'est pas exagéré de suggérer que c'est à cela que ressemble le futur de la guerre, et il semble plus infernal que jamais.

[Tugdual]

L'IA qui détecte vos émotions peut être utilisée à mauvais escient :

• et ne doit pas être accessible à tous...

Extrait :

Microsoft a annoncé mardi son intention d'arrêter la vente de la technologie de reconnaissance faciale qui prédit les émotions, le sexe ou l'âge d'une personne, et de restreindre l'accès à d'autres services d'intelligence artificielle, car elle risque de « soumettre des personnes à des stéréotypes, à la discrimination ou à un refus injuste de services ». Dans un billet de blog, Microsoft fait référence à son travail en interne et avec des chercheurs extérieurs pour développer une norme d'utilisation de la technologie. L'article reconnaît que ces travaux ont révélé de graves problèmes de fiabilité de la technologie. Cet engagement est nécessaire parce qu’il n'y a apparemment pas encore assez de lois réglementant l'utilisation des technologies d'apprentissage automatique. Ainsi, en l'absence de cette législation, Microsoft devra simplement se forcer à faire ce qu'il faut.

[...]

L'imitation du son de la voix d'une personne à l'aide de modèles d'IA générative n'est désormais plus autorisée sans le consentement du locuteur. Les produits et services conçus à l'aide du logiciel Custom Neural Voice de Microsoft devront également indiquer que les voix sont fausses. Les directives d'utilisation des outils de reconnaissance faciale de l'entreprise sont également plus strictes s'ils sont appliqués dans des espaces publics et ne peuvent pas être utilisés pour suivre des individus à des fins de surveillance.

[Tugdual]

Une IA :

• championne de bridge...

Extrait :

Le bridge est un jeu de cartes dans lequel une équipe de 2 joueurs essaie d’atteindre un objectif commun appelé un « contrat » déterminé au cours de la phase des enchères. Réaliser un contrat consiste à faire au moins un certain nombre de plis face à une équipe adverse qui va collaborer selon des règles codifiées pour essayer de faire chuter le contrat.

À la différence des jeux de plateaux comme les échecs ou le go, le bridge est un jeu à information incomplète. Au départ, chaque joueur ne connaît que les 13 cartes qu’il a en main. Au cours de la partie, en raisonnant sur les informations transmises pendant la phase des enchères et sur les cartes jouées à chaque pli, chaque joueur peut restreindre ses hypothèses sur les cartes restant en jeu mais il doit prendre ses décisions (choisir la carte à jouer à chaque pli) sans la connaissance complète des cartes restant en main de son partenaire ou de ses adversaires.

Bien jouer au bridge implique de maîtriser différents types de compétences :

• Faire des déductions (si tel joueur a joué telle séquence de coups, il a ou n’a pas telle carte)
• Émettre et réviser des hypothèses (tel adversaire a au moins 5 cartes à Pique ou n’a plus de cartes à Cœur)
• Anticiper un certain nombre de coups probables de l’équipe adverse
• Évaluer les probabilités des différentes mains adverses possibles pour guider la prise de risque et calculer l’espérance de gain des coups à jouer.

[...]

Même si Nook ne joue pour l’instant qu’une partie des « contrats » existants au bridge (le « trois sans-atout »), ses concepteurs ont d’ores et déjà prouvé le bénéfice d’une IA « hybride » qui lui donne notamment la possibilité d’expliquer ses choix. Cette nouvelle approche, que NukkAI envisage de déployer dans d’autres domaines comme la cybersécurité, l’éducation ou les transports, ouvre une voie pour avoir « quelque chose qui ressemble plus à de l’intelligence que ce que l’on a vu ces dernières années », souligne Cédric Villani, auteur d’un rapport parlementaire qui en 2018 avait inspiré la stratégie du gouvernement français sur l’intelligence artificielle, venu observer le défi en direct.

[Tugdual]

Radiologie :

• pourquoi l’IA n’a (toujours) pas remplacé le médecin...

Extrait :

« On devrait arrêter de former des radiologues maintenant. Il est tout à fait évident que dans cinq ans, le “deep learning” fera mieux que les radiologues. »

Prononcée en 2016 par l’informaticien Geoffrey Hinton, co-récipiendaire du prestigieux Prix Turing 2018 pour ses travaux sur les réseaux de neurones, la sentence a fortement marqué l’imaginaire collectif.

[...]

Pourtant, six ans plus tard, la déclaration relève davantage de la fausse prophétie que de l’anticipation visionnaire… Le « grand remplacement » des médecins par l’IA n’a pas eu lieu. À l’inverse, l’évolution de la démographie médicale et l’augmentation du nombre d’examens d’imagerie donnent davantage à voir un manque de radiologues que leur mise au chômage technique.

[...]

Des logiciels sont pourtant disponibles et mis sur le marché, le plus souvent par des start-up telles que AZmed, Gleamer, Incepto, Pixyl ou Therapixel. La radiologie arrive ainsi au premier rang des champs d’application des logiciels d’IA validés par l’agence de régulation américaine FDA (plus de 200 logiciels) ou bénéficiant d’un marquage Conformité Européenne (CE) (environ 200). Les publications scientifiques sur le sujet sont également florissantes, avec plus de 8800 articles parus entre 2000 et 2018.

[...]

Mais les critiques portent également sur les promesses mêmes de l’IA en regard de ses performances réelles. Il apparaît en effet que ces outils nécessiteraient d’être mieux évalués : en 2021, plus de 60 % des logiciels disposant d’un marquage CE n’avaient fait l’objet d’aucune publication scientifique. En l’absence d’essais cliniques robustes se pose la question de leur efficacité en conditions réelles.

[...]

Certes, le cadre réglementaire évolue pour prendre en compte ces nouvelles technologies – en attestent la récente loi de bioéthique ou la mise en application du règlement européen relatif aux dispositifs médicaux en mai 2021. Mais, bien que ce dernier durcisse les conditions d’obtention du marquage CE, il apparaît toujours comme moins exigeant que son équivalent américain (la validation FDA). Et il fait pâle figure en comparaison des normes fixées pour la mise sur le marché des médicaments.

[Tugdual]

OpenAI a mis au point une intelligence artificielle capable de jouer à Minecraft :

• à un niveau équivalent à celui des humains...

Extrait :

OpenAI a annoncé la semaine dernière avoir réussi à apprendre à un réseau de neurones à jouer à Minecraft. À l'aide d'un mélange de vidéos Minecraft non étiquetées et d'un petit ensemble de données étiquetées par des entrepreneurs, les chercheurs d'OpenAI ont réussi à former un réseau neuronal pour qu'il puisse jouer à Minecraft de manière compétente - une étape importante pour la technologie, qui avait auparavant eu du mal à s'attaquer au gameplay simple, mais instable du jeu. OpenAI a déclaré que le modèle était capable d'exécuter toutes sortes de tâches, de la natation à la chasse aux animaux et à la consommation de leur viande.

[...]

Selon les experts, l'importance du projet Minecraft réside dans le fait qu'il démontre l'efficacité d'une nouvelle technique déployée par OpenAI dans l'entraînement des modèles d'IA qui pourrait accélérer le développement d'"agents généraux utilisant des ordinateurs". Historiquement, la difficulté d'utiliser une vidéo brute comme source d'entraînement des modèles d'IA tient au fait que ce qui s'est passé est assez simple à comprendre, mais pas nécessairement la façon dont cela s'est passé. En effet, le modèle d'IA absorbe les résultats souhaités, mais ne saisit pas les combinaisons d'entrées nécessaires pour les atteindre.

Les ingénieurs ont résolu ce problème en créant une méthode d'apprentissage par imitation semi-supervisée qu'ils ont appelée "Video PreTraining" (qui peut être traduit par "vidéo de préentraînement"), ou VPT. OpenAI a essentiellement recueilli un nouvel ensemble de données plus petit auprès d'entrepreneurs, qui comprenaient non seulement le jeu Minecraft, mais aussi des exemples de pressions sur les touches et d'autres actions enregistrées par les entrepreneurs. OpenAI a ensuite créé un autre modèle qui utilise les vidéos des utilisateurs pour prédire l'action suivante à chaque étape d'une vidéo Minecraft.

[Tugdual]

BigScience voit grand :

• pour les modèles de langue...

Extrait :

BigScience représente une avancée majeure pour les modèles de langue. Ces modèles permettent de calculer la probabilité d’une séquence de mots, puis génèrent du texte en enchaînant les mots qui ont le plus de probabilités de se suivre. Les anciens modèles de langues étaient limités à des contextes restreints, typiquement cinq mots d’affilée. Mais ceux basés sur des réseaux de neurones ont levé cette limitation et sont capables de prendre en compte un contexte, en principe, illimité. En pratique, ils ont véritablement révolutionné le domaine de la génération de texte en produisant du texte quasiment parfait d’un point de vue grammatical. Sur un texte court, il est très difficile de différencier leur prose de ce qu’aurait écrit un humain. Mais jusqu’à présent, ces modèles étaient surtout développés en anglais et par de grandes multinationales, qui les mettaient à disposition mais ne communiquaient ni les détails de leur apprentissage ni les données exploitées pour y parvenir. L’idée derrière BigScience est de créer de nouveaux modèles de langue, avec en plus une démarche multilingue et open source inédite.

[Tugdual]

Dans une expérience, l'IA GPT-3 réussit :

• à se faire passer pour un célèbre philosophe...

[Tugdual]

Les communautés artistiques en ligne :

• commencent à bannir les images générées par l'IA...

Extrait :

Il y a une poignée de jours, Jason Allen. Il a été été surpris que sa création, "Théâtre d'opéra spatial", remporte la première place du ruban bleu dans la catégorie "art numérique/photographie manipulée numériquement". Ce qui a surpris encore plus de gens que Allen, c'est qu'il avait créé son œuvre avec l'outil d'intelligence artificielle Midjourney. Pour Allen, cette victoire a été un triomphe inattendu, mais pour d'autres, elle a été la mèche qui a déclenché un débat animé sur les utilisations potentielles et les mauvais usages de l'IA dans les arts. Face à l'afflux d'œuvres d'art générées par des intelligences artificielles, certaines communautés artistiques en ligne ont pris des mesures radicales pour interdire ou limiter leur présence sur leurs sites, notamment Newgrounds, Inkblot Art et Fur Affinity. Et pendant que les plateformes d'art généré par l'IA explosent en popularité, les communautés en ligne qui se consacrent au partage de l'art généré par l'homme sont obligées de prendre une décision : l'art de l'IA doit-il être autorisé ?