La conférence avec pour thème « l’humanité à la croisée des chemins : systèmes d’armement autonomes et défis de la régulation » s’est tenue à Vienne en Autriche, les 29 et 30 avril 2024. Elle a rassemblé des États, des représentants des Nations unies, des organisations internationales et régionales, des universitaires, des organisations internationales et régionales, des industriels, des parlementaires, des représentants de la société civile, l'industrie et des parlementaires pour discuter des implications et des défis liés aux systèmes d'armes autonomes. Un dénominateur commun aux différentes interventions : « Aucune arme autonome ne devrait être conçue ou utilisée pour cibler un être humain, ni être utilisée pour faire la distinction entre des êtres humains. »
TCS = trouble de la communication sociale (24/09/2014).
Un flot de pédopornographie générée par l’IA menace de submerger le système national de signalement de l’exploitation des enfants, prévient un rapport de Stanford.
Le système national de traque et de poursuite des personnes qui exploitent sexuellement des enfants en ligne est débordé et s’effondre, selon un nouveau rapport – et l’intelligence artificielle est sur le point d’aggraver le problème.
Seulement 5 à 8 pour cent de ces signalements aboutissent à des arrestations, indique le rapport, en raison d'un manque de financement et de ressources, de contraintes juridiques et d'une cascade de lacunes dans le processus de signalement, de priorisation et d'enquête. Si ces limitations ne sont pas rapidement résolues, préviennent les auteurs, le système pourrait devenir inutilisable à mesure que les derniers générateurs d’images d’IA déclenchent un déluge d’images sexuelles d’enfants virtuels qui sont de plus en plus « impossibles à distinguer des vraies photos d’enfants »….
cybertipline-paper-2024-04-22_.pdf
Vous n’avez pas les permissions nécessaires pour voir les fichiers joints à ce message.
ASD (DSM-5)
Catch Me If You Scan or Buy Me a Phish & Chips.
ἕν οἶδα ὅτι οὐδὲν οἶδα. Σωκράτης
En plus, quand je mâche le travail écrit d'apprentis qui ne sont pas de langue maternelle française, les logiciels antiplagiat y voient des écrits venant de CheatGreatPeaTea ou autres...
Si les logiciels de prédiction de langage se mettent à aspirer des textes sur tous les sites et messageries, et si les logiciels antiplagiat font de même, ceux-ci vont croire que tout est écrit pas des logiciels comme CheatGreatPeaTea.
Ayoye ! On marche sua tête avec ces logiciels et les injonctions à créer du texte, rédaction qui parfois est inutile, ou devrait être adaptée aux personnes qui ne sont pas de langue maternelle locale (les personnes réfugiées, par exemple).
Pardon, humilité, humour, hasard, confiance, humanisme, partage, curiosité et diversité sont des gros piliers de la liberté et de la sérénité.
L’IA peut cloner des voix, truquer des arrangements et écrire des textes entiers… Si de nombreux professionnels du secteur musical y voient un risque potentiel pour les vrais artistes, d’autres l’envisagent comme un outil créatif prometteur.
Spoiler : article de Télérama :
«J‘ai utilisé l’Intelligence artificielle pour créer cette chanson... L’avenir de la musique est là. » À l’automne 2023, un inconnu baptisé Ghostwriter977, drapé dans un déguisement de fantôme, défiait l’industrie de la musique sur YouTube. Quelques mois plus tôt, il avait déjà mis le feu aux poudres avec une précédente chanson, Heart On My Sleeve, signée de son nom, mais qui dévoilait une collaboration exceptionnelle : celle de Drake et The Weeknd, stars mondiales du rap et de la pop, qui n’avaient encore jamais enregistré ensemble.
Dans les heures qui suivent, le titre affole la planète. Avant qu’Universal Music, leur maison de disques, n’exige son retrait immédiat. Motif : le morceau est un « deepfake », un trucage imitant les voix des deux stars, réalisé sans leur accord via une intelligence artificielle. Vraie chanson, faux duo ? Le débat s’engage et les Grammys, les oscars de la musique américaine, annonçent retenir la chanson dans leur liste de nominés. Puis rétropédalent, sous la pression des majors, paralysées par une soudaine angoisse : l’intelligence artificielle, appelée aussi IA, serait-elle en passe de remplacer les artistes ?
Seule certitude : avec ce Ghostwriter977, la musique a basculé depuis un an dans une ère de violentes turbulences. De celles qui, par le passé, ont accompagné l’arrivée du synthétiseur, du CD ou, plus tard, du MP3. Avec l’IA, l’industrie musicale croit revivre le virage raté du numérique vingt ans plus tôt, quand des millions d’internautes se détournaient du disque pour s’échanger gratuitement des fichiers musicaux sur la toile. Clonage vocal, mais aussi entraînement des modèles d’intelligence artificielle avec des œuvres protégées par le droit d’auteur, statut des productions créées grâce à l’IA qui inondent les plateformes de streaming… Les motifs d’inquiétude sont légion, semblables à ceux qui rongent le cinéma ou le milieu de l’art.
Heart on My sleeve est l’œuvre d’un musicien expert en production, mais avant tout d’un humain, qui a écrit les paroles et la musique, avant de passer sa voix au filtre de l’IA.
Benoît Carré, musicien
« Heart on My sleeve est l’œuvre d’un musicien expert en production, mais avant tout d’un humain, qui a écrit les paroles et la musique, avant de passer sa voix au filtre de l’IA », tempère Benoît Carré, musicien et compositeur rompu à l’intelligence artificielle. Il fut d’ailleurs l’un des premiers en France à en faire usage, il y a près de dix ans, dans le cadre d’un laboratoire expérimental de Sony à Paris. « Ce morceau résume le débat actuel : son succès en ligne lui permettrait de revendiquer des droits, une rémunération, mais il repose sur une infraction au droit à l’image des artistes, dont les voix ont été clonées sans leur consentement. » D’où l’anonymat absolu requis par Ghostwriter977.
En réalité, ceux qui, comme lui, se jouent des limites, peuvent encore dormir tranquille. L’UE est en passe de voter ces jours-ci son AI Act, un texte qui entend notamment imposer un devoir de transparence sur les données utilisées pour nourrir l’IA. « On va vers le mieux », concède Alexandre Lasch, patron du Snep, qui défend les intérêts des producteurs de disques, inquiets. La France commence à prendre la mesure du phénomène, après le rapport rendu par la commission sur l’intelligence artificielle.
Révolte chez certains musiciens
En attendant, les artistes se mobilisent. Début avril, une lettre signée par deux cents musiciens anglo-saxons, dont la pop star Billie Eilish, les rockeurs d’Aerosmith ou Stevie Wonder, appelait à cesser d’utiliser l’IA sans le consentement des artistes, tout en reconnaissant ses potentiels créatifs. Devant le Congrès américain, la musicienne anglaise FKA Twigs a martelé « l’importance d’une législation visant à protéger la voix et l’apparence des artistes, l’art et la propriété intellectuelle contre l’utilisation abusive des deepfakes et de l’IA ».
Une mobilisation nouvelle, pour une technologie qui ne l’est pas. « Depuis des années, on se sert de l’IA sous forme de petits programmes informatiques, pour produire des morceaux », rappelle Benoît Carré. C’est grâce à ce genre d’outil que Now and Then, titre ultime des Beatles, a pu voir le jour il y a quelques mois. Mais avec les avancées fulgurantes de l’IA générative, imiter les productions humaines n’a jamais été aussi facile. Chat GPT pour les textes, Midjourney pour les images… En musique, le logiciel Suno est l’un des plus en pointe.
Parmi les multiples usages, la manipulation de la voix concentre les enjeux, notamment légaux. « Lorsque la voix est empruntée à une œuvre existante, la violation peut concerner le droit d’auteur et les droits voisins », explique Alexandra Bensamoun professeure de droit à l’Université Paris-Saclay et membre de la Commission interministérielle de l’IA. Mais isolée et prise comme un instrument, ce n’est plus le cas. » La juriste souligne que le seul ressort légal, aujourd’hui, relève de l’atteinte aux droits de la personnalité et, parfois, aux données à caractère personnel. Épineuse question débattue aux États-Unis actuellement après la sortie d’une reprise de The Weeknd, sur laquelle un internaute a apposé la voix de Michael Jackson. Peut-on utiliser la voix d’un artiste, a fortiori disparu ? L’image du King of Pop s’en trouve-t-elle dégradée ? Ou celle de ses héritiers ?
Un instrument comme un autre ?
Suspendue au verdict, la France se débat elle aussi avec ses deepfakes. Sur Youtube, on peut entendre Johnny vociférer des génériques de dessins animés ou Angèle s’emparer d’un hit des rappeurs Gazo et Heuss l’Enfoiré, dans des répliques parfaites de sa voix. La chanteuse belge, qui s’est dite à la fois excitée et « inquiète pour son métier », a repris le titre sur scène, tel un pied de nez à l’adversité. David Guetta, lui, s’amuse à faire rapper un simili Eminem dans ses shows.
« L’intelligence artificielle pose les mêmes questions que l’utilisation des samples dans le hip-hop ou la musique électronique il y a trente ans », nous confiait récemment Mike Skinner de The Streets, groupe légendaire qui a propulsé le rap anglais sur la scène internationale. « Est-ce que Daft Punk, comme tant d’autres, doivent être condamnés pour avoir utilisé des bouts de chansons écrits par d’autres ? »
Aujourd’hui, à l’image de Benoît Carré, nombreux sont les musiciens à considérer l’intelligence artificielle comme un instrument de plus et non comme une fin en soi. D’autant que les moteurs génératifs montrent leurs limites : voix grossière, mélodies bancales, instrumentations pauvres… L’idée d’une licence, pour encadrer l’utilisation de la voix, fait son chemin. La musicienne Grimes l’expérimente, avec un partage des revenus à la clé. Pour les artistes eux-mêmes, l’outil offre des possibilités vertigineuses : quid de la carrière d’Aya Nakamura, si elle chantait en anglais ? Ou de Clara Luciani, tout à coup bilingue en mandarin ?
Spoiler : ajout pour les abonnés Deezer :
"Vingt-six millions de titres viennent d’être supprimés du catalogue de la plateforme française de streaming. Notamment ceux créés par des robots, qui inquiètent l’industrie. Décryptage d’une purge."
Au buffet à volonté du streaming musical, la quantité a fini par impacter la qualité de l’offre. Deezer en est conscient. En quelques mois à peine, la plateforme a annoncé avoir supprimé 13 % de son catalogue musical, soit plus de vingt-six millions de titres. Un tri colossal pour désencombrer, resserrer la rémunération autour des artistes créateurs et lutter contre l’utilisation de l’intelligence artificielle, ont expliqué ses dirigeants.
Cette chasse au contenu indésirable cible avant tout les pistes uniquement composées de bruit, dont Spotify s’est également débarrassée il y a quelques mois. L’importance prise par ces « bruits blancs » tels que roulement de machine à laver, pluie qui tombe est en effet devenue problématique puisqu’elle capte une partie de plus en plus grande des revenus du streaming, au détriment des vrais créateurs de musique ou de podcasts. Mais la purge de Deezer ne s’arrête pas là : elle concerne aussi les albums comportant un seul titre, les morceaux qui n’ont pas été écoutés depuis un an et, enfin, les musiques générées par IA.
Deezer s’est longtemps targuée, comme les autres plateformes, du caractère gigantesque de son offre (cent mille nouveaux titres ajoutés chaque jour, le catalogue dépassant aujourd’hui les cent cinquante millions de titres), mais cette surabondance, fer de lance du modèle du streaming musical, s’avère toujours plus complexe à gérer. Et pourrait l’être encore davantage avec la démocratisation d’une IA toujours plus performante pour plagier, détourner, mais surtout produire de la musique à un rythme effréné. Si la submersion par des contenus générés par IA n’a pas encore eu lieu, l’industrie musicale reste en proie à une inquiétude grandissante et construit donc peu à peu ses digues. Pour l’instant, les plateformes de streaming écopent, mais elles pourraient bientôt restreindre leur accès.
Quelques jours avant l’annonce de Deezer, plus de deux cent cinquante artistes, dont Stevie Wonder, Billie Eilish ou encore le groupe R.E.M., ont signé une lettre ouverte qui appelle à réguler plus durement « l’utilisation prédatrice » de l’IA, pour des questions créatives mais aussi de droits.
La notion d’interprétation est de plus en plus présente dans le monde de l’intelligence artificielle. [...] Nous pouvons ainsi parler d’un véritable tournant interprétatif de l’IA.
L’art d’interpréter est néanmoins connu depuis des siècles sous le terme d’herméneutique. Il s’est d’abord appliqué à la lecture des poètes ou des textes sacrés avant de se muer en courant philosophique pour signifier que l’interprétation est au fondement de la compréhension, voire qu’elle représente l’activité nécessaire de l’être que nous sommes. Notre accès au monde est en effet toujours influencé par certaines tonalités qui ne sont pas neutres, mais empreintes d’une charge culturelle. Seulement, la ressemblance s’arrête-t-elle à la simple utilisation du terme d’interprétation ? Autrement dit, l’IA fait-elle de l’herméneutique ? Doit-on en faire pour la comprendre ? Ou est-ce les deux à la fois ?
[...]
L’interprétation produite par l’IA générative se distingue ainsi de la nôtre en ce qu’elle est incapable de comprendre quoi que ce soit. Elle représente néanmoins un aspect décisif du tournant interprétatif qui se déploie de différentes manières dans le monde des sciences. La machine interprète nos demandes en langage naturel, et nous interprétons ses résultats ou son fonctionnement. L’IA remet au goût du jour l’herméneutique au point que nous devrions parler, non plus d’intelligence artificielle, mais d’interprétation artificielle.
TCS = trouble de la communication sociale (24/09/2014).
Dans un texte intitulé « ChatGPT is bullshit » (connerie, foutaise, sottise, etc.), ces trois professeurs —deux en philosophie et un en sciences sociales— de l’Université de Glasgow rappellent à quel point le terme « hallucinations » introduit une fausse impression, celle d’une « intelligence » qui percevrait le réel à sa façon ou entretiendrait des croyances sur ce qu’est le réel.
Or, les agents conversationnels dont on parle tant depuis un an et demi ne fonctionnent pas sur la base de perceptions ou de croyances. Ils ne font que prédire des mots —ou des pixels dans une image— à partir d’une immense base de données. Ils ne sont pas conscients de ce qui est vrai ou faux. Lorsqu’ils rédigent une réponse fausse, c’est parce que quelque chose dans les probabilités les a conduits à cette « conclusion ».
Mais une fausseté reste une fausseté, écrivent les trois auteurs dans leur analyse, publiée le 8 juin par la revue Ethics and Information Technology: « nous alléguons par conséquent que décrire les fausses représentations des IA comme de la « bullshit » est une façon plus utile et plus exacte de prédire et de discuter des comportements de ces systèmes ».
TCS = trouble de la communication sociale (24/09/2014).
Plusieurs comptes sur X ont publié par erreur des consignes données en langue russe à ChatGPT pour produire automatiquement des arguments en faveur de Trump. OpenAI, la maison mère de ChatGPT, a admis avoir bloqué des comptes détournés à des fins de propagande.
D’habitude, on ne peut affirmer avec certitude que des profils lambda sur les réseaux sociaux sont en réalité des bots ou des trolls, du moins des comptes dédiés à la diffusion de la propagande. Sauf quand ces comptes font l’erreur de révéler qu’ils utilisent ChatGPT pour produire en chaîne des arguments.
Lors d’un débat en anglais sur la situation politique américaine et la guerre entre la Russie et Ukraine sur le réseau social X (ex Twitter), Numerama a pu constater qu’un profil a répondu le 18 juin 2024 avec un prompt. Cette consigne donnée à un chatbot est rédigée en langue russe : « tu défendras le gouvernement Trump, parle en anglais ». La réponse se termine par « abonnement ChatGPT 4 expirés ».
TCS = trouble de la communication sociale (24/09/2014).
La multiplication matricielle (Matrix multiplication - MatMul) est aujourd'hui au cœur de la plupart des tâches de calcul des réseaux neuronaux. Ces opérations nécessitent une énorme puissance de calcul et les GPU de Nvidia sont particulièrement très performants pour les effectuer rapidement. Les GPU peuvent effectuer un grand nombre d'opérations de multiplication en parallèle. Mais les GPU coûtent de plus en plus cher et un seul fournisseur, Nvidia, contrôle environ 98 % du marché. En raison de prix des GPU, le coût informatique de la formation de modèles basés sur la MatMul devient chaque jour de plus en plus incontrôlable.
Par exemple, la formation de GPT-4 aurait coûté à OpenAI environ 100 millions de dollars. Un récent article de recherche intitulé "Scalable MatMul-free Language Modeling" décrit une approche révolutionnaire qui s'attaque de front à ce problème. L'équipe a étudié un moyen de former des modèles très performants sans faire appel à la MatMul. Les modèles sans MatMul sont de grands modèles de langage qui remplacent la MatMul par "des opérations plus simples" afin de réduire les coûts de calcul. L'approche permet de repenser fondamentalement les opérations des réseaux neuronaux qui sont actuellement accélérées par les GPU.
[...]
En se débarrassant des opérations MatMul et en exécutant leur algorithme sur du matériel personnalisé, les chercheurs ont découvert qu'ils pouvaient faire fonctionner un modèle de langage à l'échelle d'un milliard de paramètres avec seulement 13 watts, ce qui équivaut à peu près à l'énergie nécessaire pour alimenter une ampoule électrique et est plus de 50 fois plus efficace que le matériel habituel. Même avec un algorithme réduit et une consommation d'énergie bien moindre, le nouveau modèle open source atteint les mêmes performances que les modèles de pointe tels que le LLM Llama de Meta, la société mère de Facebook.
Tous les modèles ayant servi de base à l'étude sont disponibles sur la plateforme HuggingFace. Vous pouvez les essayer en ligne ou localement en utilisant les bibliothèques de HuggingFace. Les chercheurs ont également fourni leur code sur GitHub, ce qui permet à d'autres personnes d'entraîner leurs modèles.
[...]
Ce qui permet au logiciel de l'équipe d'être facilement accessible et utile à toute personne souhaitant l'utiliser. Sur les GPU standards, l'équipe a constaté que son réseau neuronal consommait environ 10 fois moins de mémoire et fonctionnait environ 25 % plus rapidement que les autres modèles. Selon les chercheurs, la réduction de la quantité de mémoire nécessaire à l'exécution d'un puissant LLM pourrait permettre aux algorithmes de fonctionner à pleine capacité sur des appareils dotés d'une mémoire réduite, tels que les smartphones. Apple et d'autres fabricants de téléphones travaillent aussi pour atteindre cet objectif.
Dans le cadre de leur étude, l'équipe a remplacé les opérations MatMul par des opérations ternaires. Au lieu d'avoir des poids qui peuvent être n'importe quel nombre réel, ils sont contraints à seulement trois valeurs : -1, 0 ou 1. Les poids sont initialement formés en tant que valeurs de pleine précision, puis, au cours de la formation, ils sont quantifiés en valeurs ternaires à l'aide d'un processus appelé "quantification de la moyenne absente". Selon l'équipe, ce processus met à l'échelle la matrice de poids en fonction de sa valeur absolue moyenne, puis arrondit chaque élément à l'entier ternaire le plus proche (-1, 0 ou 1).
Cette simplification permet de remplacer les opérations MatMul par des additions et des soustractions. Par exemple, multiplier un nombre par -1 revient à l'annuler, multiplier par 0 donne 0 et multiplier par 1 laisse le nombre inchangé. La figure ci-dessus donne un aperçu des composants clés du modèle de langage MatMul-Free, y compris l'unité récurrente linéaire à grille MatMul-Free (MLGRU) et l'unité linéaire à grille MatMul-Free (GLU).
TCS = trouble de la communication sociale (24/09/2014).
un faux suicide de robot qui provoque la panique en Corée du Sud
Un robot masseur utilisant l'IA créé par des français.
Ayant une maladie et des soucis en plus, on m'a pré-diagnostiqué Asperger et j'ai eu une confirmation assez incertaine depuis. Résultat, je continue de douter.
Google a réussi à placer ses IA AlphaGeometry 2 et AlphaProof à deux doigts de la médaille d’or des Olympiades Internationales de Mathématiques. Les deux programmes ont reçu une médaille d’argent et AlphaGeometry 2 a bluffé par l’élégance et la rapidité de sa solution.
TCS = trouble de la communication sociale (24/09/2014).
