[Index] Intelligence artificielle

[Mizunotama]

Un strip humoristique sur ChatGPT (les développeurs comprendront) :
https://www.commitstrip.com/fr/2022/12/ ... new-world/?

[Tugdual]

De quoi ChatGPT :

• est-il vraiment capable ?

[freeshost]

"Bande de cons, vous auriez pu faire phi d'Idriss Aberkane !"

[Tugdual]

CNET publie discrètement des articles entiers :

• générés par l'IA...

Extrait :

CNET, un média d'information technologique populaire, a discrètement utilisé l'aide d'une technologie d'automatisation sur une nouvelle vague d'articles explicatifs financiers, apparemment à partir de novembre de l'année dernière. En l'absence de toute annonce ou couverture officielles, il semble que cela ait été repéré pour la première fois par le spécialiste du marketing en ligne Gael Breton dans un tweet mercredi.

Également...

Le site tech CNET a laissé ChatGPT écrire des articles :

• sans le dire clairement...

Modifications :

• 14/01/2023 : Ajout d'un lien.

[Tugdual]

Science Étonnante :

• IA génératives et méthodes de diffusion...

[Tugdual]

Les résumés d'articles générés par ChatGPT :

• parviennent à duper des scientifiques...

Extrait :

ChatGPT peut générer de faux résumés d'articles de recherche si convaincants que les scientifiques sont souvent incapables de les repérer, selon une prépublication sur le serveur bioRxiv fin décembre. Les chercheurs sont divisés sur les implications pour la science.

[...]

« Je suis très inquiète », déclare Sandra Wachter, qui étudie la technologie et la réglementation à l'Université d'Oxford, au Royaume-Uni, et n'a pas participé à la recherche. « Si nous sommes maintenant dans une situation où les experts ne sont pas en mesure de déterminer ce qui est vrai ou non, nous perdons l'intermédiaire dont nous avons désespérément besoin pour nous guider à travers des sujets compliqués », ajoute-t-elle.

[...]

Depuis sa sortie, les chercheurs se sont attaqués aux problèmes éthiques entourant son utilisation, car une grande partie de sa production peut être difficile à distinguer du texte écrit par l'homme.

C'est peut-être l'une des raisons qui a motivé la décision de l'International Conference on Machine Learning (ICML), l'une des conférences sur l'apprentissage automatique les plus prestigieuses au monde, qui a interdit aux auteurs d'utiliser des outils d'IA comme ChatGPT pour rédiger des articles scientifiques. L'ICML a déclaré : « Les articles qui incluent du texte généré à partir d'un modèle de langage à grande échelle (LLM) tel que ChatGPT sont interdits à moins que le texte produit ne soit présenté dans le cadre de l'analyse expérimentale de l'article ».

[...]

Filigrane (à venir)

En plus d'aborder le problème comme les détecteurs de plagiat l'ont fait dans le passé, OpenAI tente de résoudre le problème en filigranant tout le texte ChatGPT. Selon une récente conférence sur la sécurité de l'IA par le chercheur invité d'OpenAI, Scott Aaronson, les ingénieurs ont déjà construit un prototype fonctionnel qui ajoute un filigrane à tout texte créé par OpenAI.

« Fondamentalement, chaque fois que GPT génère un texte long, nous voulons qu'il y ait un signal secret autrement imperceptible dans ses choix de mots, que vous pouvez utiliser pour prouver plus tard que, oui, cela vient de GPT », explique Aaronson. L'outil utiliserait ce qu'il appelle une « fonction cryptographique pseudo-aléatoire ». Et seul OpenAI aurait accès à cette clé.

[Tugdual]

« 5 IA surpuissantes », par Science4All :

[Tugdual]

« Google a empoisonné la communauté scientifique », par Science4All :

[Tugdual]

« TikTok ：la télécommande magique de Xi », par Science4All :

[Tugdual]

Galactica, la nouvelle démo de Meta AI :

• écrit de la littérature scientifique raciste et inexacte...

Extrait :

Le 15 novembre passé, Meta a dévoilé un nouveau grand modèle de langage appelé Galactica, conçu pour aider les scientifiques. Mais au lieu d'atterrir avec le big bang que Meta espérait, Galactica s'est éteint après trois jours de critiques intenses. Selon un rapport du MIT Technology Review, Meta a retiré la démo publique qu'elle avait encouragé tout le monde à essayer le 17 novembre.

Le faux pas de Meta - et son orgueil démesuré - montre une fois de plus que les grandes entreprises technologiques sont aveugles aux graves limitations des grands modèles de langage. De nombreuses recherches mettent en évidence les défauts de cette technologie, notamment sa tendance à reproduire les préjugés et à affirmer que des faussetés sont des faits.

Les grands modèles de langage (LLM), tels que le GPT-3 d'OpenAI, apprennent à écrire des textes en étudiant des millions d'exemples et en comprenant les relations statistiques entre les mots. Ils peuvent ainsi rédiger des documents à l'apparence convaincante, mais ces travaux peuvent également être truffés de faussetés et de stéréotypes potentiellement dangereux.

Entrez dans Galactica, un LLM destiné à la rédaction de littérature scientifique. Ses auteurs ont entraîné Galactica sur « un vaste corpus de connaissances scientifiques de l'humanité », comprenant plus de 48 millions d'articles, de manuels et de notes de cours, de sites Web scientifiques et d'encyclopédies. D'après l'article de Galactica, les chercheurs de Meta AI pensaient que ces prétendues données de haute qualité conduiraient à des résultats de haute qualité. Meta présentait le modèle comme « une nouvelle interface pour accéder et manipuler ce que nous savons de l'univers. »

Si certaines personnes ont trouvé la démo prometteuse et utile, d'autres ont rapidement découvert que n'importe qui pouvait taper des invites racistes ou potentiellement offensantes, générant tout aussi facilement du contenu faisant autorité sur ces sujets. Par exemple, quelqu'un l'a utilisé pour créer une entrée wiki sur un article de recherche fictif intitulé « Les avantages de manger du verre pilé ».

[freeshost]

Les résumés d'articles générés par ChatGPT :

• parviennent à duper des scientifiques...

(...)

Its name is CheatGhostlyPerformedText3, and it is not the last one.

[freeshost]

Je viens de partager ici (=> Algorithmes) quelques premiers fichiers sur nos premiers questionnements et nos premières réactions sur les modèles de langage, comme ChatGPT.

[Je devrai mettre à jour les fichiers pdf.]

[freeshost]

ChatGPT est modèle spéculatif basé sur les nombreuses informations dont il s'est nourri, ce qui ne l'empêche pas de dire des faussetés :

- citer une étude mais dire des choses qui n'y correspondent pas ;
- répéter des faussetés dont il s'est nourri ;
- etc.

C'est comme un perroquet stochastique qui, avec ses millions (plus tard milliards, billons, billards, etc.) de paramètres, peut donner l'illusion d'être un devin, une voyante, un être humain. On retrouve un peu cette illusion dans Les Schtroumpfs et le livre qui dit tout (lire aussi sur Fr.Wikipedia.Org). En plus, dans cet album, le livre est à court d'énergie et doit se recharger. Tous ces ordinateurs et ces logiciels puissants (watt = Joule / seconde) utilisent beaucoup d'électricité. Est-ce vraiment ce que nous voulons ?

[Tugdual]

DeepMind, la filiale de Google spécialisée dans l'IA, annonce qu'elle lancera bientôt :

• un concurrent de ChatGPT...

Extrait :

Le PDG de DeepMind, Demis Hassabis, a déclaré que la société envisageait de lancer son propre chatbot, appelé Sparrow, en bêta privée au cours de l'année. Présenté comme une potentielle réponse de Google à ChatGPT, le chatbot de DeepMind promet d'être un assistant d'IA plus sûr et plus avancé que son rival. Sparrow a été présenté au monde l'année dernière comme une preuve de concept dans un document de recherche qui le décrit comme un "agent conversationnel utile et réduisant le risque de réponses toxiques et inappropriées".

[Tugdual]

Derrière ChatGPT :

• le traumatisme de travailleurs sous-payés pour modérer l’IA...

Extrait :

Une vaste enquête du magazine TIME, publiée le 18 janvier 2023, révèle comment OpenAI, la société créatrice du programme, a mobilisé, via un sous-traitant, des travailleurs kényans rémunérés 2 dollars de l’heure. Dans des conditions de travail, qui plus est, traumatisantes.

Si OpenAI a fait appel à ces travailleurs, c’est pour rendre ChatGPT moins « toxique », c’est-à-dire éviter qu’il puisse vous répondre des textes racistes, homophobes, violents. Leur rôle était de modérer, en amont, ce risque. Mais à quel prix ?

[...]

OpenAI et Sama ont passé trois contrats d’une valeur totale de 200 000 dollars. Dans son pôle au Kenya, l’entreprise a construit trois groupes, d’une douzaine de personnes chacun, se répartissant trois thèmes principaux : abus sexuels, discours de haine, violence. Ces employés étaient payés entre 1,32 et 2 dollars de l’heure pour cette labellisation. Ils devaient analyser environ 150 à 250 bribes de texte, de 100 à 1 000 mots par bride, par journée de neuf heures.

[...]

Sama a nié en partie les accusations de ces témoignages auprès du TIME.

[...]

Malgré tout, l’enquête du TIME révèle que la « nature traumatisante du travail » a finalement conduit Sama à mettre fin à sa collaboration OpenAI en février 2022, « huit mois plus tôt que prévu ».