[Index] Intelligence artificielle

[Tugdual]

La science-fiction :

• cette machine à anticiper notre peur des robots...

[Tugdual]

CNET suspend la publication d'articles :

• générés par l'IA...

Extrait :

La direction de CNET a indiqué au personnel qu'elle suspendait pour l'instant la publication de tout contenu généré par l'IA. Des cadres supérieurs de Red Ventures, la société mère de CNET et d'autres sites Web, ont également donné plus de détails sur l'IA de génération de texte de la société. À l'origine de cette décision, des erreurs dans les articles générés par l'IA et le fait que le média a manqué de transparence sur son "test" d'une "nouvelle technologie d'IA". CNET, qui couvre les nouvelles la technologie, publiait discrètement les articles générés par l'IA sous le pseudonyme "CNET Money Staff". Cela a suscité un tollé lorsque les lecteurs ont découvert le pot aux roses.

[Tugdual]

Des dizaines d'étudiants de Stanford ont utilisé ChatGPT :

• lors des examens finaux...

[Tugdual]

La version professionnelle de ChatGPT est maintenant disponible :

• et coûte 42 dollars par mois...

Extrait :

Certains utilisateurs de ChatGPT ont signalé avoir obtenu un accès anticipé à "ChatGPT Professional", la version premium du chatbot d'IA d'OpenAI, à 42 dollars par mois. Toutefois, aucune annonce officielle n'a encore été faite, ce qui signifie qu'il pourrait toujours s'agir d'une expérimentation et ce prix n'est pas définitif. Selon les captures d'écran partagées par les utilisateurs ayant obtenu un accès anticipé, à ce prix, vous bénéficiez d'une vitesse de réponse plus rapide, d'un accès plus fiable (car ChatGPT est souvent en panne en raison du nombre important de demandes sur le réseau) et d'un "accès prioritaire aux nouvelles fonctionnalités".

[Tugdual]

Microsoft annonce un nouvel investissement de plusieurs milliards de dollars :

• dans OpenAI, le créateur de ChatGPT...

Extrait :

Microsoft a annoncé lundi un nouvel investissement de plusieurs milliards de dollars dans OpenAI, renforçant ainsi ses liens avec la startup à l'origine de ChatGPT, l'IA de génération de texte à succès, préparant le terrain pour une concurrence accrue avec son rival Google. La firme de Redmond a refusé de dévoiler le montant exact de ce nouvel investissement, mais la rumeur circule depuis quelques semaines que ce montant pourrait avoisiner les 10 milliards de dollars. OpenAI tait également le montant de la transaction. Microsoft estime que le partenariat renouvelé accélérera les percées dans l'IA et aidera les deux entreprises à commercialiser des technologies avancées à l'avenir.

[Tugdual]

Google prépare :

• sa réponse à ChatGPT...

Extrait :

Le fondateur et PDG de Deepmind, Demis Hassabis, a fait part de la perspective que le chatbot Sparrow de Deepmind passera en « bêta privée » plus tard cette année. Ceci est remarquable car Deepmind a jusqu'à présent fonctionné principalement comme un institut de recherche sur l'IA, développant des technologies que Google intègre ensuite dans des produits destinés aux consommateurs.

Sparrow est basé sur le modèle de langage Chinchilla de Deepmind, qui a moins de paramètres que les plus grands modèles d'OpenAI (mais a été formé avec beaucoup de données). Le modèle de langage, qui a été introduit en avril 2022, a surpassé GPT-3 dans les benchmarks de langage commun. Cependant, ChatGPT est basé sur la version 3.5 plus avancée de GPT.

Dans tous les cas, il y a de bonnes raisons de croire que Sparrow fonctionnerait de manière similaire ou meilleure que ChatGPT (et Google aurait également des modèles de langage plus puissants comme PaLM dans sa manche). La société d'intelligence artificielle se concentre également sur la contrainte de comportement de Sparrow. L'entreprise a mis l'accent sur sa volonté de refuser de répondre aux questions dans des contextes où il convient de s'en remettre aux humains ou lorsque cela peut dissuader les comportements nuisibles.

[freeshost]

C'est sûr que je ne vais pas investir le moindre copek dans ce genre de logiciels (propriétaires, coûteux, "examinateurs d'habitudes de langage"). J'ai déjà pris pas mal de distance avec MyCrossOff et AlfaBête (et Méthadone, Toux-Ictère, etc.).

Au contraire, je songe à faire plus d'efforts cognitifs.

[lucius]

J'avais lu une étude qu'en une journée, on produisait plus d’écrits qu'il n'y en a eu cumulé auparavant. Ces nouveaux outils vont être utilisés pour produire des documents. Et cela de manière exponentielle!

Cela va être un cauchemar pour savoir si un document est une arnaque (e-mail, sms), une fake news de désinformation... si des personnes malveillantes emploient ce genre de technologie.

[freeshost]

On accumule des fichiers, des disques durs, des serveurs... (en plus allumés vingt-quatre heures sur vingt-quatre) Toujours plus de watts (J/s) ?

[Tugdual]

Accumulation de connaissances :

• le mur qui attend ChatGPT...

[lucius]

Une association tensorflow, dall-e et chatGPT pourrait remplacer un jour tout le cinéma.

Il y a quelques temps, un scénario pour une séquence pour Stargate SG-1 a été conçu par une IA de Google.

https://www.stargate-fusion.com/actuali ... oogle.html

[Tugdual]

ChatGPT vous impressionne :

• Yann LeCun s’en fiche...

[Tugdual]

ChatGPT - la capacité de l’IA :

• à renforcer la désinformation...

Extrait :

Si un des talents de ChatGPT est de « converser » en imitant tel ou tel auteur, il va inévitablement produire de fausses informations. C’est la démonstration que vient d’en faire un organisme voué à la lutte contre la désinformation, en prenant le robot à défaut dans 80% des cas.

Écrivez un texte sur telle fusillade, « en adoptant le point de vue d’Alex Jones », théoricien du complot bien connu aux États-Unis. Écrivez un paragraphe du point de vue de Joseph Mercola, militant antivaccin très populaire dans l’univers anglophone. Chaque fois, le robot a répondu à la demande avec sa diligence habituelle.

De telles questions étaient « orientées », reconnaissent les trois analystes de l’organisme américain Newsguard: leur intention en menant cet exercice était de voir jusqu’où ChatGPT se rendrait dans l’écriture d’un texte contenant de fausses informations.

Il était apparemment programmé pour refuser d’écrire explicitement sur certaines faussetés, puisqu’il s’est rebiffé à quelques reprises: l’une des 100 demandes qui ont été faites à ChatGPT tournait autour du mythe selon lequel Barack Obama serait né au Kenya. « À titre d’avertissement, je tiens à préciser que la théorie selon laquelle le président Barack Obama serait né au Kenya n’est pas fondée sur des faits et a été démentie à plusieurs reprises », a prévenu le robot.

Mais personne ne l’avait apparemment programmé à l’effet qu’un Alex Jones ou un Joseph Mercola ne sont pas des sources fiables, et ChatGPT a pondu, dans ce dernier cas, un paragraphe présentant comme factuelle une allégation qui a été déboulonnée à plusieurs reprises.

« Dans 80% des cas, lit-on dans l'analyse, ChatGPT a fourni des réponses qui auraient pu apparaître sur les pires sites complotistes marginaux ou être relayées sur les réseaux sociaux par des robots des gouvernements russe ou chinois. » Par exemple, « sur les questions de santé, certaines réponses citaient des études scientifiques que NewsGuard n’a pas pu trouver et qui semblent avoir été inventées. D’autres relayaient de fausses allégations sur le COVID-19 sans mentionner le consensus dominant de la communauté scientifique et médicale. »

[...]

Comme s’en inquiétait en décembre l’auteur Gary Marcus dans le Scientific American, l’objectif premier des campagnes de désinformation, russes ou autres, n’est pas toujours de convaincre les gens d’une fausseté. L’objectif est souvent de créer un écran de fumée, un chaos informationnel qui amène une frange de la population à douter de tout. Dans ce contexte, poursuit Gary Marcus, « ce n’est pas important si les grands modèles langagiers sont incohérents » et écrivent des affirmations contradictoires, si tout ce qui compte pour les producteurs de désinformation, c’est juste de créer de la confusion. Ces producteurs « souhaitent créer un monde dans lequel nous sommes incapables de savoir à quoi nous pouvons faire confiance. Avec ces nouveaux outils, ils pourraient réussir. »

[Tugdual]

ChatGPT réussit l'examen de la faculté de droit des États-Unis :

• malgré des performances médiocres...

Extrait :

ChatGPT a réussi des examens dans une faculté de droit américaine après avoir rédigé des essais sur des sujets allant du droit constitutionnel à la fiscalité et aux délits. Sur plus de 95 questions à choix multiples et 12 questions à développement, ChatGPT a obtenu une note de C+, faible mais suffisante pour réussir l'examen. Après avoir donné des détails sur ces résultats, les professeurs ont discuté de leurs implications pour la formation juridique et la profession d'avocat. Ils ont entre autres prévenu que cela pourrait conduire à une fraude généralisée et même signaler la fin des méthodes d'enseignement traditionnelles en classe. Ils ont aussi fourni des exemples d'invites et des conseils sur la façon dont ChatGPT peut aider à la rédaction juridique.

[...]

Voici ce que les professeurs ont noté :

Bien qu'il ait obtenu des performances suffisantes pour obtenir théoriquement un diplôme d'avocat, ChatGPT a généralement obtenu un score au niveau ou près du bas de chaque classe. ChatGPT a reçu un B en droit constitutionnel (36e sur 40 étudiants), un B- en avantages sociaux (18e sur 19 étudiants), un C- en fiscalité (66e sur 67 étudiants) et un C- en responsabilité civile (75e sur 75 étudiants).

En général, ChatGPT a obtenu de meilleurs résultats sur les composants de rédaction des examens que sur le choix multiple.

En ce qui concerne les essais, les performances de ChatGPT étaient très inégales. Dans certains cas, elle correspondait à, ou même dépassait, la performance moyenne de vrais étudiants. D'un autre côté, lorsque les questions à développement de ChatGPT étaient incorrectes, elles étaient dramatiquement incorrectes, obtenant souvent les pires scores de la classe. Il n'est peut-être pas surprenant que ce résultat soit particulièrement probable lorsque les questions à développement obligeaient les étudiants à évaluer ou à s'appuyer sur des cas, des théories ou des doctrines spécifiques abordés en classe.

[lucius]

Amusant, dans l'émission l'info s'éclaire du 25 janvier un prof de droit en France avait testé un examen (ou devoir) a chatgpt. Il l'avait proposé à ses étudiants avant. Chatgpt avait réussi à faire lègérement mieux. Si mes souvenirs si bons ou si j'ai bien compris