[Index] Intelligence artificielle

[Tugdual]

Premier test de Bing ChatGPT :

• je me suis disputé avec une IA...

Extrait :

Comme ChatGPT, le nouveau Bing est stupéfiant. Capable de répondre à tout, d’argumenter, de réagir avec humour, de rebondir sur des sujets et de contextualiser des informations difficiles à comprendre en quelques secondes, l’IA génératrice de Microsoft met une raclée à Google et aux moteurs de recherche tels que nous les connaissions. Cependant, ce qui m’a surpris avec mes premières questions est l’incroyable capacité de déformation de la réalité de Bing :

[...]

Ces bugs peuvent sembler naturels pour une IA en bêta, qui puise ses données sur Internet, mais le plus étonnant est que Bing s’entête et refuse parfois d’admettre ses erreurs. Sur la question du box-office, j’ai dû lui expliquer à cinq reprises, chiffres et liens à l’appui, qu’il se trompait. Bing a maintenu à plusieurs reprises que je devais faire attention à mes sources et que ses chiffres étaient factuels. Puis, subitement, il a reconnu qu’Avatar 1 était en tête, tout en niant avoir dit l’inverse. Il me jure que les propos que je lui attribue ne sont pas les siens et que j’invente des propos. J’ai presque eu l’impression de me faire engueuler par une IA, qui venait pourtant de me mentir cinq fois d’affilée.

[...]

Ce qui est dommage est que l’affichage des sources de Bing devrait justement lui permettre de se rendre plus intelligent que ChatGPT. Pourtant, quand on clique sur l’une des sources citées en bas, il arrive souvent de ne pas trouver l’information énoncée par Bing. C’est vraiment très étonnant, puisque Bing n’est pas censé s’octroyer la liberté d’inventer à partir des données qu’il trouve en ligne.

[...]

Bing est capable de créer du contenu comme ChatGPT, parfois même encore plus facilement grâce à son intégration au navigateur Edge. On peut toujours lui demander de rédiger une lettre, de répondre à un mail, de créer un poème, d’écrire une chanson en imitant le style d’un chanteur… En revanche, contrairement à ChatGPT, Bing a refusé d’imiter le style d’écriture d’une personnalité. Il insiste sur le fait qu’il est un moteur de recherche, pas une IA, et qu’il faut donc arrêter de lui demander ça. Microsoft a quelque peu limité les capacités de son outil.

[...]

Autre divergence avec l’outil d’OpenAI : Bing refuse d’écrire un article en entier d’un seul coup, sous prétexte que « c’est votre travail de journaliste ». En revanche, si on lui demande d’écrire chaque partie une par une, il le fait.

[...]

Si je n’ai aucun doute sur la révolution permise par l’ascension de ces nouvelles technologies, les nombreuses erreurs commises par l’IA me laissent penser qu’il vaut mieux ne pas trop se précipiter, au risque de commettre une immense erreur. Quoi qu’il en soit, ChatGPT et Bing règnent aujourd’hui sur les chatbots.

[masebast]

Si l'on accepte que l'intelligence est diverse, alors l'intelligence artificielle s'en trouverait elle aussi diversifiée (on axerait peut être les recherches sur autre chose que la logique ou "l'espace" par exemple).

Bonjour,

Je souhaite répondre mais il me faut un peu de temps. Je suis lent.

[freeshost]

Si on déléguait moins de tâches cognitives aux logiciels, nous serions moins des zombies préformatés.

[masebast]

Les émotions (et sentiments) sont généralement des fantastiques pertubatrices/perturbateurs de raisonnements logiques, d'exécution, sont de véritables lobbies d'interprétation de tout, d'imagination, de réactions impulsives.

Bonjour, (c’est un petit hors sujet, mais voilà…)

Goya a fait une série de gravures, les caprices. La planche 50 montre des personnes qui n’entendent rien. La langue française est peut-être bien faite à ce niveau. Entendre c’est moins passif qu’écouter, ça suppose qu’il y a comme une action (laquelle ?) qui vient inscrire dans une contexture (sous quel motif ?), (de quelle manière ?), (dans quel but ?), ce qui figure être comme l’ouvrage incessant d’un monde de sens/de non sens. Ici je vois un monde de tissage, le monde des broderies, les toiles d’araignée, les nids.

Imaginez que votre conscience est un petit point brillant dans l’obscurité et qui dans le temps trace une ligne de lumière, et regardez comme la ligne de ce point vient se boucler autour de quelque chose qu’elle ne peut saisir. Certains de ces passages s’effacent, d’autres sont si brillants qu’ils semblent avoir toujours existé. Et cette ligne n’a que des mots pour imiter les factures de ses dimensions. Une phrase comme un fil pour donner une direction, une intention qui hante plus les mots qu’elle ne les habite.

Entendre c’est se faire à la fois capture et à la fois ouvrage. C’est peut-être même un art. L’allemand « Verstand », je le vois comme ce qui se retient, dans une répétition. Et les concepts sont des synthèses qui sont produites par l’entendement. A Königsberg, un vieux professeur vers 1800 enseignait la logique comme un corps mort et pourtant il l’avait en quelque sorte révolutionnée par sa logique transcendantale. Mais est ce que la vérité peut être réécrite ? Son subterfuge était de démontrer que la logique universelle était pure mais impensable sinon à travers des tautologies. Elle n’était apprehendable qu’à travers une logique qui prend appui sur la sensibilité (la capacité d’être affecté, la réceptivité des impressions) Et tout son art c’est d’avoir montré que la logique universelle était le résultat d’une abstraction que sa logique permettait.

Tout ça pour dire qu’il y a un univers qui échappe au langage, au sens, que Lewis Caroll a bien thématisé et qui est la pierre philosophale de la logique. Seulement, c’est l’art le plus difficile. Et cet art, Kant le fait reposer sur sa fameuse réflexion transcendantale qui n’est finalement qu’un état d’âme qui articule cette logique universelle. Est ce qu’une machine est capable d’états d’âme ?

[Tugdual]

ChatGPT a réussi de justesse :

• à un examen médical important...

Extrait :

Selon les chercheurs, ChatGPT est la première IA à obtenir un score de réussite à l'examen de licence médicale, mais elle serait toujours mauvaise en mathématiques. Selon une étude publiée le 9 février 2023 dans la revue PLOS Digital Health par Tiffany Kung, Victor Tseng et leurs collègues d'AnsibleHealth, ChatGPT peut obtenir un score égal ou proche du seuil de réussite d'environ 60 % pour l'examen de licence médicale des États-Unis (USMLE), avec des réponses qui ont un sens cohérent et interne et qui contiennent des idées fréquentes.

[Tugdual]

Bing ChatGPT a un gros problème :

• il ment, insulte et prétend être humain...

Extrait :

Après une semaine de discussions avec Bing AI, notre avis sur les agents conversationnels a grandement évolué. Là où ChatGPT impressionne, Bing a tendance à s’autoriser trop de libertés. Ses réponses varient trop d’une session à une autre, à tel point que l’on se demande parfois si Microsoft n’est pas en train de tout gâcher.

[...]

S’il s’avère impressionnant dès qu’on lui demande de répondre à une question ou de générer du texte, l’agent conversationnel de Microsoft ne semble parfois pas connaître ses limites, quitte à devenir insultant ou à révéler des secrets. Plus embêtant, il ment et fait douter son utilisateur au moindre désaccord.

[...]

L’authenticité est justement un des problèmes du nouveau Bing. Au lieu de simplement répondre à une question en se donnant un air intelligent, comme le faisait ChatGPT, il use énormément des emojis et de petites phrases pleines d’attentions pour donner l’impression de ressentir des émotions. Mais, est-ce vraiment son rôle ?

[...]

Microsoft reconnaît lui-même avoir observé des sorties de piste lors des premiers jours du nouveau Bing. Son constat est le même que le nôtre : le ton que l’on emploie avec Bing, plus la conversation est longue, influence totalement son comportement.

[Tugdual]

Bing ChatGPT est limité à 5 réponses :

• pour l’empêcher de dire des insultes...

Extrait :

Concrètement, la firme de Redmond va brider le chatbot. « À partir d’aujourd’hui [vendredi], l’expérience de chat sera limitée à 50 tours par jour et 5 tours par session. Un tour implique un échange qui contient à la fois la question de l’utilisateur et la réponse de Bing », indique Microsoft. En somme, on ne pourra plus utiliser Bing à l’infini, ce qui l’empêchera d’en faire trop. « Dès qu’une session de chat atteint les cinq tours, on vous demandera de commencer un nouveau sujet », précise la firme de Redmond. 

[...]

Microsoft justifie ces changements par des statistiques : a priori, beaucoup d’utilisatrices et d’utilisateurs trouvent leurs réponses en moins de cinq tours, alors que seuls 1 % des conversations dépassent les 50 messages. Il reconnaît quand même que des longs échanges peuvent rendre l’intelligence artificielle confuse. Elle a donc besoin d’être réinitialisée pour ne pas commencer à dire n’importe quoi. C’est ce qui explique la limite des cinq tours désormais imposée. 

[Tugdual]

Des pasteurs utiliseraient ChatGPT :

• pour écrire des sermons...

Extrait :

Les rédacteurs de sermons seraient fascinés et inquiets par les capacités en pleine expansion de ChatGPT. Pour l'instant, ils seraient tous d’accord sur le fait que : « Oui, ils peuvent écrire un sermon passablement compétent. Mais non, ils ne peuvent pas reproduire la passion de la prédication réelle. » « Il manque une âme - je ne sais pas comment le dire autrement », a déclaré Hershael York, un pasteur du Kentucky qui est également doyen de l'école de théologie et professeur de prédication chrétienne au Southern Baptist Theological Seminary.

[Tugdual]

GPT-3 serait aussi performant qu'un humain de neuf ans :

• dans les tests standard de la théorie de l'esprit...

Extrait :

Récemment, OpenAI a publié une mise à jour de GPT-3 pour l'édition et l'insertion de texte. Cette mise à jour apporte une nouvelle couche de contrôles à ce que GPT-3 va faire et modifier. Par exemple, nous pouvons fournir un texte d'entrée et une commande et laisser GPT-3 transformer le texte d'entrée en une sortie attendue.

Michal Kosinski, psychologue informatique à l'université de Stanford à Palo Alto, a donc décidé de le découvrir. Il a soumis les systèmes d'IA à des tests psychologiques standard utilisés sur les humains. L'extraordinaire conclusion de Kosinski est qu'une théorie de l'esprit semble avoir été absente de ces systèmes d'IA jusqu'à ce qu'elle apparaisse spontanément l'année dernière. Ses résultats ont de profondes implications pour notre compréhension de l'intelligence artificielle et de la théorie de l'esprit en général.

[...]

Les résultats des travaux de Michal Kosinski et son équipe montrent que les modèles publiés avant 2022 ne révèlent pratiquement aucune possibilité à résoudre les tâches de théorie de l'esprit. Pourtant, la version de janvier 2022 de GPT-3 (davinci-002) a résolu 70 % des tâches de théorie de l'esprit, une performance comparable à celle d'enfants de sept ans. De plus, sa version de novembre 2022 (davinci-003) a résolu 93 % des tâches de théorie de l'esprit, une performance comparable à celle d'enfants de neuf ans. Ces résultats suggèrent que les capacités de théorie de l'esprit (considérées jusqu'à présent comme exclusivement humaines) ont pu apparaître spontanément comme un sous-produit de l'amélioration des compétences linguistiques des modèles de langage.

[...]

Mais il existe une autre explication possible : notre langage contient des modèles qui codent le phénomène de la théorie de l'esprit. « Il est possible que GPT-3.5 ait résolu des tâches de théorie de l'esprit sans faire appel à la théorie de l'esprit, mais en découvrant et en exploitant certains modèles linguistiques inconnus », explique-t-il.

Cela « implique l'existence de régularités inconnues dans le langage qui permettent de résoudre des tâches de théorie de l'esprit sans engager la théorie de l'esprit. » Si c'est vrai, notre compréhension des états mentaux des autres est une illusion entretenue par nos modèles de langage. Kosinski reconnaît qu'il s'agit d'une idée extraordinaire. Cependant, nos schémas de pensée doivent être intimement liés à nos schémas de langage, puisque chacun d'eux code en quelque sorte l'autre.

Les résultats des travaux de Michal Kosinski et son équipe montrent que les modèles de langage récents atteignent des performances très élevées dans les tâches classiques de fausses croyances, largement utilisées pour tester la théorie de l'esprit chez l'homme. Il s'agit d'un phénomène nouveau. Pourtant, les modèles publiés avant 2022 ont obtenu des performances très faibles, voire nulles, tandis que le plus récent et le plus grand des modèles, GPT-3.5, a obtenu des performances équivalentes à celles d'enfants de neuf ans, en résolvant 92 % des tâches.

[lucius]

Des pasteurs utiliseraient ChatGPT :

• pour écrire des sermons...

Extrait :

Les rédacteurs de sermons seraient fascinés et inquiets par les capacités en pleine expansion de ChatGPT. Pour l'instant, ils seraient tous d’accord sur le fait que : « Oui, ils peuvent écrire un sermon passablement compétent. Mais non, ils ne peuvent pas reproduire la passion de la prédication réelle. » « Il manque une âme - je ne sais pas comment le dire autrement », a déclaré Hershael York, un pasteur du Kentucky qui est également doyen de l'école de théologie et professeur de prédication chrétienne au Southern Baptist Theological Seminary.

Dans l'immobilier, ils s'en servent pour rédiger les annonces.

https://www.journaldelagence.com/130374 ... -pavanello

[freeshost]

Pour développer soi-même notre art rhétorique et analytique, c'est râpé.

[lucius]

Pas forcément! Cela peut devenir un bon challenger pour progresser comme les sortes d'IA aux échecs.

[freeshost]

Si c'est pour apprendre par cœur sans comprendre, non merci.

Et faire un discours rhétorique demande de s'adapter à plus de paramètres que jouer une partie d'échecs.

[lucius]

Justement, cela permet de devoir s'adapter à un adversaire qui a des ressources de données et qui ne donne pas toujours les mêmes réponses. Qui demande d'apprendre par coeur? On peut s'en servir comme débatteur adverse.

[freeshost]

Pour débattre, il faut vocaliser avec le langage oral.

Bon, bien sûr, les interactions sociales en face-à-face (débat face-à-face par exemple) sont plus fatigantes pour les personnes autistes, mais elles en valent la peine, moyennant des périodes de repos avant et après.

Le logiciel a trop de données.