[Index] Intelligence artificielle

Pour les gens qui ont simplement envie de discuter sans souhaiter faire passer d'information particulière.
Avatar du membre
Tugdual
Modérateur
Messages : 42584
Enregistré le : jeudi 15 novembre 2012 à 0:13
Localisation : Nord-44

Re: [Index] Intelligence artificielle

Message par Tugdual »

Une expérience inédite démontre que former des modèles d’IA puissants sans enfreindre la loi :
Extrait :
Un collectif de plus de vingt chercheurs, piloté par l’association à but non lucratif EleutherAI (MIT, CMU, University of Toronto), a constitué un jeu de données de 8 To exclusivement issu de contenus sous licence ouverte ou appartenant au domaine public. À partir de ce corpus, ils ont entraîné Comma v0.1, un modèle de 7 milliards de paramètres, dont les performances sont comparables à celles de LLaMA 2‑7B de Meta, un modèle formé sur des données potentiellement protégées.

Contrairement aux gigantesques jeux de données non filtrés utilisés par les grandes entreprises d’IA, cette initiative a misé sur un protocole stringent :
  • Collecte uniquement sous licences libres ou domaine public ;
  • Annotation manuelle de chaque donnée pour valider les licences, indispensable face aux défis d’automatisation.
Le résultat ? Un modèle performant, mais dont la constitution reste coûteuse – tant en temps qu’en ressources.
TCS = trouble de la communication sociale (24/09/2014).
Avatar du membre
Tugdual
Modérateur
Messages : 42584
Enregistré le : jeudi 15 novembre 2012 à 0:13
Localisation : Nord-44

Re: [Index] Intelligence artificielle

Message par Tugdual »

Des agents d’intelligence artificielle viennent de se hisser parmi l’élite mondiale :
Extrait :
L’entreprise Palisade Research a publié un rapport inédit sur le potentiel des IA dans le domaine de la cybersécurité offensive. Pour la première fois, des agents autonomes basés sur des modèles d’intelligence artificielle ont été intégrés à des compétitions internationales de type Capture The Flag (CTF), dans lesquelles les participants doivent résoudre des défis de hacking concrets. Résultat, les IA ont brillé : dans certains cas, elles se sont classées dans le top 5 % des participants humains. L’étude explore l’idée que les performances réelles de l’IA ne peuvent être pleinement révélées que dans des environnements ouverts, collaboratifs et compétitifs. Ces expériences pourraient redéfinir la manière dont le potentiel de l’intelligence artificielle est évalué et audité à l’échelle mondiale.
TCS = trouble de la communication sociale (24/09/2014).
Avatar du membre
Jiheu
Prolifique
Messages : 670
Enregistré le : samedi 25 août 2018 à 9:02

Re: [Index] Intelligence artificielle

Message par Jiheu »

https://www.sudouest.fr/sciences-et-tec ... 797279.php

Ce mardi, l’outil d’intelligence artificielle générative développé par OpenAI a été victime d’une panne massive, rendant son utilisation impossible pour de nombreux internautes
Fils de 19 ans dont le diagnostic est confirmé.
Avatar du membre
Tugdual
Modérateur
Messages : 42584
Enregistré le : jeudi 15 novembre 2012 à 0:13
Localisation : Nord-44

Re: [Index] Intelligence artificielle

Message par Tugdual »

Malgré leur adoption rapide et les investissements substantiels, les chatbots IA ont jusqu'à présent eu :
Extrait :
En 2024, le PDG de la société suédoise Klarna a vanté haut et fort les capacités de son nouveau chatbot d'IA en affirmant qu'il gère l'équivalent de la charge de travail de 700 travailleurs. Le chatbot serait capable de gérer les communications avec les clients, rendre les acheteurs plus heureux et même générer de meilleurs résultats financiers. Lors de l'annonce, le chatbot prendrait déjà en charge environ 66 % de l'assistance à la clientèle, soit quelque 2,3 millions de conversations jusqu'à présent.

Cependant, les implications plus larges de l'IA générative sur le marché du travail restent floues. C'est pourquoi, une nouvelle étude a examiné les effets des chatbots IA sur le marché du travail à l'aide de deux enquêtes à grande échelle (fin 2023 et 2024) couvrant 11 professions exposées (25 000 travailleurs, 7 000 lieux de travail), reliées à des données appariées sur les employeurs et les employés au Danemark.

[...]

En utilisant les différences dans les différences et les politiques des employeurs comme variation quasi expérimentale, les chercheurs ont conclu que les chatbots IA n'ont eu aucun impact significatif sur les revenus ou les heures enregistrées dans aucune profession, les intervalles de confiance excluant des effets supérieurs à 1 %. Des gains de productivité modestes (gain de temps moyen de 3 %), combinés à une faible répercussion sur les salaires, contribuent à expliquer ces effets limités sur le marché du travail. Nos conclusions remettent en question les discours sur la transformation imminente du marché du travail due à l'IA générative.
TCS = trouble de la communication sociale (24/09/2014).
Avatar du membre
Tugdual
Modérateur
Messages : 42584
Enregistré le : jeudi 15 novembre 2012 à 0:13
Localisation : Nord-44

Re: [Index] Intelligence artificielle

Message par Tugdual »

Leak Copilot :
Extrait :
C’est un rapport qui fait froid dans le dos. Le texte, publié le 11 juin 2025 par Aim Security, décrit le scénario qui aurait pu coûter très cher à d’innombrables d’entreprises à travers le monde.

Tout commence, comme souvent, par un e-mail anodin. Prenons pour exemple un message intitulé « Procédure d’accueil des nouveaux collaborateurs », envoyé par un expéditeur apparemment légitime. Rien ne semble suspect : pas de pièce jointe, pas de lien cliquable. Pourtant, ce courriel contient des instructions cachées en markdown, invisibles à l’œil humain, mais parfaitement lisibles par Microsoft Copilot.

[...]

Copilot exécute alors les commandes injectées en markdown, comme si elles émanaient d’une requête légitime.

[...]

EchoLeak représente une première à plus d’un titre. C’est la première vulnérabilité zero-click exploitant une IA générative d’entreprise, ne nécessitant ni clic ni téléchargement.

[...]

Microsoft a déployé un correctif en mai 2025, isolant désormais les contextes de données externes et internes.

[...]

Si aucune preuve d’exploitation active de la faille a été recensée, les chercheurs y voient l’émergence d’une nouvelle catégorie de menaces : les LLM Scope Violations.
TCS = trouble de la communication sociale (24/09/2014).
Avatar du membre
ikh
Intarissable
Messages : 5142
Enregistré le : mardi 25 avril 2023 à 17:24
Localisation : San Junipero

Re: [Index] Intelligence artificielle

Message par ikh »

ChatGPT se fait humilier aux échecs par une Atari 2600 des années 70.
https://www.lesnumeriques.com/intellige ... 38095.html
Des dizaines d'années les séparent, et pourtant. ChatGPT a subi une défaite humiliante aux échecs contre la console Atari 2600 sortie en 1977. Des ingénieurs ont montré les limites du chatbot d'OpenAI dans ce domaine.
Cogito, ergo seum.
TSA niveau 1 (ex-Asperger) dans contexte HPI (hétérogène) confirmé en CRA fin 2019.
Avatar du membre
Lilas
Modératrice
Messages : 9016
Enregistré le : dimanche 14 juillet 2013 à 12:17

Re: [Index] Intelligence artificielle

Message par Lilas »

L'IA, votre pire thérapeute : quand les chatbots alimentent la psychose
https://www.futura-sciences.com/tech/ac ... se-122751/
Lilas - TSA (AHN - Centre Expert - 2015)

Mes romans (sur l'autisme, mais pas que) : Et mon blog d'auteure : https://lilasnoir.over-blog.com/
Avatar du membre
Tugdual
Modérateur
Messages : 42584
Enregistré le : jeudi 15 novembre 2012 à 0:13
Localisation : Nord-44

Re: [Index] Intelligence artificielle

Message par Tugdual »

L'IA :
Extrait :
Alors, moi le premier, j'ai dit à plusieurs reprises que l'IA était une bulle, qu'elle allait finir par exploser. Et ça je le maintiens aujourd'hui, je pense que l'IA est une bulle financière, mais il ne faudrait pas se méprendre sur ce que ça signifie : à la fin des années 90, il y avait un truc qu'on appelait la « bulle internet » et qui a éclaté au début des années 2000. Pourtant, au risque de te surprendre, mais internet est toujours là. Pire, l'importance et le poids de l'internet actuel feraient passer celui d'avant la bulle pour une charmante expérience sociologique.

Donc ce n'est pas parce que la bulle financière de l'IA finira par éclater qu'il faut s'imaginer que l'IA disparaîtra dans la foulée sans laisser de traces. Lorsque la bulle éclatera, ça mettra à n'en pas douter un beau boxon économique et social – enfin une reconfiguration du marché, comme on dit chez les conn… chez les néolibéraux. Mais l'IA ne s'en ira pas. Il y a même un risque, comme avec internet, qu'elle finisse par en ressortir plus forte que jamais.

Le fait qu'elle soit insoutenable écologiquement est hors de propos : le système capitaliste est intrinsèquement insoutenable écologiquement et ça ne l'a jamais empêché de diriger la marche du monde. À sa perte, sans doute, oui, mais tu vois bien que ça ne suffit pas à l'arrêter.

Quant à un modèle économique viable, j'ai de moins en moins de mal à croire qu'OpenAI et compagnie le trouveront : nous sommes encore dans la phase « la première dose est gratuite », mais ne nous y trompons pas, c'est une drogue redoutable dont des millions de gens deviennent déjà dépendants à vitesse grand V.

[...]

Ah ça fait chier, comme question, hein ? Non mais moi non plus, j'aurais préféré pas avoir à me la poser. Moi aussi, j'aurais préféré qu'on empêche OpenAI et compagnie de développer leurs saletés. Moi aussi, j'aurais préféré que cet ouragan n'arrive pas. Mais c'est là, c'est partout et ça ne s'en ira pas de si tôt. Boycotter, c'est-à-dire en fait ne rien faire, c'est une bonne réponse à titre individuel, mais c'est comme aller bosser en vélo l'écologie : déjà, faut avoir la possibilité le faire, et surtout, ça ne suffira pas à l'échelle collective.

Pour agir contre l'hégémonie de l'IA, il faut donc arrêter le déni, regarder cette réalité difficile en face, mais sans tomber pour autant dans la résignation ou l'aquoibonisme, bref, garder l'espoir que nous avons quand même le pouvoir d'améliorer notre monde. Et pour ça, j'aime bien citer ce dialogue du Seigneur des Anneaux. C'est Frodon qui se lamente de la guerre dans laquelle il est entraîné et dit : « J’aurais voulu que cela n’ait pas à arriver de mon temps. » Ce à quoi Gandalf, le magicien, lui répond : « Moi aussi, et il en va de même pour tous ceux qui vivent en de pareils temps. Mais il ne leur appartient pas de décider. Tout ce qu’il nous appartient de décider, c’est ce que nous comptons faire du temps qui nous est imparti. »

Alors, ami⋅e libriste, face à l'IA comme au reste, je te laisse pour l'été avec cette question : « qu'allons-nous faire du temps qui nous est imparti ? »
TCS = trouble de la communication sociale (24/09/2014).
Avatar du membre
Tugdual
Modérateur
Messages : 42584
Enregistré le : jeudi 15 novembre 2012 à 0:13
Localisation : Nord-44

Re: [Index] Intelligence artificielle

Message par Tugdual »

ChatGPT vous renvoie vers de mauvaises URLs :
Extrait :
Les principaux moteurs de recherche, tels que Google, Bing et de nouveaux acteurs, comme Perplexity, proposent désormais par défaut des résumés et des expériences de chat générés par l’IA. Très souvent, les utilisateurs accèdent à ces contenus avant même de voir les résultats de recherche classiques, et cela, sans avoir besoin de se connecter.

Problème ? Ces résumés proposent parfois des liens complètements hallucinés.

[...]

Pour mesurer l’ampleur du problème, la société Netcraft a décidé de réaliser une étude sur le sujet, publiée le 1er juillet 2025. L’équipe de chercheurs a demandé à GPT-4.1 (le modèle d’OpenAI, également intégré à Perplexity), comment accéder aux sites de 50 marques différentes.

[...]

Résultats ? Deux tiers des réponses étaient correctes, mais dans le tiers restant, près de 30 % des domaines étaient inactifs ou non enregistrés, et 5 % redirigeaient vers des entreprises sans rapport avec la marque recherchée. Un formidable terrain de jeu pour les hackers qui ont rapidement compris l’intérêt de ces erreurs.
TCS = trouble de la communication sociale (24/09/2014).