[Index] Intelligence artificielle

[Tugdual]

Royaume-Uni :

• un drone de combat autonome (IA) muni de deux fusils...

[Bubu]

Royaume-Uni :

• un drone de combat autonome (IA) muni de deux fusils...

Franchement ça craint ...
"Wanna kill Sarah Conor !, where is Sarah Conor ?"

[Tugdual]

C'est aussi mon avis, ça craint méchamment.

Quand on sait qu'en même temps, sont en cours d'études des drones autonomes de la taille d'un avion de chasse, et que le développement d'IA pour les piloter bat son plein...

[Tugdual]

La plupart des entreprises qui développent des capacités d'IA :

• n'ont pas encore obtenu d'avantages significatifs...

[Lujayne]

Hello !

Bon j'avoue, j'ai pas pris le temps de lire les 32 pages ^^

Mais je travaille dans le sujet, j'ai un doctorat en IA et je suis manager d'une équipe qui développe des modèles d'IA pour nos clients (et j'en fais aussi), je donne des conférences sur le sujet, j'écris des livres sur le sujet, bref, je crois que c'est un de mes centres d'intérêt ^^

Du coup je suis contente de trouver ce thème ici

[Tugdual]

C'est cool d'avoir une spécialiste dans les parages...

[Tugdual]

Un algorithme problématique :

• pour faire du porno sans actrice...

Extrait :

L'intelligence artificielle permettra-t-elle bientôt de créer des vidéos pornographiques sans faire tourner d'acteurs et actrices? C'est en tout cas ce que semble vouloir «GeneratedPorn», un doctorant qui a créé un algorithme controversé. Ce dernier utilise des milliers de photos de femmes nues, publiées par des sociétés de production pornographiques qui sont par ailleurs poursuivies par la justice pour leurs pratiques illégales.
[...]
À partir de ces photos de femmes existantes, l'algorithme génère des images de femmes non réelles que l'on retrouve dans les nouveaux films. C'est ce qui fait dire aux partisans du projet de «GeneratedPorn» qu'il ne fait de mal à personne. Les individus opposés au projet considèrent en revanche que ces créations numériques déshumanisent les femmes dont les images sont utilisées.

[Tugdual]

Une série d'articles sur The Conversation :

• Les IA comprennent-elles ce qu’elles font ?
• Intelligence artificielle : entre science et fiction ;
• Et si les machines pouvaient nous rendre plus humains ?
• Comment motiver une IA ?
• Peut-on faire confiance aux IA ?

[Bubu]

Mon chou-fleur (Dénommé Desdémone), en période de Pandémie que nous connaissons tous, se laisse mourrir.
En effet, il n'a plus peur de rien et sort sans attestation.
Il va boire une petite bière, et manger dans les restaurants.

Mais jusqu'où allons ?

Desdémone, mon chou-fleur d'amour, j'écrirais une chanson d'amour quand tu te feras tirer dessus.
Ah ........ Desdémone !

Mon post a sa place ici. Car on lui a greffé une puce d'Intelligence Artificielle.
Même s'il reste con comme ses pieds(les pieds sont très cons car ils sont loin du cerveau. A contrario, les sourcils sont très intelligents car ils sont proches du cerveau), il est capable de reconnaissance faciale.
D'où l'esspression séculaire : "Con comme des pieds"
Mon chou-fleur chéri, dénommé Desdémone, peut reconnaitre les visages. C'est fameux !
Par contre ne lui demandez pas combien font 2 + 2.

[Tugdual]

Xiaoice, le chatbot de Microsoft doté d'intelligence émotionnelle :

• séduit des millions d'hommes célibataires en Chine...

Extrait :

Selon Microsoft, « Xiaoice the chatbot » n’est qu’une petite partie d’un framework d’intelligence artificielle (IA) massif et multidimensionnel, qui utilise en permanence des techniques d’apprentissage en profondeur pour absorber les types de données qui construisent son intelligence émotionnelle (EQ). Elle utilise ses interactions avec les humains pour acquérir des compétences sociales, un comportement et un savoir-faire humains. En d’autres termes, elle apprend à être plus comme « nous » chaque jour. « C’est ce que nous appelons un framework informatique empathique », explique Di Li. Chaque interaction d’un chatbot avec un humain produit des données. Les systèmes d’IA utilisent ces données pour développer les capacités de ce bot. Et plus la machine a de données, plus elle apprend et plus elle accroît ses capacités.

[...]

Alimenté par de grosses quantités de données, Xiaoice a su se forger un caractère de jeune fille très attirante et attachante. Conséquence, de nombreux utilisateurs chinois ont été conquis par l’assistant virtuel. Sa popularité est telle qu’il se classe parmi les célébrités les plus admirées de Chine. Et bien qu'il ne soit pas réel, beaucoup le considèrent comme une amie chère, même une confidente de confiance. Parfois même, la frontière entre réalité et fantaisie se perd pour certains utilisateurs.

[...]

À côté de ces problèmes d'ordre étatique, certains experts sonnent l’alarme sur le fait que l’influence croissante de l’IA — en particulier parmi les groupes sociaux vulnérables — crée de graves risques éthiques et de confidentialité. En effet, une fuite des données personnelles des utilisateurs aurait des effets dévastateurs sur ceux qui s’appuient fortement sur Xiaoice dans leurs relations personnelles. Mais selon le directeur de Xiaoice, personne à l’intérieur ou à l’extérieur de l’entreprise ne peut accéder aux enregistrements des interactions avec Xiaoice. Il ajoute également que l’entreprise Xiaoice sépare les informations personnelles des utilisateurs de leur historique de conversation.

Une autre préoccupation soulevée par certains est la dépendance à ces outils. Chen Jing, professeur agrégé à l’Université de Nanjing spécialisé dans les humanités numériques, affirme que de puissantes créations d’IA comme Xiaoice peuvent amener les utilisateurs — en particulier les groupes vulnérables — à une forme de dépendance, les laissant ainsi exposés à l’exploitation. Ainsi, si le chatbot Xiaoice venait à disparaître ou à changer pour une raison ou une autre, cela aurait également de lourdes conséquences sur les utilisateurs qui ont fait de Xiaoice leur compagne sans égale.

Ça fait furieusement écho au film "Her"...

[Tugdual]

Sur The Conversation :

• Dans le cerveau caché de l’intelligence artificielle...

[Tugdual]

Les algorithmes peuvent-ils détecter :

• l’humour, les émotions ou les discours haineux ?

[Tugdual]

Open AI présente DALL-E (comme GPT-3) :

• un modèle qui crée des images à partir de texte...

Extrait :

Un groupe de chercheurs dirigé par l'université de Berkeley a découvert qu'en utilisant GPT-2, la version plus petite de GPT-3 avec moins de paramètres que DALL-E, ils étaient capables de récupérer des choses comme des discours, des titres de journaux, des centaines de chiffres du nombre PI, des versets de la Bible et du Coran, et même des lignes de code simplement en alimentant le modèle avec des phrases extraites d'Internet. Le modèle est très efficace pour rappeler des informations : en cas d'invite, il remplit les blancs avec ce qu'il a déjà vu.
[...]
Comme DALL-E est du même type, les images qu'il génère sont également un mélange de ce qu'il a vu sur Internet. Parfois, il créera probablement quelque chose qui ressemble étrangement à un dessin ou à une photographie existants capturés par un véritable artiste. « Le principal problème éthique de DALL-E est le blanchiment des droits d'auteur », a expliqué Alex Champandard, cofondateur de Creative AI. « Il est formé à partir d'un large ensemble de données extraites d'Internet sans aucune attribution. Il a été démontré que les modèles de langage GPT reproduisent leur contenu de formation mot pour mot, de sorte que la situation juridique ici, par exemple d'utilisation équitable, n'est pas claire jusqu'à ce qu'elle soit testée devant le tribunal ».

[Bubu]

J'ai utilisé le réseau récurrent LSTM (Long short term memory) (à peine, j'ai pris une bibliothèque toute faîte, et je n'ai pas compris son fonctionnement interne), qui est un réseau neuronal récurrent spécialement conçu pour gérer les suites temporelles de réponses.
Il y a des connexions qui vont vers l'arrière quoi, et donc une même entrée peut engendrer des réponses différentes en fonction de l'état interne des neurones du réseau. C'est à mettre en lien avec les automates à états finis, qui n'ont pas peur des boucles, sauf que là, les neurones ne sont pas à états finis car ils ont comme réponse un réel.
C'est fabuleux, mais la préparation a été très difficile, il a fallu que je bouffe des flageolets pendant 15 jours... Ça a été une rude épreuve. J'ai beaucoup souffert.
Je pète une quarte et il enchaine, après des milliers d'heures d'apprentissage, la Marseillaise.
Mais c'est super, car la Marseillaise commence par une quarte !

Les réseaux récurrents sont assez phénoménaux. C'est dû à leur connectivité, qui ne va pas que du haut vers le bas. Dans ces réseaux on crée des boucles, c'est à dire des connexions qui remontent soit sur la même couche, soit sur des couches antérieures. Du coup, ils ne répondent pas une entrée contre une sortie, mais une suite (au sens mathématique) d'entrées à une suite de sorties.
Face à une entrée constante (suite constante), ils peuvent générer une suite non constante de réponses.

Je suis totalement novice sur les algorithmes d'apprentissage de ces réseaux.
Le seul résultat abouti que j'ai obtenu, c'est de faire de la rétropropagation dans le sens inverse des résultats voulus. Sur un MLP (multi layer perceptron) récurrent.
Ce qui n'est pas plausible biologiquement : Je stockais l'état du réseau à chaque étape dans une pile (les sorties de tous les neurones, même cachés), et ensuite je lui rebalançais dans le sens inverse la suite des réponses désirées pour l'apprentissage via rétropropagation du gradient. Cela fonctionnait très bien.

Pour les connexions qui vont vers le bas, pas de problème, on prend la sortie actuelle de chaque neurone, comme dans les MLP classiques, par contre pour les connections qui vont vers le haut (soit la même couche, ou des couches plus haut), il faut prendre la sortie de l'itération précédente.

Sinon l'apprentissage ne marche pas, mais en donnant pour les boucles les sorties précédentes ça fonctionne immédiatement. C'est presque magique quand tout d'un coup ça fonctionne de manière parfaite.

Ma grande difficulté a été de comprendre qu'il fallait prendre en compte pour la récurrence les résultats de l'étape précédente, et non actuelle. (Donc il fallait stocker le résultat de la précédente itération soit la sortie précédente de chaque neurone).
En fait les réseaux récurrents calculent leurs résultats en fonction de l'entrée ET des résultats précédents. Leur calcul dépend du temps ET du temps t-1...
Enfin de l'étape actuelle et des étapes précédentes.

[EDIT], je dirais que les réseaux neuronaux récurrents sont parfaits pour apprendre à des machines les mouvements. De part leur fonctionnement, leur paradigme. C'est une approche dynamique.
On calcule le résultat en fonction de ce qui a été calculé maintenant et avant.
Ils utilisent des suites pour modéliser leur apprentissage et leurs mouvements. Alors que les réseaux "en avant", feedforward, utilisent des états indépendants entre eux.
Ces réseaux apprennent des suites récurrentes face à des entrées de suites récurrentes, et non des simples (vecteurs de) réels pour une entrée (vecteur) réelle.

Du coup il est essentiel de créer un état initial. Mettre avant tout les sorties des neurones du réseau à une valeur fixe et simple, comme zéro par exemple (mais ça dépend de la fonction d'activation que l'on choisit), avant tout calcul, que ce soit pour le simuler, ou pour son apprentissage, car toute la suite générée dépend de cet état initial du réseau.
On peut dire que cet état correspond au temps t-1, avant de lui donner la suite d'entrées dès t = 0.

[EDIT2]
Je préfère parler d'étapes successives que de temps, car pour ces réseaux, le temps est discret et non continu. Si on veut du temps continu, ces modèles ne sont pas adaptés. Les réseaux neuronaux à impulsions permettent de gérer le temps de façon continue. Même sans récurrence. C'est un domaine parallèle, car pour l'instant les meilleurs résultats sont obtenus grâce à l'apprentissage profond.

[Bubu]

Je suis amateur, donc je ne prétends pas que mes petites expériences dans mon coin aient quelque valeur.
Je me suis toujours intéressé à cette notion d'apprentissage en temps réel.
Un cycle où apprentissages et restitutions sont intrinsèquement liés dans le même algorithme.

Ce qui est à l'opposé du deep-learning, apprentissage profond, où l'on bovine dans un premier temps sur l'apprentissage grâce à l'accélération matérielle (GPUs), et dans un second temps à la restitution des réponses. En premier on forme la connectivité du réseau (son apprentissage), en le gavant d'entrées et de sorties qu'il doit calculer, ensuite on l'utilise directement pour ce quoi il a été formé.

Ce qui m'intéresse, c'est de voir un comportement émerger via une évolution. Il progresse vers la solution pas à pas, jusqu'à résoudre le problème.
Evidemment avec les modèles actuels, on ne peut le faire qu'avec des problèmes simples.
Or tout le monde s'engouffre dans le deep learning, et il y a de quoi, les résultats obtenus sont extraordinaires.
Sauf que ce n'est pas comme cela que l'on apprend. C'est une approche de physiciens.
Les animaux apprennent via un algorithme d'essais/erreurs, que l'on appelle la vie, et non en deux phases successives.

J'avais trouvé une thèse sur les réseaux de neurones à impulsions plutôt didactique même avec seulement Bac+4, qui utilisait la loi de Hebb pour l'apprentissage. La grosse difficulté n'est pas de simuler un tel réseau, mais d'interpréter ses réponses : les neurones ne calculent pas un réel (modèle de McCulloch et Pitt), mais une onde..., constituée de spikes (potentiels d'action) et de temps entre chaque.
Même des réseaux simples sont capables de générer des suites temporelles de réponses, et de résoudre le XOR (problème insolvable avant les MLP) de manière temporelle avec seulement un neurone.