[Index] Intelligence artificielle

[lucius]

Je pense au contraire comme Lê qu'on sous-réagit.

On parle ici d'une technologie dont les problèmes de fond (sécurité, biais, etc) sont ignorés par les experts du domaine, et qui va être déployée partout...

On disait aussi cela pour le deep learning et les deep fakes comme une menace pour l'information. Pour l'heure je n'ai pas vu grand chose.

[Tugdual]

Je n'y crois pas trop. [...]

Je n'y crois pas non plus.

En plus, je pense qu'il y a une espèce de fascination face à l'IA, et même les gens qui connaissent un peu le domaine et ses dangers ont envie de voir l'IA progresser...

On disait aussi cela pour le deep learning et les deep fakes comme une menace pour l'information. Pour l'heure je n'ai pas vu grand chose.

Je n'en tire pas les mêmes conclusions.

C'est le même domaine, qui est encore loin d'être mature, et ces alertes étaient bien conscientes d'annoncer un danger futuriste.

Le souci est que les progrès de ce domaine sont immenses et rapides, avec un fort potentiel de progression : avec ces progrès, le danger prend juste de la consistance...

[piedsboueux]

Le bouquin des Schtroumpfs a finalement fini dans la rivière, il fallait nager avec soit le livre soit le bébé, et malgré que la réponse qu'il suggérait de "sauver le livre plutôt que sauver bébé-Schtroumpf" ...

https://vk.com/topic-203785966_47436711

[lucius]

C'est le grand problème du principe de précaution. On se focalise tellement sur les risques que l'on est incapable de voir les bienfaits. Je dis cela en tant que personne ayant une maladie. On est si frileux à financer ou tenter des solutions nouvelles que l'on propose des médicaments vieux de 30 ans au lieu de proposer des médicaments modernes plus efficaces existants. Ces vents de panique et d'inquiétude sont un frein à la recherche (médicale, scientifique, technologique...).

Lorsque l'on a mis en place le Grand collisionneur de hadrons, des scientifiques (dont des illustres) craignaient la création de micro-trous noirs. Même chose avec le RHIC qui aurait pu provoquer la fin du monde selon certains.

[Tugdual]

Cela n'a rien à voir avec le principe de précaution.

Le principe de précaution, c'est mettre des interdictions en place alors qu'on a aucun risque avéré.

Ici, les risques sont avérés, en théorie (c'est le domaine de recherche de Lê, dont il parle en partie dans ses vidéos), comme en pratique : utilisation de ChatGPT par des revues, des étudiants (et même déjà ici sur le forum), utilisation de l'Autopilot de Tesla en version Beta sur la voie publique, ce genre de choses...

[lucius]

Le principe de précaution consiste non pas à des interdictions mais à prendre des dispositifs anticipatifs de gestion de risques si on manque d'infos (et de certitudes) sur les dommages potentiels.

Là, certains sont partis dans le scénario du pire exigeant la version extrême du principe de précaution: le précautionnisme.

[lucius]

Principe de précaution selon la déclaration de Rio:

En cas de risque de dommages graves ou irréversibles, l'absence de certitude scientifique absolue ne doit pas servir de prétexte pour remettre à plus tard l'adoption de mesures effectives visant à prévenir la dégradation de l'environnement.

En France

Selon lequel l’absence de certitudes, compte tenu des connaissances scientifiques et techniques du moment, ne doit pas retarder l’adoption de mesures effectives et proportionnées visant à prévenir un risque de dommages graves et irréversibles à l’environnement, à un coût économiquement acceptable

[lucius]

Ici, les risques sont avérés, en théorie (c'est le domaine de recherche de Lê, dont il parle en partie dans ses vidéos), comme en pratique : utilisation de ChatGPT par des revues, des étudiants (et même déjà ici sur le forum), utilisation de l'Autopilot de Tesla en version Beta sur la voie publique, ce genre de choses...

Comme si les étudiants ne pompaient pas sur wikipédia! C'était déjà annoncé comme un risque avéré à l'époque.
Et il faut distinguer risques majeurs et mineurs.

[Tugdual]

Comme si les étudiants ne pompaient pas sur wikipédia! C'était déjà annoncé comme un risque avéré à l'époque.

Encore une fois, ça n'a rien à voir.

Pomper sur Wikipedia ou ailleurs, c'est reproduire toujours la même chose (ce qui pourra être repéré assez facilement), là où ChatGPT produit un texte unique à chaque appel...

[freeshost]

Ce qui est avéré, c'est que nous déléguons de plus en plus de tâches aux logiciels.

[lucius]

Comme si les étudiants ne pompaient pas sur wikipédia! C'était déjà annoncé comme un risque avéré à l'époque.

Encore une fois, ça n'a rien à voir.

Pomper sur Wikipedia ou ailleurs, c'est reproduire toujours la même chose (ce qui pourra être repéré assez facilement), là où ChatGPT produit un texte unique à chaque appel...

À l'époque, les profs étaient très inquiets sur cela.
Je tombais sur des reportages 3 à 4 fois par semaine et des articles des inquietudes des dangers de wikipedia comme des articles non sourcés. Il y a encore des problèmes avec wikipedia (comme une femme en chine qui a inventé des articles sur des trucs qui n'existent pas).

Soyons clair.. Chatgpt est un outil. Il n'est pas dangereux en soi.Mais si on s'en sert mal, c'est fâcheux mais cela ne va pas provoquer la fin de la civilisation. Durant mes cours d'IA, on ne cessait de m'alerter sur les dangers de certaines technologies. Je ne les ai pas vu pour l'heure poser un grave problème. Mais la techno vit sans cesse l'hypothèse de la reine rouge. À la moindre évolution, il y a une évolution parallèle pour concurrencer ou se maintenir dans la compétition.

J'ai pu voir des exemples de l'usage de ChatGPT dans des questions de cours (en anglais) pour expliquer à des ados ou des étudiants des concepts (design pattern observer, à quoi sert une équation différentielle, expliquer la différence entre poids et masse... ) ou des notions de manière plus simple afin de démarrer. C'était génial mais encore très perfectible. En France, on a un enseignement très encyclopédique avec l'apprentissage par cœur de concepts sans les comprendre. Il n'y avait pas tout le blabla qui perd les néophytes au début.

[lucius]

Ce qui est avéré, c'est que nous déléguons de plus en plus de tâches aux logiciels.

C'est en même temps normal, on nous confie plus de tâches ou nos activités se complexifient sans cesse.

On a des exigences de plus en plus fortes mais on ne peut les réaliser seuls. Exemple: l'état de la circulation en temps réel.

[freeshost]

Et la consommation d'électricité a augmenté sans cesse.

Au niveau écologique, est-il raisonnable de vouloir des logiciels toujours plus puissants ?

[lucius]

Et la consommation d'électricité a augmenté sans cesse.

Au niveau écologique, est-il raisonnable de vouloir des logiciels toujours plus puissants ?

Rien ne vous interdit de retourner sur Windows 3.11!

Mais là pour cet objectif on doit retourner vers une approche low code ou no code pour le green IT ou le green computering.

[freeshost]

Je vais rester avec Ubuntu.