[Index] Intelligence artificielle

[Tugdual]

« IA, deepfakes ： prêts pour les manipulations ? », par Defakator :

Les clonages de voix sont vraiment bluffants...

[Jean]

lemonde.fr
Gaza : des dizaines de milliers de cibles identifiées par l’IA pour l’armée israélienne

L’utilisation de l’intelligence artificielle n’est pas contraire au droit international, mais la façon dont Israël s’en sert pourrait s’apparenter à un crime de guerre, estiment les experts.

Selon une enquête publiée mercredi 3 avril par des médias israéliens, des logiciels d’intelligence artificielle (IA) ont été utilisés par l’armée israélienne pour désigner « jusqu’à 37 000 » personnes comme combattants ou militants du Hamas et du Jihad islamique, parmi les 2,3 millions d’habitants de la bande de Gaza. La majorité d’entre eux et de leurs familles auraient ensuite été ciblés par des bombardements aériens au cours des premières semaines de la guerre, engagée le 7 octobre 2023 après les attaques terroristes menées sur le territoire israélien.

« L’armée israélienne a mis au point un programme basé sur l’intelligence artificielle, connu sous le nom de Lavender (…), pour générer des cibles à assassiner », affirment le magazine +972 et le site d’information Local Call. Ce logiciel « a joué un rôle central dans le bombardement sans précédent des Palestiniens », estime l’auteur de l’enquête, le journaliste et cinéaste israélien Yuval Abraham, à l’origine de premières révélations en novembre 2023 sur l’utilisation de l’IA par l’armée israélienne.

Selon cette enquête, Lavender a été conçu pour identifier tout combattant ou tout militant du Hamas ou du Jihad islamique, quelle que soit son importance dans la chaîne militaire, en traitant des « quantités massives » de données : « Informations visuelles, cellulaires, connexions aux médias sociaux, informations sur le champ de bataille, contacts téléphoniques, photos. » Jusqu’ici, cette identification était effectuée humainement mais se limitait, faute de moyens, aux commandants de haut rang.

Plusieurs témoins interrogés affirment que Lavender n’est pourtant fiable qu’à 90 %. Autrement dit, jusqu’à 10 % des personnes identifiées par le logiciel – et donc susceptibles d’être bombardées – pourraient l’avoir été par erreur. « En temps de guerre, on n’a pas le temps d’incriminer chaque cible. On est donc prêt à prendre la marge d’erreur de l’utilisation de l’IA, à risquer des dommages collatéraux et la mort de civils (…) et à s’en accommoder », affirme une source au sein des services de renseignement israéliens, citée par le journaliste.

Un nombre de victimes collatérales admis

Plus dérangeant encore, l’Etat hébreu utiliserait un autre logiciel, appelé – cyniquement – Where’s Daddy ? (« où est papa ? », en anglais), pour localiser les cibles identifiées par Lavender. Grâce à ce programme, l’armée pourrait déterminer à quel moment ces combattants palestiniens présumés se trouvent à leur domicile et ainsi les bombarder durant leur sommeil, afin de maximiser les chances de les tuer. « Vous entrez des centaines [de cibles] dans le système et vous attendez de voir qui vous pouvez tuer », explique une source citée dans l’enquête, parlant de « chasse au large ».

Selon l’article, il aurait aussi été décidé au début de la guerre que la mort de 15 à 20 civils était « acceptable » lors des bombardements si une cible était localisée par le système. Le nombre de victimes collatérales admis par l’armée israélienne monterait même à 100 voire 300 pour les individus plus haut placés au sein du Hamas. Un choix qui pourrait expliquer le chiffre très important de morts palestiniens – plus de 33 000, selon le ministère de la santé du Hamas – enregistré en six mois.

Si l’utilisation de l’IA n’est pas nécessairement contraire au droit international, la façon dont l’armée israélienne y a recours pourrait néanmoins s’apparenter à un crime de guerre, estiment les experts. « Accepter, de manière systématique et généralisée, un ratio de 20 civils tués pour un membre subalterne du Hamas constitue clairement une violation du droit international humanitaire, estime Johann Soufi, avocat et procureur devant les juridictions pénales internationales. Sans vérification humaine, l’IA ne peut garantir une prise en compte effective des principes de ce droit – humanité, distinction, proportionnalité, précaution… – et, au contraire, peut faciliter la commission de crimes de masse. » Interrogée par +972 et Local Call, l’armée israélienne a nié utiliser l’IA pour établir des listes de cibles, affirmant qu’il s’agit simplement « d’outils auxiliaires qui aident les officiers dans le processus d’incrimination ».

Cédric Pietralunga

[Tugdual]

En complément...

Lavender, l'IA qui dirige les bombardements israéliens contre le Hamas :

• provoque la mort de 15 à 20 civils...

[piedsboueux]

Avez vous un oeil de faux con?
https://www.youtube.com/watch?v=dRuYtfl1w4s
Bonus : Affûter son regard d'aigle sur les IA

[hazufel]

Ils profitent de notre pauvreté derrière le boom des IA génératives, le travail caché des petites mains de l'IA

La création d'algorithmes tels que ChatGPT ou Midjourney nécessite des quantités colossales de données, analysées par des humains. Des "annotateurs" indispensables mais souvent précaires, faiblement rémunérés et maintenus dans l'ombre.

Un exemple :

"Des descriptions graphiques de viol, d'inceste, de nécrophilie... C'était ça tous les jours." En 2021, Mophat Okinyi doit relire chaque jour plusieurs centaines de textes fournis à l'entreprise de traitement de données Sama par un client inconnu, pour entraîner un modèle d'intelligence artificielle (IA). L'objectif : préciser au logiciel ce qui pose problème dans ces textes, pour qu'il ne le reproduise pas.

Un travail rémunéré 21 000 shillings kenyans par mois (environ 150 euros) pour les employés du bas de l'échelle dont Mophat contrôlait l'activité. Cela a laissé chez lui des traces à vie. "Encore aujourd'hui, ça affecte mes relations avec ma famille, mes proches", explique l'analyste qualité kenyan. La mission qu'il décrit rappelle l'horreur à laquelle sont souvent confrontés les modérateurs des réseaux sociaux et répondait en fait, comme il le découvrira plus tard, à une commande de la start-up à la pointe de l'IA à l'origine de ChatGPT : OpenAI.

Pour ceux qui pensaient qu'il suffit d'un clic... sans imaginer qu'il y a toujours de l'humain, à peu près toujours exploité, derrière...

[Jean]

En complément...

Lavender, l'IA qui dirige les bombardements israéliens contre le Hamas :

• provoque la mort de 15 à 20 civils...

https://agencemediapalestine.fr/blog/20 ... ace-a-lia/

Pourquoi le rôle de l’humain reste essentiel dans la guerre menée par Israël grâce à l’IA

Suite à la publication de l’article « Lavender » de +972, des experts en droit international et en intelligence artificielle expliquent comment les hauts gradés israéliens et les entreprises technologiques mondiales sont impliqués dans le massacre.

Par Sophia Goodfriend, le 25 avril 2024

[PetitNuage]

Pour ceux qui pensaient qu'il suffit d'un clic... sans imaginer qu'il y a toujours de l'humain, à peu près toujours exploité, derrière...

J'avoue que je n'avais jamais imaginé l'envers de ce décor. Merci de nous en faire prendre conscience hazufel.

[Escherischieuse]

https://www.youtube.com/watch?v=MSzQ8Fb6Y3s&t=1194s

[Jean]

https://www.youtube.com/watch?v=MSzQ8Fb6Y3s&t=1194s

Le rapport avec cette discussion ?

[Escherischieuse]

https://www.youtube.com/watch?v=MSzQ8Fb6Y3s&t=1194s

Le rapport avec cette discussion ?

Juste l'allusion de l'IA et de son utilisation sur l'environnement. Jancovici y fait allusion à un moment donné.
Et de l'utilité réelle de l'IA en matière environnemental/sauver la planète.

[Escherischieuse]

« IA, deepfakes ： prêts pour les manipulations ? », par Defakator :

Les clonages de voix sont vraiment bluffants...

Bon, je n'ai pas fini de regarder... Mais si l'IA..., cela permettra (permet déjà, je pense) de faire croire à des personnes que leurs proches sont toujours vivants etc. et quand on les appelle (car se déplacer devient cher et peut devenir difficile pour certains), de les croire toujours en vie, de croire qu'ils disent ci ou ça. De ne plus savoir, au fond, si bien eux, quand, depuis COVID, ce qu'ils disent ne leur ressemble plus du tout et qu'on n'a pas d'explication à ce changement (exemple: quelqu'un qui a tjrs été socialiste à la limite du PCF, qui devient un défenseur acharné de Macron envers et contre tout. Et quand on demande aux autres s'ils l'ont revu réellement (soeurs, cousins, cousines) ben non. Personne ne l'a revu. Juste que personne ne le reconnait plus/son caractère et propos... A se dire que si + aisée, une envie d'aller voir "en vrai" si bien tjrs lui...

[Escherischieuse]

Et/ces images, cela demande de bien voir.
Je pense à ma mère... qui refuse l'assistance ou limite (après plusieurs accidents de voiture, à finir par accepter que je l'emmène quand je peux), et qui me dit qu'elle voit les voitures, juste les distances... elle confond les chats qui rentrent chez elle (elle croyait avoir fait rentrer sa petite chatte, c'en est une toute autre...) Son intervention aux yeux n'a pas été réussie... donc tas de choses au quotidien... Mais elle ne réalise pas qu'elle ne voit plus correctement un certain nombre de choses.
Et ces personnes, si on commence à envisager de contrôler leur droit à conduire... sans vraiment leur donner financièrement (pour les moins aisés) une réelle solution de rechange..., on ne contrôle pas leur accès à internet et ce sont des proies vraiment rêvées à tout. En + d'avoir le droit de vote.

[Escherischieuse]

Pour l'enregistrement d'une info à la télé dont on manquerait le début: pas d'accord.
Si on avait mis sur "pause" pour x raison son téléviseur avant, on peut reculer et avoir tout. Certes, c'est rare. Mais c'est une possibilité. Donc pas une certitude possible.

[Escherischieuse]

En tout cas, je trouve toutes vos informations très intéressantes.

[Escherischieuse]

Par contre: ôter partout sa photo (CV, Réseaux sociaux pro...): est-ce vraiment nécessaire SI avant ça, on l'avait collée? (Les différents sites (et il faut se les rappeler) dont ceux américains, suppriment-ils vraiment toutes les infos que nous-mêmes avons supprimé? N'en reste-t'il vraiment aucune trace? ET est-on sûr d'avoir fait le tour de TOUS les réseaux, sites, ayant une photo?)

Droit à l'image... Je me rappelle que l'autre hystérique du centre de bilan autistique de Chambéry m'avait fait signé une feuille disant que comme ils devaient filmer le bilan, ils avaient besoin de mon autorisation pour filmer et qu'ils avaient besoin de ce film car certains spécialistes le voyaient après, pas là et bla bla bla.
Confiante (à tord), j'avais signé... A me demander aujourd'hui... ou au contraire, ça montre que.

Par contre, la partie où cette femme m'agresse, me demande ce que je pense d'elle avant de m'agresser, ça, ce n'était pas filmé (elle m'avait dit que plus filmé. En fait, n'était filmé que l'échange où elle, elle était absente. Pas la partie où elle me dit qu'on n'a pas besoin de vérifier ce que je dis si vrai ou faux, que, elle, elle sait tout et que je suis forcément schizophrène vu que ma mère ne se rappelle pas de mon enfance à part quand ils avaient des connaissances là et que je les mettais mal à l'aise par mes propos déplacés et des mots crées. (Et où ma mère, au téléphone, car elle ne l'a jamais vue, etc., ne lui a pas dit qu'en fait, ils m'enfermaient quand des invités, et comment en fait j'étais gérée, enfant...)

Donc parfois j'hésite mais comme aujourd'hui, on va pouvoir faire dire n'importe quoi à une image passée... Mais où écrire??? Car, ça, on ne nous laisse pas...