Un problème marrant de l'existence d'une super-intelligence artificielle qui n'aurait pas de sens commun, ça s'appelle le problème des paperclips
There’s a well-known thought experiment in the world of artificial intelligence that poses a simple, but potentially very scary, question: what if we asked a super-intelligent AI to make paperclips?
This may not sound terrifying at first, but as Oxford philosopher Nick Bostrom (who first described the parable) explains, it all depends on how well we’ve trained the AI. If we’ve given it common sense, it might ask us: “How many paperclips do you want?” If it doesn’t know to ask, it might just make paperclips forever. And, if it’s a super-intelligent AI that we’ve accidentally forgotten to program with any human ethics or values, it might decide that the most efficient way to make paperclips is to wipe out humanity and terraform the planet into one giant paperclip-making factory.
Sound fun? Well good, because now there’s a game about it.
Benoit a écrit :C'est quand même terrible cette obsession des chercheurs en IA à penser systématiquement à des routines d'"extermination de l'Humanité".
Il y a des cours cachés dans le cursus ou quoi ?
Et s'ils y pensent pas on va dire qu'ils n'ont même pas pensé aux dérives de l'IA forte.
Je n'ai pas de diagnostic /!\ Ce que tu as la force d'être, tu as aussi le droit de l'être - Max Stirner
En même temps on y est pas.
Skynet, c'est pas pour demain !
Entre reconnaître des motifs et s'auto-programmer, il y a un gouffre.
Mais peut-être que cette question sera judicieuse dans 100 ans qui sait ?
TSA, diagnostic établi à mes 33 ans par le CRA de ma région. "Ce syndrome est caractérisé chez ce patient par l’absence de détérioration intellectuelle, un syndrome dysexécutif, un déficit d'attention"
AI will transform mental health, and help millions of people! I'm thrilled to join Woebot as its chairman, and will be working with the company's CEO Alison Darcy and with the team on AI and NLP. Exciting times ahead for chatbots and for mental health!
Message de Andrew Ng. Je pense qu'on peut s'attendre à voir un truc vraiment costaud d'ici cinq ans
Je n'ai pas de diagnostic /!\ Ce que tu as la force d'être, tu as aussi le droit de l'être - Max Stirner
Nao n'est qu'un jouet.
Je me suis tout autant éclaté avec ma Dictée Magique à l'époque.
Par contre je ne dirai pas non pour avoir un Asimo à mes cotés.
Bon d'accord, c'est vite dit. Il vaut des millions, même en location.
Modifié en dernier par Bubu le mercredi 18 octobre 2017 à 19:56, modifié 1 fois.
TSA, diagnostic établi à mes 33 ans par le CRA de ma région. "Ce syndrome est caractérisé chez ce patient par l’absence de détérioration intellectuelle, un syndrome dysexécutif, un déficit d'attention"
Il semble que pytorch (facebook) soit bien parti pour remplacer tensorflow (google) dans la communauté scientifique. Quant à Theano (MILA Montréal), c'est officiellement arrêté.
Tensorflow/Theano séparent la définition du réseau et son éxecution ce qui est incroyablement contraignant quand on a besoin de faire des aller retours entre le réseau et l'environnement python classique. Pytorch définit le réseau "à la volée" c'est-à-dire permet le panachage entre ses fonctions et du python classique. Génial
Je n'ai pas de diagnostic /!\ Ce que tu as la force d'être, tu as aussi le droit de l'être - Max Stirner
Une vidéo hallucinante sur une nouvelle architecture d'adversarial networks développé par NVidia eux-mêmes ! Dans la vidéo on voit des interpolations dans les espaces latents, c'est-à-dire passer linéairement d'une image à une autre dans les derniers layers.
Je n'ai pas de diagnostic /!\ Ce que tu as la force d'être, tu as aussi le droit de l'être - Max Stirner
