The Blog

Norman, la première IA psychopathe

Baptisé Norman (en référence à Norman Bates, le fameux serial killer, incarné par Anthony Perkins, dans le film Psychose d’Alfred Hitchcock), il s’agit d’un programme d’apprentissage profond conçu pour faire de la reconnaissance automatique d’images. En lieu et place d’images classiques d’humains, d’animaux ou d’objets, les chercheurs du MIT (Massachusetts Institute of Technology) ont entraîné l’algorithme avec des images ultraviolentes associées à de terrifiantes descriptions provenant d’un forum de discussion Reddit dédié à la mort. Le but de cette étude ? Démontrer comment il est possible d’influencer une intelligence artificielle et de créer la première IA psychopathe. Une fois l’entraînement du programme terminé, les scientifiques lui ont fait passer le fameux test psychologique des taches d’encre de Rorschach. Les résultats ont ensuite été comparés avec ceux d’une IA identique, mais entraînée avec des images neutres.

[…]

Cette étude pour le moins originale prouve qu’il est possible de manipuler une IA par le biais de son apprentissage

Source : Norman, la première IA psychopathe

Je trouve la dernière phrase dans la conclusion particulièrement étonnant. Ce genre d’ia est basée exclusivement sur une somme de données qu’on lui donne dans une phase d’apprentissage. Comment peut-on envisager que cela ne l’influence pas le moins du monde ? On sait déjà également que malgré nous, nous produisons des ia sexistes.

Cela a au moins le mérite de tuer dans l’oeuf un espèce de fantasme qu’on à pu avoir, celle de l’ia supérieure, neutre, juste, parfaitement objective. Raté. L’ia aussi sera la somme de ses expériences et apprentissages chacun ayant sa part d’aléatoire.

Read More

Un hacker repenti prédit un cyber-11 Septembre d’ici cinq ans – Le Parisien

Dans « Lève-toi et code »*, « Rabbin des bois » raconte ses dix ans passés à pirater. Aujourd’hui, après avoir gagné énormément d’argent, il se proclame lanceur d’alerte et met en garde contre les dangers du dark Web.

Source : Un hacker repenti prédit un cyber-11 Septembre d’ici cinq ans – Le Parisien

Je ne sais pas si c’est une vision réaliste dans le sens ou, on ne va pas se mentir, le web est déjà une zone de guerre. De nombreux sites se font déjà attaquer quotidiennement de toutes sortes, sans compter tout ce qu’il se passe en coulisse (vol et commerce de données) qu’on ne voit pas forcément lorsque la « vitrine » web continue de fonctionner correctement. N’importe quel personne ayant déjà hébergé ses propres sites à pu se rendre compte que le simple fait d’allumer un serveur lui permet d’accueillir quasi instantanément des tentatives de brut force sur son administration. Rien que sur ce modeste site j’ai en permanence des tentatives de brute force…

Pour terminer le principe d’une attaque type 11 septembre est d’inspirer la peur, de faire tomber des symboles, mais j’ai le sentiment que 1/ on met tous beaucoup moins de symboles sur le net que dans la vrai vie et 2/ ce qui est cassé sur le net se répare généralement assez vite…

Read More

Au revoir

Today I’m announcing my departure from Docker, the company I helped create ten years ago and have been building ever since. A founder’s departure is usually seen as a dramatic event. Sadly, I must report that reality is far less exciting in this case. I’ve had many roles at Docker over the years, and today I have a new, final one – as an active board member, a major shareholder and, I expect, a high maintenance Docker user. But I will no longer be part of day-to-day operations. Instead, after obsessing for so many years over my own ideas, I am rediscovering the joys of putting myself at the service of others – my friends, my family, and the brilliant entrepreneurs I’ve been lucky enough to advise and invest in over the years. Over the coming months I plan to use…

Source : Au revoir

Alors ça c’est surprenant. Je ne sais pas ce que cela va donner. C’est beau, à 34 ans il a le courage de quitter une compagnie qu’il a créé et qui dépasse le milliard de valorisation. Respect…

Read More

Avec Bristlecone, Google marche vers la suprématie quantique

Cela fait un moment déjà que de grands noms de l’industrie informatique travaillent sur l’ordinateur quantique, que beaucoup présentent comme l’ordinateur du futur. Qu’il s’agisse de Microsoft, d’IBM ou encore d’Intel, ces géants développent des processeurs quantiques et multiplient les approches. Dans ce registre, l’acteur le plus avancé est certainement IBM qui dispose déjà d’un ordinateur quantique d’une puissance de 50 qubit sur lequel de nombreux tests sont menés.

Source : Avec Bristlecone, Google marche vers la suprématie quantique

Honnêtement je trouve ce titre très tapageur. Au delà du fait des progrès indéniables et impressionnants faits dans l’informatique quantique, il ne faut pas exagérer, toutes les grosses boites investissent tant qu’elles peuvent sur le sujet. Probablement les gouvernements également vu la portée plus que substantielle qu’une avancée dans le domaine peut donner. Donc bon, c’est un long match qui se joue et à mon avis on aura beaucoup de rebondissements dont certains dans l’ombre que nous ne verrons jamais (coucou cryptographie obsolète !).

Read More

Google lance une plateforme pour enseigner le machine learning et l’IA

La plateforme en question se nomme Learn with Google AI (« apprends avec Google IA »). Elle se présente comme un hub permettant notamment l’accès à un glossaire, à des vidéos explicatives, à des guides, à des échantillons de code, à des exercices pratiques ou encore à des cours. D’après Google, tous les intéressés, qu’ils souhaitent simplement comprendre les bases du machine learning (« apprentissage automatique ») ou développer un outil doté d’intelligence artificielle, peuvent y trouver leur bonheur. Des filtres sont d’ailleurs présents afin de pouvoir faire le tri entre les principaux contenus en fonction du niveau de développement visé, du type de contenu recherché et du profil de l’utilisateur. Les profils proposés vont du simple curieux au scientifique, en passant par l’étudiant ou le décisionnaire.

Source : Google lance une plateforme pour enseigner le machine learning et l’IA

Il serait peut être temps de s’y mettre, ma génération a peut être encore le temps mais les métiers de demain risquent de tourner beaucoup autour de l’ia. Il faut s’adapter.

Read More