The Blog

Norman, la première IA psychopathe

Baptisé Norman (en référence à Norman Bates, le fameux serial killer, incarné par Anthony Perkins, dans le film Psychose d’Alfred Hitchcock), il s’agit d’un programme d’apprentissage profond conçu pour faire de la reconnaissance automatique d’images. En lieu et place d’images classiques d’humains, d’animaux ou d’objets, les chercheurs du MIT (Massachusetts Institute of Technology) ont entraîné l’algorithme avec des images ultraviolentes associées à de terrifiantes descriptions provenant d’un forum de discussion Reddit dédié à la mort. Le but de cette étude ? Démontrer comment il est possible d’influencer une intelligence artificielle et de créer la première IA psychopathe. Une fois l’entraînement du programme terminé, les scientifiques lui ont fait passer le fameux test psychologique des taches d’encre de Rorschach. Les résultats ont ensuite été comparés avec ceux d’une IA identique, mais entraînée avec des images neutres.

[…]

Cette étude pour le moins originale prouve qu’il est possible de manipuler une IA par le biais de son apprentissage

Source : Norman, la première IA psychopathe

Je trouve la dernière phrase dans la conclusion particulièrement étonnant. Ce genre d’ia est basée exclusivement sur une somme de données qu’on lui donne dans une phase d’apprentissage. Comment peut-on envisager que cela ne l’influence pas le moins du monde ? On sait déjà également que malgré nous, nous produisons des ia sexistes.

Cela a au moins le mérite de tuer dans l’oeuf un espèce de fantasme qu’on à pu avoir, celle de l’ia supérieure, neutre, juste, parfaitement objective. Raté. L’ia aussi sera la somme de ses expériences et apprentissages chacun ayant sa part d’aléatoire.

Read More

Tribune : doit-on voter une loi du drapeau rouge pour l’Intelligence Artificielle ? – Politique – Numerama

Doit-on imposer aux robots et autres intelligences artificielles de se signaler aux humains pour éviter toute mésentente ? Hervé Mignot détaille et questionne la loi du drapeau rouge de Turing.

[…]

Elon Musk, le patron de Tesla Motors et de SpaceX, s’est fait le porte-parole de plusieurs industriels (même de la Silicon Valley) et scientifiques (dont Stephen Hawking) pour avertir des risques qu’ils voient à l’usage de l’intelligence artificielle. La crainte ultime est que ne survienne la singularité (popularisée par Ray Kurzweil le transhumaniste de Google), ce moment singulier de l’histoire de l’humanité où l’apparition d’une entité supérieurement intelligente à l’homme empêche toute prospective ou toute prévision sur la suite des événements. D’autres, plus prosaïquement, réfléchissent aux règles à imposer lors de la conception ou de l’usage de ces systèmes.

Source : Tribune : doit-on voter une loi du drapeau rouge pour l’Intelligence Artificielle ? – Politique – Numerama

L’intelligence artificielle fait d’énormes bonds en avant ces dernières années. Il suffit de prendre 5 minutes et de regarder régulièrement les news sur le sujet pour se rendre compte que de nouvelles applications bluffantes arrivent presque tous les jours. Désormais, des formes d’IA sont arrivées dans nos smartphones et même dans nos télévisions, nos enceintes connectées et j’en passe. Il est temps de se poser les bonnes questions car cela va forcément changer notre vie, d’une manière ou d’une autre.

Read More

A quelle sauce les professionnels vont-ils être mangés? Cinq enseignements des rapports Villani et France Stratégie sur le futur du travail | LinkedIn

DREn mars, deux études sur le futur du travail ont été publiées. La première est issue du très médiatique rapport de Cédric Villani sur l’intelligence artificielle. Le sujet y occupe un chapitre entier. La seconde est signée par France Stratégie, et examine en particulier la transformation des secteurs du transport, de la banque et de la santé. Au total, cela représente 111 pages d’informations denses et techniques. Nous les avons décortiquées, et en avons tiré dix enseignements. Voici les cinq premiers.

Source : A quelle sauce les professionnels vont-ils être mangés? Cinq enseignements des rapports Villani et France Stratégie sur le futur du travail | LinkedIn

Intéressant. Oui l’intelligence artificielle arrive et oui elle va changer notre relation au travail. Il faut dès maintenant considérer ce changement et s’adapter sous peine d’avoir de mauvaises surprises plus tard. Je vois d’ici les mouvements sociaux de ces pauvres malheureux qui protesteront contre les IA arrivant pour prendre leurs emplois. Le revenu universel ou autre alternative du genre deviendra alors à considérer plus que sérieusement.

Les cinq suivants sont ici : https://www.linkedin.com/pulse/comment-les-professionnels-vont-sortir-la-t%C3%AAte-de-leau-blandin

Read More

Les intelligences artificielles sont-elles sexistes ? Des spécialistes nous répondent – Politique – Numerama

Les biais humains des algorithmes sont de plus en plus pointés du doigt. Créées massivement par des hommes, les intelligences artificielles reproduisent des schémas du passé. Rencontres avec des spécialistes de la question.

Source : Les intelligences artificielles sont-elles sexistes ? Des spécialistes nous répondent – Politique – Numerama

En l’état actuel des choses il faut cesser de penser que les ia seraient forcément meilleures que les hommes. Elle sont juste concues par les hommes qui n’ont pas manqué d’y introduire leur biais qu’ils le veuillent ou non. D’ailleurs pour moi c’est inévitable. Qu’il y ait parité de femmes ou non. On peut au mieux diminuer le nombre de biais (et encore je me demande si on ne fait pas le cumul de tous…) mais jamais les éviter totalement.

Read More

Cette IA aide à poser le bon diagnostic lors d’un appel aux urgences – Sciences – Numerama

Une startup danoise a mis au point un système d’intelligence artificielle pour aider les répartiteurs à diagnostiquer une situation d’urgence, comme une crise cardiaque. Lors d’un appel pour une urgence, l’IA peut notamment détecter et identifier des sons en arrière plan pour aider les secours à savoir ce qu’il se passe.

Source : Cette IA aide à poser le bon diagnostic lors d’un appel aux urgences – Sciences – Numerama

Et voilà encore et toujours les progrès de l’IA. Je me demande a partir de quel moment on lui donnera le job sans la présence d’un humain. En imaginant qu’elle fonctionne très bien, même avec la présence d’un humain, à partir de quel moment ce dernière arrêtera de réfléchir de par lui même sans influence parce que de toutes façons « elle ne se trompe jamais ».

Read More