https://frosthead.com

Quand les robots deviennent moraux

L'année écoulée a été humiliante depuis que le supercalculateur Watson a battu deux anciens champions de Jeopardy à la télévision nationale. Bien sûr, la machine a parfois donné une réponse boiteuse, mais au pays des jeux télévisés, nous étions une espèce conquise.

Le week-end dernier, nous avons pris notre revanche.

Au American Crossword Puzzle Tournament à Brooklyn, un programme informatique nommé Dr. Fill s'est heurté à une salle remplie de maîtres de casse-tête et cette fois, la machine s'est avérée humaine. Il a terminé 141ème sur 600 concurrents, décevant son inventeur, Matthew Ginsberg, qui pensait se retrouver dans le top 50.

Notre gloire, cependant, sera probablement éphémère. Ginsberg, expert à la fois en intelligence artificielle et en création de mots croisés, a déclaré que le Dr Fill avait simplement passé une mauvaise journée, en grande partie parce qu'il n'était pas prêt à résoudre un casse-tête dans lequel certains mots devaient être épelés à l'envers et un autre être arrangé en diagonale. Il pense encore trop logiquement. Mais Ginsberg promet d'être de retour et le prochain Dr. Fill sera plus sage.

En fait, il ne fait aucun doute que le rythme de la réflexion complexe et nuancée des machines ne fera qu’accélérer au cours de la prochaine décennie. Écoutez Judea Pearl, l'une des pionnières de l'intelligence artificielle, interviewée la semaine dernière après avoir remporté le prix AM Turing, considérée comme le prix Nobel de l'informatique.

"Je pense qu'il y aura des ordinateurs qui acquièrent le libre arbitre, qui peuvent comprendre et créer des blagues ... Il y aura des ordinateurs qui peuvent envoyer des blagues au New York Times qui seront publiables."

Pearl, maintenant âgée de 75 ans, en est toujours là. Il travaille sur ce qu'il appelle «le calcul des contrefactuels», des phrases basées sur quelque chose qui ne s'est pas passé. L’objectif est de fournir aux machines les connaissances nécessaires pour réfléchir à des situations hypothétiques, telles que «Que s’aurait-il passé si John McCain avait été élu président?», At-il déclaré. C’est un grand pas en avant vers l’autonomie des ordinateurs et, un jour, développer une sorte de moralité.

«Cela leur permet de communiquer entre eux, d'assumer la responsabilité de leurs actes, une sorte de sens moral du comportement», a déclaré Pearl. "Ce sont des questions intéressantes. Nous pourrions construire une société de robots capables de communiquer avec la notion de morale."

De la cervelle des bébés

Cela ressemble à un nouveau monde intelligent, mais la clé est d’enseigner aux robots à penser de manière plus sophistiquée - et cela ne veut pas dire comme les humains adultes. Les ordinateurs font déjà assez bien le travail axé sur les tâches et les objectifs. Ce qu'ils doivent penser, ce sont des bébés.

De plus en plus de chercheurs en intelligence artificielle le croient. Comme l'explique Alison Gopnik, scientifique à l'Université de Californie à Berkeley, «les jeunes enfants sont les plus grandes machines d'apprentissage au monde». Ils apprennent non seulement une langue, mais ils découvrent également des relations de cause à effet, monde dans lequel, au début, rien n’a de sens.

Le grand défi, évidemment, est de comprendre comment les bébés font ces choses, de diviser le processus en motivations et réactions et ensuite de les programmer. Ce n’est qu’alors que les machines pourront établir des connexions sans se faire dire.

Mais c'est peut-être le casse-tête le plus difficile à résoudre. Et, malheureusement, même tous ces bébés intelligents ne peuvent pas l'expliquer.

Courbes d'apprentissage

Voici les dernières nouvelles sur ce qui se passe avec l'intelligence artificielle:

  • Brad doit être si jaloux: il avait besoin d'aide pour les graphismes et le son, mais un programme d'intelligence artificielle nommé Angelina a créé son propre jeu vidéo à partir de zéro. Michael Cook, l'informaticien londonien qui a créé Angelina, a déclaré: «En théorie, rien n'empêche un artiste de s'asseoir avec Angelina, de créer un jeu toutes les 12 heures et de l'insérer dans le magasin d'applications Apple.»
  • Mouvement slickness: une équipe de chercheurs du MIT développe un système grâce auquel les drones utiliseraient la vision 3D pour lire les signaux du corps humain afin que les avions robotiques puissent atterrir sur des porte-avions.
  • Ceci est un film en attente: si tous ces discours sur les robots intelligents vous rendent nerveux, l'informaticien de l'Université de Louisville, Roman Yampolskiy, a déjà une longueur d'avance sur vous. Il préconise la création de «prisons virtuelles» pour contenir l'IA si cela devient trop intelligent. Et même avec cela, il craint que des programmes d'intelligence artificielle particulièrement intelligents ne puissent «attaquer la psyché humaine, les pots de vin, le chantage et le lavage de cerveau de ceux qui entrent en contact avec elle».
  • Un passé enfoui: une équipe du Harvard-MIT a combiné l'intelligence artificielle et des photos satellites pour identifier des milliers de lieux où d'anciens humains ont peut-être vécu dans des colonies.
  • Watson fait du bien: nous avons bouclé la boucle. IBM et le Memorial Sloan-Kettering Cancer Center à New York ont ​​annoncé qu'ils utiliseraient la capacité de Watson, le super-ordinateur, à extraire d'énormes quantités de données et de recherches pour aider les médecins à choisir un traitement et un diagnostic du cancer.

Bonus vidéo: d' accord, l'IA peut parfois se sentir un peu effrayante. Voici un clip sur Bina 48, la tête parlante qui est le visage de LifeNaut, un projet dans lequel les gens ont commencé à télécharger des fichiers numériques sur eux-mêmes (vidéos, images, enregistrements audio), dans le but de créer un clone numérique qui puisse vivre pour toujours.

Quand les robots deviennent moraux