Q:
Pourquoi certaines personnes s'inquiètent-elles de l'intelligence artificielle?
UNE:Le changement n'est pas facile et beaucoup de gens ont du mal à s'y adapter. Cela est particulièrement vrai du changement technologique. Le célèbre professeur de Harvard, Calestous Juma, a écrit un livre sur le sujet intitulé «L'innovation et ses ennemis: pourquoi les gens résistent aux nouvelles technologies». Le livre décrit la tension entre l'innovation et l'ordre social, en s'appuyant sur 600 ans d'histoire. L'impact de la technologie est particulièrement gênant en matière d'intelligence artificielle.
Tout le monde n'est pas opposé à ces avancées. Ray Kurzweil, auteur de «The Singularity is Near» et «The Age of Spiritual Machines», n'est rien de moins qu'un évangéliste promouvant les avantages de la génétique, de la nanotechnologie et de la robotique (un terme utilisé pour l'intelligence non biologique). Mais ce sont les mêmes problèmes - et Kurzweil la même personne - qui ont causé une grande inquiétude en 2000 pour Bill Joy, scientifique en chef chez Sun Microsystems.
Joy a écrit à propos de ses inquiétudes dans un article désormais célèbre du magazine Wired intitulé «Pourquoi l'avenir n'a pas besoin de nous». Il croyait que l'avenir même de la race humaine était en jeu. Se référant à la compétition de l'histoire de l'évolution, Joy a écrit: «Les espèces biologiques ne survivent presque jamais aux rencontres avec des concurrents supérieurs.» Les percées scientifiques qui aboutissent à des machines dépassant les humains comportent des risques importants. Des visions d'un futur dystopique viennent à l'esprit.
Supposons que les scientifiques soient capables de développer des machines avec une superintelligence artificielle (ASI), un niveau d'intelligence supérieur à celui des humains. Joy dit que deux choses peuvent se produire: soit les machines seront autorisées à prendre leurs propres décisions, soit les humains garderont le contrôle sur elles. Que se passe-t-il si vous remettez le courant aux machines? Quels pourraient être les résultats?
Bill Joy n'est pas le seul à exprimer ses préoccupations. Le gourou de la technologie, Elon Musk, a déclaré: "Avec l'intelligence artificielle, nous invoquons le démon." Il l'a appelé "notre plus grande menace existentielle". ou ignoré par elle et mis de côté, ou éventuellement détruit par elle. "Et il a déclaré au magazine Wired, " Je crains que l'IA ne remplace complètement les humains. "
Ces craintes sont-elles justifiées? Les films de science-fiction comme «Transcendance», où le personnage de Johnny Depp se lie à l'intelligence artificielle et fait des ravages, rappellent les prédictions de Kurzweil sur la façon dont les humains pourraient fusionner avec les machines. L'imagination se déchaîne sur toutes les façons dont l'intelligence artificielle pourrait mal tourner. Que se passe-t-il lorsque les machines prennent le contrôle?
Deux exemples concrets illustrent à quel point le souci de l'intelligence artificielle peut être compréhensible. En 2007, un canon robot a tué neuf personnes et en a blessé 14. Certaines armes militaires avancées choisissent automatiquement leurs cibles, mais attendent qu'un humain appuie sur la détente. Qui prenait les décisions ici? En 2016, un robot de sécurité de 300 livres a renversé et a renversé un enfant de seize mois. Qui contrôlait dans ce cas: l'homme ou la machine?
La raison pour laquelle certaines personnes s'inquiètent de l'intelligence artificielle est que les risques sont réels. La question suivante: comment allons-nous gérer ces risques?
