Q:
Pourquoi certains experts disent-ils que l'IA "détruira l'authenticité numérique"?
UNE:L'apprentissage automatique et l'intelligence artificielle sont en train de changer rapidement de nombreuses industries et de remodeler vraiment notre façon de penser le progrès technologique. Mais ils engagent également des dichotomies et des contradictions intéressantes concernant la façon dont nous nous relions à nos ordinateurs et appareils intelligents ou à d'autres nouvelles interfaces qui se présentent.
L'une des grandes questions de l'intelligence artificielle est de savoir comment elle affectera «l'authenticité» - ou comment les gens vérifient et confirment la réalité qui existe, dans «l'espace de viande» ou dans le monde numérique. Lorsque vous creusez vraiment sur la façon dont cela fonctionne, vous voyez une contradiction inhérente entre les limites de notre technologie et la façon dont nous faisons confiance à la technologie à notre disposition.
L'un des meilleurs exemples se trouve dans un récent article de Wired qui montre comment les personnes dotées de ressources d'intelligence artificielle et d'apprentissage automatique sont capables de prendre une image d'un cheval en mouvement et de superposer des rayures de zèbre dans un processus que l'auteur appelle «zebrafication».
C'est soigné et nouveau, mais cela peut aussi potentiellement poser un problème. Lorsque vous voyez un zèbre sur un écran numérique, comment savez-vous qu'il s'agit d'un zèbre, et pas seulement d'un cheval à rayures zébrées habilement posé dessus par une personne avertie en technologie?
Cela peut sembler être une question théorique, mais les mêmes types de questions vont bientôt s'appliquer aux nouvelles que nous recevons sous forme numérique - de la politique à l'économie en passant par la religion, tout cela dépendra de notre capacité à passer au crible les informations, pour vérifier et distinguer les faits entre la vérité et la fiction, entre le mythe et la réalité. Comme les nouveaux outils d'intelligence artificielle offrent plus de moyens de manipuler l'image et la vidéo, cela va devenir beaucoup plus difficile.
Un autre excellent exemple est les nouvelles technologies vocales. Dans un article il y a quelques années, nous avons couvert un projet informatique naissant qui a pris la voix de personnes célèbres et construit des moteurs de modèles vocaux qui pourraient faire en sorte que ces personnes célèbres disent quoi que ce soit d'au-delà de la tombe.
Encore une fois, c'est une technologie soignée et intéressante - cela semble être une façon amusante d'utiliser les technologies de traitement de la parole. Mais cela va vraiment poser un problème lorsque nous passerons de l'ancienne technologie de la voix analogique et non numérique à une nouvelle voix synthétique et préfabriquée. Comment saurez-vous qui vous parle - au téléphone, à la télévision ou à l'oreille?
Plus précisément, l'idée de modifier l'audio, l'image et la vidéo de manière sophistiquée peut bouleverser certaines de nos idées les plus appréciées en tant que société. Comment les gens feront-ils confiance à ce qu'ils entendent et voient dans le monde politique? Qu'en est-il de la loi - les personnes accusées de crimes auront-elles de nouveaux types d'appels basés sur la modification potentielle des preuves?
Une autre façon de comprendre certains de ces problèmes est de regarder l'écriture de science-fiction - de "Fahrenheit 451" de Ray Bradbury à "1984" de George Orwell et au-delà, les conteurs des âges passés nous ont avertis à plusieurs reprises que la technologie pouvait être utilisée à la fois utile et des fins problématiques. L'une des raisons pour lesquelles tant d'experts et de chefs d'entreprises en TI réclament une «intelligence artificielle explicable» et des panels d'éthique est qu'ils comprennent le problème - que si nous ne contrôlons pas les technologies à fond, nous ne pourrons leur faire confiance à personne. Le degré. Plutôt que de nous aider à atteindre nos objectifs, ils pourraient finir par nous faire du mal, en partie en provoquant le genre de chaos social qui existe lorsque nous ne pouvons pas vraiment comprendre la vérité et la réalité. Une bonne nouvelle, cependant, est que des technologies comme la blockchain, qui fournissent une authentification transactionnelle, peuvent être utiles lorsqu'elles sont appliquées à des enregistrements numériques.
