Q:
L'IA peut-elle détecter votre orientation sexuelle ou politique simplement en regardant vos photos grâce à la reconnaissance faciale?
UNE:En bref: oui, ils le peuvent, et ils sont encore meilleurs que les humains pour le faire. Selon une étude très déconcertante de l'Université de Stanford, les images de visages humains contiennent une mine d'informations que le cerveau humain ne peut tout simplement pas traiter, contrairement à l'intelligence artificielle. Selon leurs recherches, un réseau neuronal profond a pu distinguer les hommes gais et hétérosexuels dans 81% des cas et dans 74% des cas pour les femmes, contre seulement 61% pour les hommes et 54% pour les femmes pour les juges humains. Si l'algorithme avait au moins cinq images d'une personne à numériser, le pourcentage de réussite atteignait respectivement 91% et 83%.
Non seulement l'IA a pu distinguer certaines caractéristiques "sexuellement atypiques" telles que le style de toilettage et les choix de mode, mais la machine a également identifié certains traits phénotypiques spécifiques dans leurs traits du visage, tels que les hommes gais ayant des mâchoires plus étroites, un front plus large et un nez plus long. Quelles que soient les implications potentielles de cette découverte (comme l'idée que l'orientation sexuelle pourrait être liée à certaines caractéristiques génétiques), il est assez effrayant de voir à quel point les applications de cette technologie pourraient être nuisibles. Par exemple, il pourrait être utilisé par les gouvernements qui poursuivent les personnes LGBT pour les "filtrer" ou simplement pour violer la vie privée d'innombrables utilisateurs à toutes sortes de fins malveillantes - le marketing ciblé étant le moins maléfique de tous.
Ce qui le rend encore plus inconfortable, cependant, c'est que des technologies similaires sont déjà disponibles et sont déjà utilisées. L'IA peut détecter bien plus que la sexualité en regardant une image d'un visage humain: elle peut détecter les émotions, le QI et même les préférences politiques. Des technologies similaires de profilage psychométrique alimentées par l'IA ont été utilisées pour tirer des données des profils Facebook et tirer des conclusions sur les préférences personnelles et les choix de vie. De cette façon, les électeurs ne verraient qu'un sous-ensemble spécifique d'annonces politiques ciblées qui pourraient subtilement orienter leurs choix politiques.
Le créateur de cette expérience, le psychologue Michal Kosinski, a exprimé sa préoccupation quant aux risques possibles si cette technologie était utilisée à des fins malveillantes, au point que lui et son équipe ont passé beaucoup de temps à se demander si les résultats devaient être rendus publics. Le cabinet de conseil politique Cambridge Analytica aurait en fait utilisé des informations recueillies sur les réseaux sociaux pour diffuser des publicités qui ont influencé les élections présidentielles américaines en 2016, et peut-être même la campagne du Brexit britannique. Selon l'enquête en cours, une vaste armée de robots a commencé à diffuser un certain nombre de fausses nouvelles précisément ciblées sur Hillary Clinton pour inciter ses électeurs potentiels à voter pour Donald Trump. Beaucoup de ces publicités ont été construites sur place par les algorithmes intelligents, pour montrer aux gens lors d'événements majeurs ou de débats électoraux. L'IA a également mesuré les réactions des gens, pour renforcer leur efficacité à influencer les électeurs de Clinton en leur faisant croire qu'elle était une personne perverse et dérangée.
Après le scandale, l'agence a été fermée, mais des technologies similaires existent toujours et peuvent toujours être utilisées à des fins malveillantes. Kosinski a prononcé de nombreux discours mettant en garde contre ce risque bien avant le scandale, mais, malheureusement, la nature humaine ne peut pas être modifiée. Dans une expérience non publiée, il a affirmé que son IA était capable de distinguer les visages des républicains et des démocrates, bien qu'il ait admis que la barbe pouvait faire la différence. Donc, pour tous les théoriciens du complot (et les personnes soucieuses de la vie privée), voici un gros indice - si vous voulez empêcher le gouvernement de pénétrer dans votre vie privée, faites simplement pousser la barbe. Un énorme, si possible.
