Q:
Quels sont les problèmes éthiques concernant l'apprentissage automatique?
UNE:Les problèmes éthiques entourant l'apprentissage automatique impliquent non pas tant les algorithmes d'apprentissage automatique eux-mêmes, mais la façon dont les données sont utilisées.
Le scandale de Cambridge Analytica avec Facebook, où un cabinet de conseil politique a utilisé les données du site de réseautage social à l'insu des utilisateurs ou sans leur consentement, a illustré de nombreux problèmes liés à la collecte et à l'utilisation des données des utilisateurs. Bien que de nombreux accords de licence d'utilisateur final spécifient comment les données des utilisateurs peuvent être utilisées, de nombreux utilisateurs de médias sociaux peuvent ne pas lire les petits caractères.
| Téléchargement gratuit: apprentissage automatique et pourquoi c'est important |
Un autre problème est que ces algorithmes d'apprentissage automatique peuvent être des «boîtes noires» où il est impossible de voir comment ils fonctionnent réellement. Il peut être impossible de savoir pourquoi un algorithme d'apprentissage automatique a pris une décision.
L'un des domaines de l'apprentissage automatique est le diagnostic médical. Un algorithme pourrait examiner les rayons X pour détecter un cancer. Un médecin humain peut expliquer pourquoi il a posé un diagnostic, mais nous ne savons peut-être pas comment un algorithme d'apprentissage automatique a déterminé qu'un patient avait ou non un cancer.
La publication de programmes d'apprentissage automatique sous des licences open source est une solution. Lorsque les gens peuvent consulter le code source d'un programme, ils peuvent voir comment il prend des décisions.
Un autre problème est l'utilisation des données de formation sur l'apprentissage automatique et les biais possibles. Il y a eu plusieurs cas de préjugés raciaux et autres qui en ont fait involontairement des programmes d'apprentissage automatique. Un algorithme a identifié les Noirs comme des gorilles, et un autre a modifié les traits du visage des personnes de couleur pour les faire apparaître plus «européens» tout en prétendant les embellir.
Une façon de contrer cela est d'avoir plus de personnes d'horizons divers dans le domaine de l'IA.
Un autre problème est l'utilisation sûre de l'apprentissage automatique et de l'intelligence artificielle. L'IA et les programmes d'apprentissage automatique pourraient développer des comportements que les gens ne voudraient pas d'eux, comme empêcher les gens de les désactiver.
