Q:
Pourquoi une entreprise pourrait-elle fermer un projet d'IA de chatbot?
UNE:Les entreprises peuvent fermer des projets de chatbot d'intelligence artificielle pour de nombreuses raisons, mais les plus probables peuvent être regroupés en deux catégories. Premièrement, les entreprises peuvent fermer les technologies de chatbot si elles agissent de manière à rendre l'entreprise inconfortable, comme la promotion de discours répréhensibles. Alternativement, les entreprises peuvent fermer un projet de chatbot s'il commence à démontrer une sensibilité et des capacités qui ne peuvent pas être facilement contrôlées, ou peuvent constituer une sorte de menace éventuelle pour la santé et la sécurité publiques.
Nous avons ces deux scénarios documentés dans l'histoire récente. L'expérience de Microsoft avec le chatbot Tay a pris fin lorsque Tay a commencé à adopter certaines des pires caractéristiques de ses homologues humains - des commentaires racistes et agressifs, et une activité généralement répréhensible, dont une grande partie a été clairement apprise ou même exprimée directement par les utilisateurs.
Dans une étude de cas très différente, une configuration de chatbot lancée par Facebook a été fermée lorsque les scientifiques ont observé deux chatbots communiquer entre eux d'une manière quelque peu exclusive à l'observation humaine. Il y avait l'affirmation selon laquelle les entités de chatbot avaient commencé à «parler dans une sorte de code» qui était plus pratique pour elles et moins transparent pour leurs gestionnaires humains. Ceci est un exemple de cette préoccupation très réelle autour de l'intelligence artificielle en général - qu'à mesure que nous progressons à grands pas dans la progression d'une forte intelligence artificielle, les humains doivent agir pour contenir et contrôler tous les exemples de mise en œuvre de l'IA pour s'assurer qu'ils ne se croisent pas limites. Il existe un grand nombre de problèmes éthiques et de problèmes de sécurité qui doivent être traités avec une forte intelligence artificielle, et c'est l'une des principales raisons pour lesquelles certains chatbots ou autres projets d'intelligence artificielle pourraient à l'avenir être fermés par les parties prenantes qui ont construit et les a soutenus à travers un certain processus.
