Effets négatifs de l'intelligence artificielle
Le développement de machines capables d'imiter la pensée humaine, de la surpasser ou même de devenir conscientes d'elles-mêmes est une prémisse bien explorée dans la science-fiction. Dans le paysage technologique actuel, l'avènement de l'intelligence artificielle - l'IA - pourrait devenir l'une des plus grandes réalisations de l'humanité, mais comme l'a averti le célèbre physicien Stephen Hawking, "cela pourrait aussi être la dernière, à moins que nous n'apprenions à éviter les risques".
Automatisation accrue :qui appuie sur la gâchette ?
La technologie sophistiquée continue de s'intégrer dans la société moderne, des assistants personnels numériques et des algorithmes de recherche intelligents de Google aux voitures expérimentales autonomes. L'intelligence artificielle est définie comme un ordinateur ou une machine capable d'effectuer « des déductions et des inférences logiques » et de « prendre des décisions en fonction de l'expérience passée ou d'informations insuffisantes ou contradictoires ». Les niveaux technologiques actuels posent déjà des dilemmes éthiques effrayants, par exemple si les drones militaires ou d'autres systèmes robotiques doivent être conçus pour utiliser une force létale contre des cibles sans implication humaine directe. Actuellement, les machines programmées peuvent réagir avec plus de rapidité et de précision qu'un opérateur humain, mais sont toujours capables d'erreurs grossières sans préjugés humains ni intuition pour guider la prise de décision. Ces problèmes seront intensifiés si l'IA est intégrée à de tels systèmes, introduisant des motifs indépendants qui peuvent être complètement imprévisibles ou en conflit direct avec les intentions humaines.
Transformer le marché
L'incorporation de l'intelligence artificielle modifiera radicalement le concept de travail de l'humanité. Depuis l'ère industrielle, toute technologie rend inévitablement de nombreux emplois obsolètes tout en créant de nouvelles opportunités dans des domaines émergents. L'IA offre un avenir dans lequel les machines accomplissent des tâches à notre place, permettant aux gens de mener une vie de loisirs. L'économiste John Maynard Keynes est allé jusqu'à - en 1930 - prédire une semaine de travail de 15 heures d'ici 2030. Aux niveaux de population actuels, tous les aspects de la société nécessiteraient une refonte radicale à la fois culturelle et économique si l'automatisation créait une telle un changement radical dans la façon dont nos journées sont passées.
IA :Ami ou ennemi ?
Une menace importante de l'intelligence artificielle est de savoir si elle choisit d'utiliser des capacités déjà améliorées pour créer des machines d'une puissance cognitive encore plus grande. Les générations avancées d'IA pourraient fonctionner aussi haut au-dessus des êtres humains que nous le faisons au-dessus des animaux, et même très probablement évoluer au-delà de la capacité humaine à la comprendre. Dans ce résultat - appelé la singularité par le Dr Vernor Vinge pour le symposium VISION-21 du centre de recherche Lewis de la NASA en 1993 - les règles de la vie telles que nous les connaissons changeraient pour toujours, car il n'y a aucun moyen de prédire si l'IA déciderait de coexister ou d'être hostile envers l'humanité.
Protection contre les catastrophes
Hawking souligne que toute discussion sérieuse sur l'intelligence artificielle doit prendre en considération les menaces potentielles et la manière de les gérer, et appelle à une recherche institutionnelle plus critique, car des ressources d'entreprise croissantes sont consacrées à la réalisation de percées dans la création d'intelligence artificielle. Vinge postule que l'IA peut être étroitement réglementée par des règles qui intègrent efficacement un comportement bienveillant dans des robots autonomes, comme l'imaginent les Trois lois de la robotique de l'écrivain de science-fiction Isaac Asimov. Vinge prévient également que la concurrence humaine naturelle conduira probablement au développement de modèles d'IA sans restriction, de sorte que même de telles garanties pourraient ne pas suffire à contrôler la Singularité si elle se produit.