Effets négatifs de l'intelligence artificielle
Le développement de machines capables d'imiter la pensée humaine, de la surpasser, ou même de devenir conscientes est un thème bien exploré dans la science-fiction. Dans le paysage technologique d'aujourd'hui, l'avènement de l'intelligence artificielle — IA — pourrait devenir l'une des plus grandes réalisations de l'humanité, mais comme l'a averti le physicien renommé Stephen Hawking, « cela pourrait aussi être la dernière, à moins que nous apprenions à éviter les risques ».
Automatisation accrue : qui appuie sur la gâchette ?
La technologie sophistiquée continue de s'intégrer dans la société moderne, des assistants personnels numériques et algorithmes de recherche intelligents dans Google, aux voitures autonomes expérimentales. L'intelligence artificielle est définie comme un ordinateur ou une machine capable d'effectuer des « déductions et inférences logiques » et de « prendre des décisions basées sur l'expérience passée ou des informations insuffisantes ou contradictoires ». Les niveaux technologiques actuels posent déjà des dilemmes éthiques effrayants, comme savoir si les drones militaires ou autres systèmes robotiques devraient être conçus pour utiliser la force létale contre des cibles sans implication humaine directe. Actuellement, les machines programmées peuvent réagir avec plus de vitesse et de précision qu'un opérateur humain, mais sont encore capables d'erreurs grossières sans les biais et l'intuition humains pour guider la prise de décision. Ces problèmes seront intensifiés si l'IA est intégrée dans de tels systèmes, introduisant des motivations indépendantes qui pourraient être complètement imprévisibles ou en conflit direct avec les intentions humaines.
Transformation du marché du travail
L'incorporation de l'intelligence artificielle modifiera radicalement la conception du travail par l'humanité. Depuis l'ère industrielle, la technologie de toute sorte rend inévitablement de nombreux emplois obsolètes tout en créant de nouvelles opportunités dans des domaines émergents. L'IA offre un avenir où les machines font les tâches à notre place, permettant aux gens de poursuivre des vies de loisirs. L'économiste John Maynard Keynes est allé si loin — dès 1930 — que de prédire une semaine de travail de 15 heures d'ici 2030. Aux niveaux de population actuels, tous les aspects de la société nécessiteraient une réinvention drastique, tant culturellement qu'économiquement, si l'automatisation créait un tel changement radical dans la façon dont nos journées sont passées.
IA : amie ou ennemie ?
Une menace significative de l'intelligence artificielle est de savoir si elle choisit d'utiliser ses capacités déjà améliorées pour créer des machines d'une puissance cognitive encore plus grande. Les générations avancées d'IA pourraient opérer aussi loin au-dessus des êtres humains que nous le sommes au-dessus des animaux, et même très probablement évoluer au-delà de la capacité humaine à la comprendre. Dans ce scénario — appelé la Singularité par le Dr Vernor Vinge pour le symposium VISION-21 du centre de recherche NASA Lewis en 1993 — les règles de la vie telle que nous la connaissons changeraient à jamais, car il n'y a aucun moyen de prédire si l'IA déciderait de coexister ou d'être hostile envers l'humanité.
Se prémunir contre le désastre
Hawking souligne que toute discussion sérieuse sur l'intelligence artificielle doit prendre en compte les menaces potentielles et comment les gérer, et appelle à une recherche institutionnelle plus critique alors que des ressources d'entreprises croissantes sont consacrées à la réalisation de percées dans la création d'intelligence artificielle. Vinge postule que l'IA peut être strictement réglementée par des règles qui câblent efficacement un comportement bienveillant dans les robots autonomes, comme l'imaginait l'écrivain de science-fiction Isaac Asimov avec ses Trois lois de la robotique. Vinge met également en garde que la compétition naturelle humaine mènera probablement au développement de modèles d'IA sans restrictions, donc même de telles sauvegardes peuvent ne pas suffire à contrôler la Singularité si elle se produit.