S'appuyer sur les choix de l'IA peut affaiblir nos capacités décisionnelles

À mesure que l’intelligence artificielle s’immisce de plus en plus dans la vie quotidienne des gens, les inquiétudes à son sujet augmentent également. Les inquiétudes les plus alarmistes concernent le fait que l’IA devienne un voyou et mette fin à ses maîtres humains.

Mais derrière les appels à une pause dans le développement de l’IA se cache une série de maux sociaux plus tangibles.

Parmi eux figurent les risques que l’IA fait peser sur la vie privée et la dignité des personnes et le fait inévitable que, parce que les algorithmes sous le capot de l’IA sont programmés par des humains, ils sont tout aussi biaisés et discriminatoires que beaucoup d’entre nous.

Ajoutez à cela le manque de transparence sur la manière dont l'IA est conçue et par qui, et il est facile de comprendre pourquoi tant de temps est consacré aujourd'hui au débat sur ses risques autant que sur son potentiel.

Mais mes propres recherches en tant que psychologue qui étudie la façon dont les gens prennent des décisions m’amènent à croire que tous ces risques sont éclipsés par une menace encore plus corruptrice, bien que largement invisible.

Autrement dit, l’IA n’est qu’à quelques touches de clavier pour rendre les gens encore moins disciplinés et compétents lorsqu’il s’agit de décisions réfléchies.

Prendre des décisions réfléchies

Le processus de prise de décisions réfléchies implique trois étapes de bon sens qui commencent par prendre le temps de comprendre la tâche ou le problème auquel vous êtes confronté.

Demandez-vous ce que vous devez savoir et que devez-vous faire pour prendre une décision que vous pourrez défendre de manière crédible et confiante plus tard ?

Les réponses à ces questions dépendent de la recherche active d’informations qui comblent les lacunes de vos connaissances et remettent en question vos croyances et hypothèses antérieures.

En fait, ce sont ces informations contrefactuelles – des possibilités alternatives qui émergent lorsque les gens se déchargent de certaines hypothèses – qui vous permettent en fin de compte de défendre vos décisions lorsqu'elles sont critiquées.

La deuxième étape consiste à rechercher et à considérer plusieurs options à la fois. Vous souhaitez améliorer votre qualité de vie ?

Qu'il s'agisse du choix pour lequel vous votez, des emplois que vous acceptez ou des choses que vous achetez, il y a toujours plusieurs chemins qui vous y mèneront.

Déployer des efforts pour examiner et évaluer activement au moins quelques options plausibles, et d'une manière honnête quant aux compromis que vous êtes prêt à faire entre leurs avantages et leurs inconvénients, est la marque d'un choix réfléchi et défendable.

La troisième étape consiste à être prêt à retarder la clôture d'une décision jusqu'à ce que vous ayez effectué tout le travail mental nécessaire.

Ce n'est pas un secret : la clôture fait du bien car cela signifie que vous avez laissé derrière vous une décision difficile ou importante. Mais le coût d’un départ prématuré peut être bien plus élevé que celui de prendre le temps de faire ses devoirs.

Si vous ne me croyez pas, pensez simplement à toutes ces fois où vous vous êtes laissé guider par vos sentiments, pour ensuite éprouver des regrets parce que vous n'avez pas pris le temps de réfléchir un peu plus.

Les dangers de l’externalisation des décisions vers l’IA

Aucune de ces trois étapes n’est terriblement difficile à franchir. Mais pour la plupart, ils ne sont pas non plus intuitifs. Prendre des décisions réfléchies et défendables nécessite de la pratique et de l’autodiscipline.

Et c’est là qu’intervient le préjudice caché auquel l’IA expose les gens : l’IA réfléchit pour l’essentiel en coulisses et présente aux utilisateurs des réponses dépourvues de contexte et de délibération.

Pire encore, l’IA prive les gens de la possibilité de s’entraîner par eux-mêmes à prendre des décisions réfléchies et défendables.

Réfléchissez à la façon dont les gens abordent de nombreuses décisions importantes aujourd’hui. Les humains sont bien connus pour être sujets à un large éventail de préjugés, car nous avons tendance à être économes lorsqu’il s’agit de dépenser de l’énergie mentale.

Cette frugalité amène les gens à aimer que des décisions apparemment bonnes ou dignes de confiance soient prises à leur place. Et nous sommes des animaux sociaux qui ont tendance à valoriser la sécurité et l’acceptation de leurs communautés plus que leur propre autonomie.

Ajoutez l’IA à ce mélange et vous obtenez une boucle de rétroaction dangereuse : les données que l’IA exploite pour alimenter ses algorithmes sont constituées de décisions biaisées de personnes qui reflètent également la pression du conformisme plutôt que la sagesse d’un raisonnement critique.

Mais parce que les gens aiment que les décisions soient prises à leur place, ils ont tendance à accepter ces mauvaises décisions et à passer à la suivante. En fin de compte, ni nous ni AI n’en sortons plus sages.

Être réfléchi à l’ère de l’IA

Il serait erroné de prétendre que l’IA n’apportera aucun bénéfice à la société.

Ce sera très probablement le cas, en particulier dans des domaines comme la cybersécurité, les soins de santé et la finance, où des modèles complexes et des quantités massives de données doivent être analysés régulièrement et rapidement.

Cependant, la plupart de nos décisions quotidiennes ne nécessitent pas ce type de puissance analytique.

Mais que nous l’ayons demandé ou non, beaucoup d’entre nous ont déjà reçu des conseils – et des travaux effectués par – l’IA dans des domaines allant du divertissement et des voyages aux travaux scolaires, en passant par les soins de santé et la finance.

Et les concepteurs travaillent dur sur l’IA de nouvelle génération qui sera capable d’automatiser encore plus nos décisions quotidiennes. Et cela, à mon avis, est dangereux.

Dans un monde où la pensée et la manière de penser des gens sont déjà assiégées grâce aux algorithmes des médias sociaux, nous risquons de nous mettre dans une position encore plus périlleuse si nous permettons à l’IA d’atteindre un niveau de sophistication lui permettant de prendre toutes sortes de décisions sur notre nom.

En effet, nous nous devons de résister à l’appel des sirènes de l’IA et de nous réapproprier le véritable privilège – et la responsabilité – d’être humain : être capable de penser et de choisir par nous-mêmes. Nous nous sentirons mieux et, surtout, nous serons meilleurs si nous le faisons.

Avez-vous des idées à ce sujet ? Écrivez-nous ci-dessous dans les commentaires ou portez la discussion sur notre Twitter ou Facebook.

Recommandations des rédacteurs :

• Pourquoi le contrôle du trafic aérien a encore besoin d’une touche humaine à l’ère de l’IA
• ChatGPT et d'autres IA linguistiques sont tout aussi irrationnelles que nous
• Comment les étudiants profitent de l’IA pour perfectionner leurs compétences Python
• La course automobile autonome renforce l’IA pour des voitures sans conducteur plus sûres

Note de l'éditeur : cet article a été rédigé par Joe Árvai, professeur de psychologie Dana et David Dornsife et directeur du Wrigley Institute for Environment and Sustainability, USC Dornsife College of Letters, Arts and Sciences, et republié à partir de The Conversation sous une licence Creative Commons. Lisez l'article original.