Psychologie de l'IA : Au-delà des alarmes – Une approche centrée sur l'humain pour la résilience numérique

Dans le récent article de notre consultante principale, Cha’Von Clarke-Joell, intitulé « AI Ethics Needs More Doing, Less Talking » (publié sur VKTR : Lien), nous avons examiné comment les organisations peuvent passer de l'identification sans fin des problèmes liés à l'IA à des actions concrètes pour les résoudre.

Cet article adopte une approche différente, en examinant la dimension psychologique humaine qui est souvent négligée. Ici, nous explorons comment protéger le sentiment d'identité, d'autonomie et de valeur des personnes à mesure que l'IA s'intègre à tous les aspects du travail et de la vie.

Nous vivons un moment sans précédent dans l'histoire de l'humanité. Pour la première fois, une génération entière de professionnels et d'adultes a été systématiquement malmenée par la technologie. Nous avons connu des violations de données qui ont exposé nos informations les plus personnelles, des cyberattaques qui ont brisé notre sentiment de sécurité numérique, du harcèlement en ligne qui nous a poursuivis jusque chez nous, et des biais algorithmiques qui ont remis en question notre valeur. Nous avons vu nos empreintes numériques devenir des armes contre nous, notre vie privée être commercialisée et notre autonomie lentement érodée par des systèmes que nous comprenons à peine.

Pourtant, alors que l'intelligence artificielle remodèle notre monde à une vitesse fulgurante, on nous dit de « nous adapter », d'assurer une « surveillance humaine » et d'intégrer sans problème ces technologies puissantes dans notre travail et nos vies. L'ironie est frappante : comment une génération déjà blessée par la transformation numérique peut-elle être censée guérir les systèmes mêmes qui nous ont fait du mal ?

Cette contradiction met en lumière une pièce manquante cruciale. Bien que nous ayons fait des progrès remarquables en matière d'éthique, de gouvernance et de capacités techniques de l'IA, nous avons largement ignoré l'expérience psychologique humaine de vivre et de travailler aux côtés de l'intelligence artificielle.

La moitié manquante de la psychologie de l'IA

Lorsque l'on recherche aujourd'hui « psychologie de l'IA », on trouve un domaine axé sur l'utilisation des principes psychologiques pour concevoir de meilleurs systèmes d'IA. Les chercheurs étudient comment rendre l'IA plus humaine, plus intuitive et plus conforme à la cognition humaine. Ce travail est précieux, mais il ne représente que la moitié de l'équation.

Ce qui manque, c'est l'autre côté : comment protéger et soutenir la psychologie humaine à mesure que l'IA devient de plus en plus répandue ? Comment préserver l'identité, l'autonomie et la valeur humaines dans des environnements augmentés par l'IA ? Comment aider les gens non seulement à survivre, mais à prospérer aux côtés de l'intelligence artificielle ?

Comme nous l'avons exploré dans le livre « The Digital Polycrisis », nous sommes confrontés à des crises technologiques interconnectées qui s'aggravent et s'amplifient mutuellement. L'intégration rapide de l'IA dans tous les aspects de nos vies représente peut-être le défi le plus important au sein de cette polycrise. Pourtant, nos réponses restent fragmentées, se concentrant sur des solutions techniques tout en négligeant les profondes répercussions psychologiques sur les êtres humains qui doivent vivre ces changements.

Comprendre le traumatisme numérique

Pour combler cette lacune, nous devons d'abord reconnaître le « traumatisme numérique », la blessure psychologique résultant d'expériences négatives médiatisées par les technologies numériques. La recherche confirme que le traumatisme numérique englobe un large éventail d'expériences, allant du contenu viral et de la couverture médiatique au harcèlement en ligne, chacune étant capable de causer des dommages psychologiques durables (Palassis et al., 2021).

Mais le traumatisme numérique s'étend au-delà des incidents individuels de cyberintimidation ou de violations de données. Il inclut l'érosion systématique de l'autonomie humaine par la prise de décision algorithmique, l'anxiété liée à la perte potentielle d'emplois due à l'IA, et le profond sentiment d'invisibilité numérique à mesure que nos contributions sont de plus en plus médiatisées par des systèmes automatisés.

Des études sur la victimisation liée au piratage révèlent que les victimes subissent des impacts psychologiques similaires à ceux des crimes traditionnels, en particulier en ce qui concerne les questions de sécurité et de confidentialité plutôt que de sécurité personnelle. Comme l'a noté un chercheur, « cette exposition répétée à un ‘traumatisme numérique’ non sollicité pourrait dépasser les niveaux de résilience de beaucoup de gens ».

Nous sommes, littéralement, la première génération à porter ce traumatisme numérique collectif à l'ère de l'IA. Comprendre ce contexte est crucial pour élaborer des réponses efficaces.

La zone d'identité perturbée

Dans notre cadre d'échafaudage humain, nous avons identifié ce que nous appelons la Zone d'Identité Perturbée (ZID). C'est l'espace où la valeur, le rôle, la voix ou l'excellence de l'être humain sont menacés lors d'une transformation technologique. La ZID se produit lorsque l'IA, l'automatisation et les outils numériques commencent à modifier la façon dont les gens se perçoivent, perçoivent leurs contributions et leur place au sein des organisations et de la société.

À l'instar de Boucle d'Or à la recherche de la bouillie « juste comme il faut », les organisations doivent trouver leur équilibre, mais les enjeux sont bien plus importants que le confort. Lorsque les politiques d'IA sont trop restrictives, les équipes se sentent infantilisées et déconnectées de l'innovation. Lorsqu'elles sont trop souples, les gens entrent dans ce que nous appelons la Zone d'Identité Perturbée (ZID), remettant en question leur valeur lorsque les systèmes d'IA fonctionnent sans perspicacité ni supervision humaine.

Cela va au-delà des préoccupations de productivité ou de la résistance au changement, car la ZID représente une crise de la perception de soi face à la perturbation technologique. Les gens commencent à se demander : Ai-je encore ma place ici ? Mon expérience est-elle pertinente ? Suis-je remplacé ? Quel est mon rôle dans ce nouveau système ?

Les approches traditionnelles de gestion du changement se concentrent sur l'adaptation des compétences et le maintien des performances. Mais la ZID exige quelque chose de différent : des cadres intentionnels qui protègent l'identité, la voix et la valeur tout en permettant le progrès technologique.

S'appuyant sur le concept d'échafaudage développemental de Lev Vygotsky (1978), l'approche de CKC Cares en matière d'échafaudage humain fournit un soutien multidimensionnel aux individus naviguant dans des environnements complexes augmentés par l'IA. Là où l'échafaudage traditionnel opère dans la Zone de Développement Proximal pour développer de nouvelles compétences, l'échafaudage humain s'attaque à la ZID pour préserver et renforcer l'identité humaine.

Redéfinir la psychologie de l'IA : la perspective humaine

La psychologie de l'IA doit évoluer au-delà de son approche actuelle centrée sur l'IA pour englober l'expérience humaine du changement technologique. Cette approche plus large examine comment la psychologie peut améliorer l'IA et comment nous pouvons protéger la psychologie humaine à mesure que l'IA progresse.

Cette psychologie de l'IA centrée sur l'humain repose sur quatre piliers essentiels :

• Résilience éthique : Maintenir les valeurs et les objectifs tout en embrassant le progrès technologique. Cela inclut le développement de cadres tels que le Digital Twin Self, une identité professionnelle consciemment élaborée qui préserve les attributs essentiels tout en s'adaptant aux nouveaux contextes.
• Intégrité de l'identité : Préserver la voix et la paternité humaines dans des systèmes de plus en plus automatisés. Cela signifie protéger la propriété créative, maintenir des canaux d'expression humaine et honorer les diverses perspectives qui peuvent être manquées par les systèmes algorithmiques.
• Soutien cognitif : Développer les outils mentaux nécessaires pour évaluer et diriger les systèmes technologiques. Cela inclut la littératie numérique, la pensée critique sur les résultats de l'IA et la capacité de faire des choix éclairés concernant l'adoption de la technologie.
• Sécurité émotionnelle : Aborder les impacts psychologiques du changement technologique par la sécurité psychologique, l'établissement de la confiance, la gestion du stress et le soutien communautaire.

Ensemble, ces éléments forment ce que nous appelons une « zone protégée », une couche de conception intentionnelle où la technologie ne contourne pas l'identité humaine mais est façonnée, filtrée et alignée pour la soutenir.

L'échafaudage humain en pratique

Ce n'est pas seulement théorique. Les organisations de tous les secteurs peuvent commencer à mettre en œuvre des approches d'échafaudage humain dès maintenant :

• Dans le secteur de la santé, les dirigeants peuvent utiliser des évaluations du « Digital Twin Self » pour aider le personnel à maintenir son identité professionnelle à mesure que les outils de diagnostic basés sur l'IA deviennent prévalents. Plutôt que de se sentir remplacés, les cliniciens peuvent redécouvrir leurs contributions humaines uniques aux soins des patients.
• Les institutions éducatives peuvent employer le cadre R.A.D. (Réfléchir, Analyser, Discuter) pour aider les professeurs à traiter les implications de l'IA dans l'éducation, passant de la peur à une intégration réfléchie.
• Les équipes d'entreprise peuvent utiliser des ateliers sur le « saboteur numérique » pour identifier et traiter la résistance inconsciente aux outils d'IA, transformant l'anxiété en autonomie.
• L'idée clé à travers toutes ces applications : une intégration réussie de l'IA exige de protéger d'abord l'identité humaine, puis de développer les capacités technologiques.

Au-delà de l'humain dans la boucle

Les discussions actuelles sur la gouvernance de l'IA se concentrent souvent sur les approches « human-in-the-loop » (humain dans la boucle) pour assurer la supervision humaine des systèmes d'IA. Bien qu'important pour la précision et la responsabilité, ce cadre positionne toujours les humains principalement comme des contrôleurs de qualité plutôt que comme des contributeurs essentiels.

L'échafaudage humain va plus loin. Il positionne les humains comme partie intégrante de chaque aspect du développement et du déploiement de l'IA, pas seulement de la supervision. Il reconnaît que la qualité de l'intégration de l'IA dépend fondamentalement de la santé psychologique et de l'autonomie des humains impliqués.

Lorsque nous soutenons l'identité, l'autonomie et la valeur humaines tout au long de l'intégration de l'IA, nous obtenons de meilleurs résultats humains, et nous obtenons également de meilleurs résultats de l'IA. Des humains psychologiquement sûrs prennent de meilleures décisions concernant le déploiement de l'IA, posent de meilleures questions sur les capacités de l'IA et conçoivent une collaboration homme-IA plus efficace.

La voie à suivre

Les enjeux ne pourraient être plus élevés. À mesure que les capacités de l'IA s'accélèrent, le fossé entre le changement technologique et l'adaptation humaine continue de s'élargir. Nous pouvons continuer à traiter les humains comme des obstacles à surmonter dans notre course à l'avancement de l'IA, ou nous pouvons reconnaître la psychologie humaine comme une infrastructure essentielle pour l'ère de l'IA.

Cela exige un changement fondamental dans notre approche de l'intégration de l'IA :

• Pour les dirigeants : Mettre en œuvre des garanties psychologiques en plus des garanties techniques. Mesurer les indicateurs de l'expérience humaine, pas seulement les indicateurs de performance.
• Pour les décideurs politiques : Envisager des évaluations de l'impact sur l'identité en plus des mesures de responsabilité algorithmique. S'assurer que la gouvernance de l'IA inclut des dispositions pour le bien-être psychologique humain.
• Pour les développeurs d'IA : Concevoir des systèmes qui améliorent plutôt qu'ils ne diminuent l'autonomie humaine. Donner la priorité à la transparence pour la précision et pour la dignité humaine.
• Pour les organisations : Investir dans l'échafaudage humain en plus de l'infrastructure technique. Reconnaître qu'une adoption durable de l'IA nécessite des humains psychologiquement résilients.

De blessé à guéri

Nous avons commencé comme la première génération à être systématiquement meurtris par la technologie. Mais nous pouvons choisir de finir comme la génération qui a appris à se guérir, et à guérir la relation entre les humains et la technologie elle-même.

Notre traumatisme numérique, correctement compris et traité, devient une source de sagesse.

Notre expérience durement acquise avec la perturbation technologique devient la base pour construire une intégration de l'IA plus centrée sur l'humain.

La psychologie de l'IA, sous sa forme la plus complète et centrée sur l'humain, nous offre cette opportunité. En élargissant le domaine au-delà de l'optimisation technique pour inclure l'épanouissement humain, nous pouvons transformer le récit d'une inévitabilité technologique en un progrès intentionnel et dirigé par l'homme.

Le choix nous appartient : rester des victimes du changement technologique, ou devenir les architectes de la résilience humaine à l'ère de l'IA. Le cadre existe. Les outils sont disponibles. Ce dont nous avons besoin maintenant, c'est de la volonté de donner la priorité à la psychologie humaine aussi sérieusement que nous donnons la priorité aux capacités de l'IA.

En fin de compte, le succès de l'intelligence artificielle ne sera pas mesuré uniquement par ce qu'elle peut faire, mais par la façon dont elle aide les humains à s'épanouir. Et cela exige de prendre la psychologie humaine, dans toute sa complexité, sa vulnérabilité et sa force, au sérieux.

L'avenir en dépend.

Références

Palassis, A., Speelman, C. P., & Pooley, J. A. (2021). An exploration of the psychological impact of hacking victimisation. SAGE Open, 11(4), 21582440211061556.

https://doi.org/10.1177/21582440211061556 Vygotsky, L. S. (1978). Mind in society: The development of higher psychological processes. Harvard University Press.