Échelle des risques et bénéfices de l’intelligence artificielle

1. Résumé / Abstract

L’Échelle des risques et bénéfices de l’intelligence artificielle (en anglais, AI Risks and Benefits Scale ou ARBS), conçue en 2024 par Sophie Kerstan, Nadine Bienefeld et Gudela Grote au sein de l’École polytechnique fédérale de Zurich (ETH Zürich), est un instrument psychométrique standardisé destiné à quantifier les perceptions individuelles relatives aux répercussions potentielles des technologies d’intelligence artificielle (IA) dans le domaine de la santé. Contrairement à d’autres instruments focalisés sur des dispositifs cliniques étroits (par exemple, des algorithmes d’imagerie diagnostique ou des agents conversationnels de télémédecine), l’ARBS adopte une perspective générique permettant d’évaluer la valence des attitudes envers l’IA médicale sans ancrage exclusif dans un applicatif particulier.

L’échelle comprend un total de 19 items répartis en deux dimensions orthogonales principales : la perception des risques (10 items) et la perception des bénéfices (9 items). L’administration s’effectue par auto-évaluation sur une échelle de réponse ordinale de type Likert en sept points, allant de 1 (« Très peu probable ») à 7 (« Très probable »). Les propriétés métrologiques initiales de l’instrument témoignent d’une excellente consistance interne, illustrée par des coefficients alpha de Cronbach de 0,87 pour la sous-échelle des risques et de 0,84 pour celle des bénéfices. Les analyses factorielles confirmatoires (AFC) corroborent la supériorité structurelle d’une modélisation multidimensionnelle dissociant distinctement les représentations négatives et positives, par opposition à un modèle unidimensionnel où risques et bénéfices constitueraient les pôles opposés d’un même continuum. Cet outil s’avère particulièrement pertinent pour les chercheurs en psychologie de la santé, en ergonomie cognitive et en interaction humain-machine (IHM), ainsi que pour les décideurs hospitaliers évaluant l’acceptabilité sociale des innovations algorithmiques.

2. Mots-clés / Keywords

Intelligence artificielle, perception des risques, perception des bénéfices, psychométrie, santé numérique, acceptabilité des technologies, relation médecin-patient, prise de décision clinique, ergonomie cognitive, fidélité factorielle.

3. Auteurs / Authors

L’échelle a été développée et validée par une équipe de chercheurs rattachés au département de gestion, technologie et économie de l’ETH Zürich en Suisse :

• Sophie Kerstan : Chercheuse doctorante et associée de recherche au sein du laboratoire de psychologie du travail et des organisations (Work and Organizational Psychology), Département de gestion, technologie et économie (D-MTEC), ETH Zürich, Zurich, Suisse. Courriel institutionnel : [email protected]. Identifiant ORCID disponible.
• Nadine Bienefeld : Docteure en psychologie organisationnelle, chercheuse senior et directrice de programmes de recherche sur la collaboration humain-IA à l’ETH Zürich. Identifiant ORCID disponible.
• Gudela Grote : Professeure titulaire de psychologie du travail et des organisations au Département de gestion, technologie et économie de l’ETH Zürich, spécialiste reconnue de la gestion du risque, de l’autonomie et de la dynamique d’équipe face aux systèmes automatisés. Identifiant ORCID disponible.

Adresse de correspondance : Sophie Kerstan, ETH Zürich, Department of Management, Technology, and Economics, Work and Organizational Psychology, Weinbergstrasse 56/58, 8092 Zürich, Suisse.

4. Objectif / Purpose

L’introduction exponentielle de l’intelligence artificielle dans les systèmes de santé soulève des interrogations fondamentales sur la confiance que les usagers et les professionnels accordent aux recommandations algorithmiques. L’objectif fondamental de l’ARBS est d’opérationnaliser et de quantifier l’estimation probabiliste subjective des conséquences négatives et positives attribuées à l’IA en pratique médicale. Alors que les avancées computationnelles promettent une détection précoce des pathologies et une réduction drastique de l’iatrogénie, une réticence marquée persiste au sein de la population générale, conduisant souvent à ce que la littérature nomme « l’aversion pour les algorithmes » (algorithm aversion).

Sur le plan théorique, l’outil a été initialement élaboré pour disséquer les mécanismes sous-jacents aux préférences individuelles entre les avis formulés par des médecins humains et ceux issus de systèmes d’aide à la décision informatisés. Les instruments antérieurs souffraient fréquemment d’un biais d’application spécifique (ex. évaluation exclusive de l’IA appliquée à la radiologie oncologique ou aux logiciels de triage) ou confondaient la perception des risques avec l’anxiété technologique générale. L’ARBS comble cette lacune en proposant un questionnaire contextuellement standardisé mais technologiquement indépendant, permettant d’appréhender le profil cognitif global de l’observateur face à la transformation numérique du soin.

Dans le domaine de la recherche empirique, l’ARBS permet de modéliser le rôle médiateur ou modérateur des croyances individuelles dans l’adoption des solutions d’e-santé, la conformité aux traitements suggérés par des systèmes automatisés et le consentement éclairé numérique. En pratique clinique et organisationnelle, cette échelle offre aux directeurs d’établissements de santé, aux ingénieurs biomédicaux et aux comités d’éthique un levier diagnostique précieux pour cartographier les craintes prévalentes (telles que la déshumanisation de l’accompagnement thérapeutique ou la défaillance de la sécurité des données) et les leviers d’adhésion (tels que la rapidité de prise en charge ou la personnalisation des thérapies). Une telle cartographie s’avère indispensable pour élaborer des interventions psychoéducatives et concevoir des interfaces d’IA explicables (explainable AI) adaptées aux attentes légitimes des patients et des soignants.

5. Construit psychologique / Construct

Le construit psychologique ciblé par l’échelle relève de l’évaluation cognitive duale des technologies émergentes, spécifiquement ancrée dans le paradigme de l’évaluation probabiliste des risques et bénéfices perçus. Dans la lignée des travaux classiques en psychologie cognitive du risque, les individus ne traitent pas les bénéfices et les risques comme les extrémités opposées d’une variable bipolaire unique, mais élaborent deux représentations cognitives distinctes, capables de coexister et d’interagir.

Sous-échelle 1 : Perception des risques (Risk Perceptions – 10 items)

Cette composante explore le degré de certitude subjective avec lequel un individu anticipe des retombées délétères découlant de l’intégration de l’IA en médecine. Elle englobe plusieurs facettes phénoménologiques du préjudice :

• Menace pour l’individualisation du soin : La crainte que l’algorithme procède à une standardisation statistique rigide, incapable de saisir la singularité clinique et biographique du patient (ex. item R1 : méconnaissance de l’unicité de la condition individuelle).
• Impact socioprofessionnel : La projection d’une précarisation ou d’une disparition d’emplois hautement qualifiés au détriment des soignants (item R2).
• Vulnérabilité des données et sécurité numérique : La préoccupation liée aux violations de la confidentialité, aux piratages de dossiers médicaux et aux défaillances de serveurs (items R3 et R5).
• Dérives éthiques et aliénation humaine : Le risque d’érosion de la relation thérapeutique empathique, aboutissant à une déshumanisation institutionnelle du soin et à des impasses déontologiques de responsabilité (items R4 et R7).
• Faillibilité algorithmique et iatrogénie : L’appréhension face à la production d’erreurs médicales informatisées, à l’inexactitude des métriques physiologiques et à la dépendance excessive (overreliance) d’opérateurs humains passifs (items R6, R8, R9, R10).

Sous-échelle 2 : Perception des bénéfices (Benefit Perceptions – 9 items)

Cette dimension évalue l’anticipation positive de gains cliniques, diagnostiques et organisationnels découlant du déploiement de l’IA :

• Efficience diagnostique et thérapeutique : La capacité supposée de la machine à dépasser les limites cognitives humaines par une réduction tangible des erreurs diagnostiques et une sélection pharmacologique optimisée (items B1, B8, B9).
• Médecine personnalisée et prédictive : L’exploitation de mégadonnées (big data) pour affiner la prédiction des événements indésirables graves et adapter le traitement au profil précis du patient (items B2, B3).
• Fluidification communicationnelle et accessibilité : La levée des goulots d’étranglement administratifs, l’amélioration du partage de données interprofessionnel et la démocratisation de l’accès aux soins pour des populations géographiquement ou socialement marginalisées (items B4, B5).
• Rigueur biométrique et surveillance longitudinale : L’exactitude des mesurages continus et le suivi rigoureux de l’efficacité thérapeutique en temps réel (items B6, B7).

6. Cadre théorique / Theoretical Framework

Le fondement théorique de l’ARBS s’articule autour de la convergence de trois grands corpus théoriques en psychologie et en sciences sociales :

Le paradigme psychométrique du risque

Initié par Paul Slovic et ses collègues de la Decision Research à la fin des années 1970, le paradigme psychométrique postule que le risque n’est pas une entité physique objectivement réductible à un calcul actuariel (probabilité × sévérité), mais un construit multidimensionnel modulé par des facteurs psychologiques subjectifs. Parmi ces facteurs figurent la contrôlabilité perçue, le potentiel catastrophique, la familiarité de la technologie et le degré d’effroi (dread risk). Dans le contexte de l’IA en médecine, l’ARBS opérationnalise précisément cette estimation en mesurant comment la peur de la défaillance invisible des algorithmes active une heuristique de précaution.

L’heuristique de l’affect et l’asymétrie bénéfice-risque

Les modèles de double processus (dual-process theories) et les recherches de Finucane, Alhakami, Slovic et Johnson (2000) démontrent que dans l’esprit du public, le risque et le bénéfice perçus entretiennent généralement une corrélation inverse spontanée (si une technologie est aimée, elle est jugée hautement bénéfique et peu risquée), bien que dans le monde réel cette relation soit nulle ou positive. L’ARBS préserve l’indépendance structurelle des deux dimensions pour permettre de tester la validité empirique de l’heuristique de l’affect face aux technologies de santé, où un individu peut simultanément reconnaître de gigantesques bénéfices prédictifs tout en appréhendant intensément la déshumanisation clinique.

Les modèles d’acceptation technologique et de confiance organisationnelle

L’instrument s’adosse également aux prolongements du Modèle d’Acceptation de la Technologie (TAM ; Davis, 1989 ; Venkatesh et al., 2003) et aux modèles de confiance automatisée (Lee & See, 2004). Le TAM postule que l’utilité perçue (analogue aux bénéfices de l’ARBS) et la facilité d’utilisation conditionnent l’intention d’usage. Toutefois, l’ARBS intègre les critiques modernes formulées à l’encontre du TAM en milieu hospitalier, qui soulignent l’insuffisance de la seule « utilité » et l’obligation d’intégrer formellement les dimensions éthiques, déontologiques et systémiques du risque.

7. Validité / Validity

Le processus de validation de l’ARBS par Kerstan, Bienefeld et Grote (2024) a mobilisé plusieurs critères psychométriques conformes aux standards internationaux des Standards for Educational and Psychological Testing :

Validité de contenu

Les 19 items initiaux ont été dérivés d’une synthèse exhaustive de la littérature portant sur l’impact de l’IA en médecine clinique, en intégrant notamment les taxonomies empiriques établies par Blease et al. (2019) concernant les attitudes des praticiens et des usagers. Une phase de pré-test qualitative a permis de raffiner la formulation linguistique, d’éliminer les ambiguïtés sémantiques et de s’assurer de l’adéquation conceptuelle des descripteurs pour un public non expert en informatique médicale.

Validité de construit et validité factorielle discriminante

La validité de construit a été rigoureusement démontrée par l’analyse factorielle confirmatoire. Les résultats soutiennent l’indépendance des polarités : un modèle combinant artificiellement les représentations des risques et des bénéfices au sein d’un facteur latent de premier ordre unique a manifesté un effondrement des indices statistiques de fidélité, confirmant que la perception des risques et la perception des bénéfices ne sont pas réductibles à un mécanisme psychologique unidimensionnel.

Validité prédictive et de critère

Dans l’échantillon d’étalonnage de Kerstan et al. (2024), les scores obtenus à l’ARBS prédisent significativement les choix comportementaux et préférentiels des participants confrontés à des arbitrages décisionnels simulés (choix entre une prescription validée par un médecin humain vs générée par un algorithme d’IA). Un score élevé de perception des risques s’associait de manière robuste à un rejet de l’option algorithmique, même lorsque celle-ci affichait une précision statistique supérieure, apportant une preuve tangible de validité critérielle externe.

8. Fidélité / Reliability

La fidélité de l’ARBS a fait l’objet d’évaluations de cohérence interne approfondies lors de son administration auprès d’une cohorte d’adultes recrutés via la plateforme Prolific :

• Sous-échelle Perception des risques (10 items) : Le coefficient alpha de Cronbach atteint 0,87. Ce niveau de fidélité dépasse largement le seuil conventionnel minimal de 0,70 préconisé par Nunnally et Bernstein (1994) et indique une excellente homogénéité du construit sans redondance excessive entre les formulations d’items.
• Sous-échelle Perception des bénéfices (9 items) : Le coefficient alpha de Cronbach est de 0,84, dénotant également une consistance interne substantielle et une grande robustesse métrologique.

L’erreur standard de mesure (SEM) se maintient à des niveaux particulièrement faibles, assurant une précision d’estimation optimale aussi bien aux niveaux médians que dans les segments extrêmes des distributions de scores. Bien que les données de fidélité test-retest à long terme méritent d’être complétées par des études longitudinales ultérieures, la stabilité des saturations factorielles entre sous-groupes confirme la résilience structurelle de l’outil.

9. Analyse factorielle / Factor Analysis

La validation empirique de l’architecture interne de l’ARBS a été conduite en combinant des approches exploratoires et confirmatoires séquentielles :

Analyse factorielle exploratoire (AFE)

Une analyse factorielle exploratoire menée sur l’ensemble initial des items a mis en lumière une organisation interne nuancée :

• Pour les items dédiés aux risques, une solution à 2 facteurs s’est dégagée, distinguant d’une part les risques systémiques/techniques (bugs, piratages, erreurs de mesure) et d’autre part les risques humains/éthiques (déshumanisation, perte d’empathie, destitution de l’expertise médicale).
• Pour les items relatifs aux bénéfices, l’extraction factorielle a initialement isolé une structure dominée par une composante majeure unique (solution à 1 facteur). Un item exploratoire de bénéfice saturant isolément sur un facteur orthogonal sans lien logique avec les autres composantes a été définitivement exclu de la version finale de 19 items afin de préserver la parcimonie et la cohérence de l’instrument.

Analyse factorielle confirmatoire (AFC)

L’évaluation confirmatoire a comparé plusieurs structures concurrentes. Le modèle final retenu (modèle à cinq facteurs englobant les facettes de l’étude globale de Kerstan et al., 2024) a mis en évidence des indices d’ajustement conformes aux standards méthodologiques stricts de Hu et Bentler (1999) :

• Chi-deux : $\chi^2 = 1008{,}46$ ($df = 547$, $p < 0{,}001$)
• Ratio chi-deux sur degrés de liberté : $\chi^2/df = 1{,}84$ (valeur idéale largement inférieure au seuil critique de 3,0)
• Comparative Fit Index (CFI) : $0{,}91$
• Tucker-Lewis Index (TLI) : $0{,}90$
• Root Mean Square Error of Approximation (RMSEA) : $0{,}04$ (démontrant un excellent ajustement par rapport à la population)
• Standardized Root Mean Square Residual (SRMR) : $0{,}06$ (inférieur au plafond limite de 0,08)

De manière déterminante, un modèle alternatif unitaire à 4 facteurs fusionnant indistinctement les risques et les bénéfices en un seul méta-facteur d’attitude générale a produit un ajustement significativement dégradé ($\Delta\chi^2$ hautement significatif, baisse marquée du CFI et hausse du RMSEA), entérinant définitivement la nécessité théorique et statistique de traiter les risques et les bénéfices perçus comme deux entités psychologiques irréductibles.

10. Instrument de mesure / Instrument

L’ARBS se présente sous la forme d’un inventaire auto-administré standardisé :

• Format d’administration : Questionnaire informatisé (compatible ordinateur, tablette, smartphone) ou papier-crayon.
• Nombre total d’items : 19 énoncés (10 items pour la sous-échelle des risques et 9 items pour la sous-échelle des bénéfices).
• Durée moyenne de passation : Environ 3 à 5 minutes.
• Modalités de réponse : Échelle de Likert en 7 points graduée de la manière suivante :
  1 = Très peu probable (Very unlikely)
  2 = Peu probable (Unlikely)
  3 = Plutôt peu probable (Somewhat unlikely)
  4 = Neutre (Neutral)
  5 = Plutôt probable (Somewhat likely)
  6 = Probable (Likely)
  7 = Très probable (Very likely)
• Consigne introductive : « Selon vous, quelle est la probabilité que les risques ou bénéfices suivants surviennent ? Dans le domaine des soins de santé, l’IA pourrait… »
• Procédure de cotation et calcul des scores :
  • Score de perception des risques : Calculé en effectuant la moyenne arithmétique (ou la somme) des items R1 à R10 (score oscillant entre 1 et 7). Aucun item n’est inversé.
  • Score de perception des bénéfices : Calculé en effectuant la moyenne arithmétique (ou la somme) des items B1 à B9 (score oscillant entre 1 et 7). Aucun item n’est inversé.
  • Interprétation : Les deux scores doivent impérativement être analysés séparément afin de générer un profil bidimensionnel de l’enquêté (ex. profil ambivalent : risques élevés et bénéfices élevés ; profil réceptif : risques faibles et bénéfices élevés ; profil réfractaire : risques élevés et bénéfices faibles ; profil indifférent : scores médians neutres).

11. Permissions, Tarifs et Année du test / Permissions & Fee and Test Year

L’Échelle des risques et bénéfices de l’IA a été publiée en 2024. Conformément aux engagements de l’ETH Zürich en matière de science ouverte (Open Science), le questionnaire est diffusé sous une licence Creative Commons (CC-BY). En conséquence :

• Coût d’utilisation : Gratuit (aucun honoraire de licence ni droit d’usage commercial ou académique n’est exigé).
• Autorisation : Les chercheurs universitaires, cliniciens et praticiens de santé sont légalement autorisés à reproduire, traduire et intégrer l’échelle dans leurs protocoles d’investigation sans solliciter de permission formelle écrite préalable, sous réserve expresse de citer rigoureusement l’article princeps de Kerstan, Bienefeld et Grote (2024).
• Contact et correspondance : Sophie Kerstan ([email protected]).

12. Références / References

Les sources bibliographiques suivantes constituent le corpus fondamental sous-tendant la conception et la validation psychométrique de l’instrument :

• Blease, C., Kaptchuk, T. J., Bernstein, M. H., Mandl, K. D., Halamka, J. D., & DesRoches, C. M. (2019). Artificial intelligence and the future of primary care: Exploratory survey of UK general practitioners. JMIR Medical Informatics, 7(1), Article e12802. https://doi.org/10.2196/12802
• Davis, F. D. (1989). Perceived usefulness, perceived ease of use, and user acceptance of information technology. MIS Quarterly, 13(3), 319–340. https://doi.org/10.2307/249008
• Finucane, M. L., Alhakami, A., Slovic, P., & Johnson, S. M. (2000). The affect heuristic in judgments of risks and benefits. Journal of Behavioral Decision Making, 13(1), 1–17. https://doi.org/10.1002/(SICI)1099-0771(200001/03)13:1<1::AID-BDM333>3.0.CO;2-S
• Hu, L. T., & Bentler, P. M. (1999). Cutoff criteria for fit indexes in covariance structure analysis: Conventional criteria versus new alternatives. Structural Equation Modeling: A Multidisciplinary Journal, 6(1), 1–55. https://doi.org/10.1080/10705519909540118
• Kerstan, S., Bienefeld, N., & Grote, G. (2024). AI Risks and Benefits Scale: Measuring risk-benefit perceptions of AI-based technologies in healthcare. ETH Zürich, Department of Management, Technology, and Economics, Work and Organizational Psychology.
• Lee, J. D., & See, K. A. (2004). Trust in automation: Designing for appropriate reliance. Human Factors, 46(1), 50–80. https://doi.org/10.1518/hfctr.46.1.50_30392
• Nunnally, J. C., & Bernstein, I. H. (1994). Psychometric theory (3rd ed.). McGraw-Hill.
• Schepman, A., & Rodway, P. (2020). Initial validation of the general attitudes towards Artificial Intelligence Scale. Computers in Human Behavior Reports, 1, Article 100014. https://doi.org/10.1016/j.chbr.2020.100014
• Slovic, P. (1987). Perception of risk. Science, 236(4799), 280–285. https://doi.org/10.1126/science.3563507
• Venkatesh, V., Morris, M. G., Davis, G. B., & Davis, F. D. (2003). User acceptance of information technology: Toward a unified view. MIS Quarterly, 27(3), 425–478. https://doi.org/10.2307/30036540

13. Questions et items du questionnaire / Scale Items