Éthique située de la technologie et de l’IA et rôle de la communication transactionnelle et du co-design

Présentation

Manuel ZACKLAD
Professeur en Sciences de l’Information et de la Communication
Laboratoire Dicen-IdF – Conservatoire National des Arts et Métiers

Dans cette présentation nous défendrons une approche particulière de l’éthique des technologies dénommée « éthique située » (Zacklad & Rouveroy 2022). Cette approche prend radicalement le contre-pied des approches basées sur l’acceptabilité des technologies et montre qu’il existe souvent des « conflits de narratif total » (Zacklad 2022) qui ne peuvent être résolus que par une approche dialogique ou transactionnelle de la communication, mise en oeuvre dans des approches de Codesign au sens fort (Zacklad et al. 2021, Zacklad à paraître).

Dans le domaine de la santé, comme dans celui de l’éducation, du droit ou des politiques publiques, pour ne prendre que quelques exemples, la tentation technosolutionniste est particulièrement destructrice, car la performance des activités est notamment liée aux processus relationnels de subjectivation réciproque. Certaines politiques sanitaires technosolutionnistes (Ellul, sacralisation de la technique et propagande sociologique, Illich, monopole radical d’un moyen technique…) se retournent contre la santé de la population, comme certaines phases de gestion de la crise sanitaire récente l’ont montré. Dans cet épisode récent, la crise technosolutionniste est aussi apparue comme l’autre versant d’une crise des sciences et de leur relation à des média totalement ignorants de leur dynamique. La prise en compte de l’éthique située se révèle ici être en prise directe avec des enjeux d’éthique institutionnelle touchant notamment aux phénomènes de corruption qui sont particulièrement sensibles dans l’univers médical et pharmaceutique.

Il ne s’agit pas pour autant de rejeter les technologies en bloc. Diverses approches alternatives existent comme le recours aux low tech distinguées des high tech (Abrassart, Jarrige, Bourg, 2020). Mais nous pensons aussi que les approches dispositives de la technologie que nous cherchons à développer, d’abord dans le champ des dispositifs d’information et de communication et du numérique mais plus largement ensuite dans tous les secteurs de la technologie, sont susceptibles de fournir des pistes heuristiques et opérationnelles pour réconcilier high tech et low tech (dont les applications basées sur des modules d’IA) pour aller vers des développements maîtrisés et compatibles avec les enjeux de la transition, en renouvelant le vieux logiciel de la sociologie des techniques.

Participer à la réunion Zoom

Rejoindre la séance

https://univ-grenoble-alpes-fr.zoom.us/j/99155086575?pwd=RHcrVHJBMkV5SFl1Z09aREU4T2h6dz09

ID de réunion : 991 5508 6575

Code secret : 325212

Le séminaire « Enjeux éthiques de l’IA en santé » 

Présentée parfois comme la quatrième révolution industrielle, l’intelligence artificielle suscite à la fois espoirs et inquiétudes, en particulier dans le domaine de la santé. Les algorithmes de deep learning, après avoir bouleversé le domaine de la reconnaissance d’images, font désormais leurs preuves dans l’aide au diagnostic. Le big data permet de développer de nouveaux modèles épidémiologiques, et d’envisager des campagnes de prévention et de dépistage personnalisées. Grâce à la miniaturisation de l’électronique, de nouveaux objets connectés ont pu apparaître, y compris implants et prothèses intelligentes, conçues pour soutenir voire remplacer un organe défaillant. Et depuis longtemps, sous diverses formes, la robotique a fait son entrée à l’hôpital, d’abord dans les blocs opératoires pour améliorer la précision des gestes chirurgicaux, puis dans les couloirs et même les chambres des patients, pour accompagner le travail des infirmiers et aides-soignants.

Au-delà de la performance technique de ces systèmes d’IA, il est fondamental de s’intéresser dès leur conception aux interactions entre humains et algorithmes, qui détermine l’usage en vie réelle de ces technologies. Si l’IA permet parfois de gagner du temps ou de faire progresser les connaissances médicales, elle bouleverse les organisations et transforme à la fois les métiers du soin et les traitements disponibles. En pratique, l’analyse coût-bénéfice de ces technologies est très difficile, en particulier si elle englobe l’impact environnemental. Ainsi la conception et l’évaluation des systèmes d’IA rendent nécessaires un décloisonnement des disciplines, et une coopération inédite de la part de différents acteurs issus à la fois de la médecine, de l’ingénierie et des sciences humaines et sociales.

Une autre question centrale est celle de la gestion des données personnelles. En effet, le succès de l’intelligence artificielle repose sur de grandes bases de données, ce qui nécessite un important travail de collecte et de maintenance. Dans le cas de la santé, ces données sont particulièrement sensibles pour ce qu’elles révèlent de leur propriétaire. Elles représentent un enjeu important, en termes de respect de la vie privée et d’accès à l’information pour les patients.

Par ailleurs, nos conceptions de la santé, de la maladie, du handicap, ou encore de la relation patient-médecin évoluent au contact des systèmes d’IA. Ainsi les technologies de quantified self et de calcul de risques individuels pourraient encourager la prévention, mais font également craindre une disparition des caisses d’assurance collectives, remplacées par des caisses d’épargne où chaque citoyen économiserait en prévision de ses futures dépenses de santé. De même, on peut se demander si l’IA permet aux médecins de consacrer plus de temps à la relation avec leurs patients, ou au contraire si elle les en éloigne, l’interface numérique se substituant progressivement au corps du patient.

À travers l’expérience des différents intervenants, il s’agit donc de réfléchir aux conditions dans lesquelles l’IA améliore le soin, et favorise l’encapacitation des différents acteurs de la santé. Au vu des transformations en cours, la réflexion éthique liée au déploiement de ces nouvelles technologies en santé ne peut prendre une forme univoque : compte tenu de la variété des pratiques dynamisées par l’innovation, elle constitue même un véritable chantier, auquel ce programme entend œuvrer.

Cette réflexion éthique se comprend nécessairement au croisement des quatre formes de discours qui, actuellement, conjuguent leurs tentatives afin d’accompagner l’IA grâce à l’éthique : l’éthique algorithmique (ou Computer ethics) qui entend élaborer des systèmes d’algorithmes « explicables », « transparents » et « équitables » ; l’éthique de la robotique (Artificial ethics) qui réfléchit notamment à la capacité des systèmes technologiques d’augmenter l’autonomie humaine grâce à l’interaction de machines qui deviennent de véritables artefacts sociaux ; l’éthique du numérique et de la donnée (Digital ethics), qui entreprend de concevoir les valeurs et les règles adaptées à un usage des réseaux et des data à la fois efficace, respectueux des personnes et juste ; enfin, l’éthique des usages de l’IA (que nous proposons de nommer « UX IA ethics »), qui observe et décrit les cas d’usage afin de concevoir, de mettre en œuvre et de tester les protocoles permettant de développer des pratiques de soin et de santé technologiquement assistées conformes aux valeurs éthiques.

Le programme a pour ambition d’interroger les pratiques au prisme des quatre formes actuelles de l’éthique de l’IA, afin de faire progresser l’éthique de l’IA en santé.

Modalités

Chaque séance du programme dure 1h30. Elle commence par un exposé de 30 à 45 min, suivi d’une discussion avec les participants.

Ce programme constitue un espace de travail et d’échanges pluri et interdisciplinaires. L’objectif est de présenter une éthique en cours d’élaboration, basée sur les pratiques, plutôt que d’exposer des résultats.

Prochaines séances programmées

3 octobre 2022 (12h30-14h00) :

« Les reconfigurations du « travail du patient », des rôles professionnels et de la relation thérapeutique lors de l’intégration d’un dispositif de télésurveillance médicale en diabétologie »
Alexandre Mathieu-Fritz, Professeur de sociologie à l’université Gustave Eiffel et chercheur au LATTS. Spécialisé en sociologie du travail et des groupes professionnels