Intelligence artificielle : l’enjeu c’est la régulation - L’ interview de David Gruson

 
David Gruson est membre du Comité de direction de la Chaire santé de Sciences-PO Paris et Fondateur de l’initiative Ethik-IA, une initiative académique et citoyenne qui entend défendre une « régulation positive » de l'intelligence artificielle (IA) et de la robotisation en santé, notamment dans le cadre des états généraux de la bioéthique. Il a accepté de répondre à nos questions sur l’intelligence artificielle utilisée dans le domaine de la santé. 
 
Avenir Hospitalier : Dans le domaine de la santé, on peut penser que les applications de l’IA seront décisives pour l’aide au diagnostic par exemple. Pensez-vous à d’autres domaines, d’autres exemples? En particulier pour un acteur de la santé non soignant comme vous ?
 
Davis Gruson : Le domaine du diagnostic est, en effet, majeur avec des solutions d’IA qui se fiabilisent progressivement dans différents domaines même si, pour le moment, les cas d’application concrets sont encore limités dans le réel des pratiques des professionnels en France. Le sujet le plus à court terme est effectivement celui de la transposition, sur les fonctions supports, administratives et logistiques, de solutions d’IA et de robotisation d’ores et déjà fonctionnelles dans d’autres secteurs de la vie économique et sociale.
 
Avenir Hospitalier : L’IA fera disparaître des métiers, et devrait en créer de nouveaux. Dans le domaine de la santé, comment entrevoyez-vous l’avenir ?
 
David Gruson : Il faut avoir l’humilité collective de reconnaître que beaucoup d’incertitudes demeurent sur ce qui va venir. Non sur l’ampleur du mouvement : c’est une véritable révolution pour les métiers du champ sanitaire et médico-social qui est à l’œuvre. Le questionnement porte sur le rythme de ce déploiement et ses premiers points d’application. Comme les précédentes, cette vague d’innovations « de rupture » supprimera effectivement des emplois et en créera d’autres. On peut faire des analyses et des prévisions à ce sujet, c’est le sens du volet RH de l’initiative Ethik-IA. Nous pensons, par exemple, que les impacts en suppressions seront d’abord plus forts pour les métiers non soignants et pour les territoires de santé qui n’auront pas engagé préalablement d’évolutions de l’offre de soins. Des créations d’emplois vont venir avec des besoins nouveaux qui émergent sur le pilotage par les données et le renforcement de l’accompagnement humain auprès des patients. Mais nous avons besoin d’une initiative forte portée par les pouvoirs publics pour doter la France – et l’Europe – d’un dispositif structuré de suivi et d’anticipation de ces phénomènes essentiels pour l’avenir de nos systèmes de soins. 
 
 
Avenir Hospitalier : L’IA et ses algorithmes ne risquent-ils pas de confisquer la possibilité de l’échange, du désaccord, du débat de la controverse, comment on peut l’avoir avec un expert ?
 
David Gruson : Tout est une question de régulation du déploiement de ces technologies. Avec Ethik IA, nous avons proposé toute une série d’outils pratiques autour de la notion de garantie humaine de l’IA et d’évitement d’une logique de délégation du consentement à la machine. C’est un enjeu fort de la prochaine révision de la loi de bioéthique. 
 
Avenir Hospitalier : En termes de santé publique, on voit bien l’intérêt de l’accès aux Big Data par les pouvoirs publics pour orienter de façon pertinente leur politique, en particulier dans la prévention. En contre partie, l’exigence de conformité aux recommandations et procédures qui en ressortiront ne sera-t-elle pas considé- ­r­­ablement accrue pour les professionnels de santé, avec la disparition de l’autonomie professionnelle par voie de conséquence ? 
 
David Gruson : Il faut bien garder à l’esprit que c’est surtout l’insuffisance actuelle de pilotage par les données qui est aujourd’hui très péjorative pour les patients et les professionnels. Grâce à l’IA et à la robotisation, nous pouvons faire massivement progresser la qualité et l’efficience du système de soins et les conditions de travail de celles et ceux qui le font vivre au quotidien. Nous vivons, encore en 2018, des situations de santé publique éthiquement inacceptables qui pourraient évitées par un meilleur pilotage par les données de santé. 
Un seul exemple : regardez les effets délétères en terme de santé publique du modèle de financement actuel de la dialyse. Nous aurions pu en prendre conscience plus vite avec un meilleur pilotage par les données. Le Gouvernement vient d’annoncer une réforme d’ensemble sur cette question. C’est peut-être une étape essentielle.
 
Avenir Hospitalier : La protection des données personnelles semble être le souci prioritaire de l’exploitation des Big Data. En revanche, comment empêcher que de grands capitaines d’industrie s’emparent des données pour proposer des solutions médicamenteuses ou techniques qui soient plus conformes à leur intérêt qu’à celui de la population ? 
 
David Gruson : Ici encore, l’enjeu-clé c’est la régulation. L’entrée en vigueur du RGPD – règlement général sur la protection des données – va renforcer les protections. Mais nous devons aller plus loin dans une double logique. D’une part, nous devons davantage partager les données dans un cadre sécurisé pour faire progresser la santé publique. D’autre part, nous devons mieux graduer le niveau de protection des données en fonction de leur sensibilité. La notion de « Big Data » donne la fausse impression que tout se vaudrait. Or, chaque professionnel peut mesurer le contraire dans sa pratique quotidienne. C’est précisément le sens du travail que nous menons avec l’équipe de l’IHU Imagine pour parvenir, d’ici la fin de ce semestre, à un prototype de norme de bon usage de l’IA appliquée aux données génétiques dont personne ne peut douter du caractère éminemment sensible. 
 
Avenir Hospitalier : On entend dans certains milieux, des propos comme : « on va passer de l’artisanat à l’industrie du soin, et d’une médecine libérale à une médecine entrepreneuriale ». N’est-ce pas teinté d’un inquiétant cynisme ?
 
David Gruson : J’aurais envie de vous répondre que le pilotage par les données a d’abord vocation à permettre de mettre un terme à un certain nombre de dérives – dont certaines sont effectivement colorées de cynisme – au sein de notre système de soins. Sur le déploiement de l’IA elle-même, c’est notre responsabilité collective de dégager, en éviter une sur-réglementation qui bloquerait l’innovation, des normes éthiques pratiques. C’est ce que nous appelons la régulation positive. Et effectivement le temps est compté pour la déployer. 
 
Propos recueillis par Saveria Sargentini
 
 

Avec le soutien du Groupe Pasteur Mutualité

 

----------------------------------------------------------------

Campagne nationale
" Dis Doc', t'as ton doc' ? "  pour faire évoluer le modèle culturel des médecins !

 

Retrouvez toute l'information dans le communiqué de presse (cliquez ici)

www.cfar.org/didoc/ 

 

----------------------------------------------------------------

 
 

  

    La revue AH 10 est en ligne

       Pour lire le sommaire et les articles cliquez ici

Pour télécharger la revue, cliquez ici

----------------------------------------------------------------

     Les annonces de recrutement 
Juin 2018

      retrouver ces annonces sur le site reseauprosante.fr

 

Les dernières actus

La souffrance au travail

La souffrance au travail, un phénomène social qui n'épargne pas la Justice

 
Dans son article paru dans la revue de l'Union Syndicale des Magistrats (USM), Pascale Loue-Willaume, chargée de mission, aborde la souffrance au travail dans un contexte général. Puis elle se focailise sur la justice, « Pour nous magistrats, on peut même parler de double paradoxe. Comment concilier notre serment, l’engagement professionnel que nous devons avoir d’impartialité, de loyauté avec des objectifs chiffrés qui ne tiennent généralement aucun compte des moyens et au détriment souvent de la qualité de la motivation de nos décisions »… 

« Et que dire des situations que nous rencontrons dans nos unions régionales : des collègues épuisés, qui ne parviennent plus à prendre leurs congés, qui renoncent à leurs formations obligatoires en raison d’un emploi du temps professionnel qui ne leur laisse aucune marge de manoeuvre quand on ne leur demande pas d’assurer eux-mêmes leur remplacement.»« Comment admettre que nous soyons témoins, voire parfois même victimes, de ce que nous sommes statutairement en charge de poursuivre ou de sanctionner ? »
 
Lire la suite...