Nouvelles

Apr 14, 2024

« Oppenheimer » et les risques de l'IA dans les soins de santé

Par Junaid NabiAug. 2 février 2023 Toutes les grandes histoires ont une fin compliquée. Mais cela ne veut pas dire qu’ils ne peuvent pas proposer des cours simples et instructifs. Le magnum opus de Christopher Nolan, « Oppenheimer », met en lumière

Par Junaid NabiAug. 2, 2023

Toutes les grandes histoires ont une fin compliquée. Mais cela ne veut pas dire qu’ils ne peuvent pas proposer des cours simples et instructifs. Le magnum opus de Christopher Nolan, « Oppenheimer », met en lumière l'histoire tragique du « père de la bombe atomique ». Mais c'est aussi l'histoire de la façon dont les États-Unis ont raté une occasion de devenir un leader mondial dans le développement d'une innovation qui définirait le 20e siècle. Ce siècle sera défini par les technologies transformationnelles – en particulier l'intelligence artificielle – et l'histoire de J. Robert Oppenheimer offre des leçons particulièrement importantes pour les dirigeants du secteur de la santé, les entrepreneurs et les décideurs politiques.

L’ère d’Oppenheimer a été définie par la course à l’énergie nucléaire, tandis que la nôtre est définie par la concurrence dans la technologie de l’intelligence artificielle. Les deux technologies sont des outils puissants qui changeront la trajectoire de l’humanité. Autre similitude déconcertante avec l'époque d'Oppenheimer : les acteurs politiques qui élaborent les politiques nationales autour de l'innovation semblent désengagés ou politisent les nuances de la science. Cette politique politique rend de plus en plus difficile les discussions constructives sur l’avenir de l’innovation en matière de soins de santé. Nous le constatons déjà avec la désinformation autour de la technologie de l’ARNm et le harcèlement continu des scientifiques.

publicité

Entre-temps, plus d’une douzaine d’entreprises de soins de santé utilisent déjà ChatGPT, un chatbot basé sur l’IA développé par OpenAI, pour diverses fonctions. Mais nous ne comprenons pas pleinement les conséquences de l’intégration de ces grands modèles linguistiques dans les fonctions de santé. Étonnamment, bon nombre des discussions en cours sur l’élaboration des politiques et la réglementation de l’IA se sont concentrées sur les leaders du secteur technologique et n’ont pas pleinement exploité l’expertise des dirigeants du secteur des soins de santé, qui possèdent des connaissances uniques sur l’application de l’IA à la santé et à la médecine. Cela m'a rappelé une scène puissante du film « Oppenheimer » dans laquelle le scientifique titulaire tente de persuader le président Truman des dangers de l'énergie nucléaire, pour ensuite voir ses inquiétudes écartées.

L’attention des médias sur ces évolutions technologiques rapides et les préoccupations concernant l’utilisation des données des consommateurs renforcent également la pression sur les législateurs pour qu’ils agissent. La semaine dernière, la sénatrice républicaine Lindsey Graham et la sénatrice démocrate Elizabeth Warren ont reconnu que « le Congrès est trop lent, il lui manque l’expertise technologique » et ont souligné l’importance de créer une agence de régulation bipartite par le biais de la loi sur la Commission de protection des consommateurs numériques. L’idée proposée semble être davantage axée sur les entreprises technologiques à grande échelle, ce qui ne comprend pas pourquoi ces protections sont nécessaires pour les applications et les efforts d’IA dans le domaine des soins de santé. Les études de recherche continuent de mettre en évidence comment les outils basés sur l’apprentissage automatique peuvent conduire à des soins médicaux inappropriés.

Votre dose quotidienne d'actualités en santé et médecine

L'histoire d'Oppenheimer illustre également à quel point il existe un décalage entre les objectifs de la science – tels que la transparence, la collaboration et la recherche de la vérité – et les objectifs politiques, qui sont toujours en évolution. Comprendre cela est particulièrement urgent à l’heure actuelle, alors que le public apprend continuellement comment l’IA va changer les secteurs, y compris les soins de santé.

publicité

Cependant, le manque de clarté sur l’impact de ces changements sur les soins aux patients peut conduire à un environnement de peur et de méfiance qui peut en fin de compte étouffer l’innovation, car la santé est bien plus personnelle que l’économie. Les responsables du secteur de la santé qui utilisent ces technologies pour créer des applications numériques peuvent jouer un rôle important de communicateurs scientifiques, par exemple en prévoyant dans leurs supports de communication une section dédiée aux attentes des patients en matière de technologie.

Enfin, nous devons réorienter nos efforts d’innovation numérique vers la réduction des disparités en matière de soins de santé et prendre des mesures pour ne pas marginaliser davantage les populations vulnérables. L'histoire d'Oppenheimer rappelle également les souffrances causées aux communautés hispaniques et amérindiennes du Nouveau-Mexique à l'époque du Trinity Test. Des études récentes démontrent déjà comment les algorithmes numériques utilisés dans la prise de décision en matière de soins de santé peuvent exacerber les inégalités. Les entrepreneurs et les décideurs politiques des technologies de la santé doivent veiller à ce que toutes les stratégies nécessaires d’atténuation des biais – y compris le déploiement d’ensembles de données représentatifs pour la création d’applications numériques – soient mises en œuvre afin d’éviter des conséquences négatives pour les patients mal desservis. C’est également l’un des moyens les plus efficaces pour les entreprises de santé numérique d’instaurer la confiance.