Questioning the Relevance of Sex Categories implemented in Medical Decision Support Systems - The Example of Pulmonary Function

Patricia LEMARCHAND, Dorian HASSOUN, Pascale KUNTZ

Abstract


Cite: LEMARCHAND, P., HASSOUN, D., & KUNTZ, P. (2024). Questioning the Relevance of Sex Categories implemented in Medical Decision Support Systems - The Example of Pulmonary Function. ESSACHESS. 17(33) : 000-000. https://doi.org/10.21409/8253-X893

Abstract: Medical decision support systems rely on a variety of data to provide advice and predictions that contribute to diagnoses. Data categorizations, which are often hidden and therefore invisible, play a major role in the statistical models implemented in these digital tools. Male/female bicategorization is a paradigmatic case that has been little studied in this context. This study analyzes its use and determinants in pulmonary function measurement as a case study. Using a corpus of sixty articles, carefully selected in the medical literature for their representativeness, and the reference equations on which decision support systems are based, we investigate the role of male/female categorization as used in everyday clinical practice, its origins, and the place of sex and gender in this issue. This research reveals a naturalization of men/women differences in favor of sex, underpinning a binary essentialism of biological sex. Naturalization of men/women differences is a major concern for the use of predictive artificial intelligence models and the development of decision algorithms, with a possible worsening of health disparities as a result of biases in training data.

Keywords: medical decision support system, sex, gender, male/female categorization, pulmonary function

***

Prise en compte du genre dans les systèmes d’aide à la décision médicale - L’exemple de la fonction respiratoire

Résumé : Les systèmes d'aide à la décision médicale s'appuient sur des données hétérogènes et de volumétries variées pour fournir des conseils et des prédictions contribuant aux diagnostics. Des catégorisations, souvent invisibles, jouent un rôle majeur dans les modèles statistiques implémentés dans ces outils numériques. La bicatégorisation homme/femme est un cas paradigmatique qui a été peu étudié dans ce cadre. Cet article analyse son usage et ses déterminants dans une étude de cas, portant sur la mesure de la fonction respiratoire. Nous avons constitué un corpus de soixante articles de la littérature médicale (sélectionnés pour leur représentativité) et des équations de référence sur lesquels s’appuient les systèmes d’aide à la décision utilisés en routine clinique. Dans ce corpus, nous analysons le rôle de cette catégorisation homme/femme, ses origines, et la place du sexe et du genre dans cette problématique. Cette recherche montre une naturalisation des différences hommes-femmes au profit du sexe, sous-tendant un essentialisme binaire du sexe biologique. Cette naturalisation des différences homme/femme représente une préoccupation importante pour l'utilisation de modèles prédictifs d’intelligence artificielle et le développement d’algorithmes décisionnels, avec le risque d'aggraver les disparités en matière de santé en raison de biais dans les données d’entrainement.

Mots-clés : système d'aide à la décision médicale, sexe, genre, bicatégorisation homme/femme, fonction respiratoire


Refbacks

  • There are currently no refbacks.


On line ISSN 1775-352X
Paper ISSN 2066-5083

© ESSACHESS

The opinions expressed in the texts published are the author’s own and do not necessarily express the views of ESSACHESS editors. The authors assume all responsibility for the ideas expressed in the published materials.

Les idées et les opinions exprimées dans les textes publiés dans la revue n' engagent pas la responsabilité de l'éditeur. Les opinions exprimées dans les articles n'engagent que leurs auteurs.