De nos jours, les chatbots d'intelligence artificielle (IA) sont de plus en plus utilisés dans de nombreux domaines, y compris la santé. Leur capacité à fournir rapidement des informations et des conseils en fait des outils attrayants pour de nombreuses personnes. Cependant, une récente étude menée par l'Université d'Oxford soulève des inquiétudes quant à leur fiabilité. Les résultats révèlent que les utilisateurs peuvent recevoir des conseils médicaux inexactes, soulevant des questions sur la sécurité de ces outils dans la prise de décisions concernant leur santé.

L'étude a impliqué 1 300 participants cherchant des réponses à divers scénarios de santé. Ceux-ci ont utilisé des chatbots pour poser des questions sur leurs symptômes, notamment des maux de tête sévères ou la fatigue chez une nouvelle mère. Les chercheurs ont noté que les réponses fournies par les chatbots étaient souvent enchevêtrées, mélangeant des conseils utiles et d'autres moins pertinents. En conséquence, les utilisateurs ont eu du mal à discerner les orientations dignes de confiance. Le Dr Rebecca Payne, principal auteur de l'étude, a mis en relief que cette confusion pourrait mener à des choix risqués, comme négliger de consulter un professionnel de santé. Cela montre non seulement la limite actuelle des chatbots dans la fourniture d'informations médicales, mais pointe également vers un agenda de recherche plus large sur leur conception et leur usage.

À titre d'exemple, le Dr Amber W. Childs a souligné que ces chatbots, bien qu'inspirés par des données médicales, peuvent perpétuer des biais historiques dans le domaine de la santé. Cela illustre le risque de faire confiance aveuglément aux recommandations d'une IA, surtout lorsqu'il s'agit de sa santé. En réponse à ces préoccupations, des entreprises comme OpenAI et Anthropic développent des versions spécifiques à la santé, avec la promesse d'améliorer l'exactitude des conseils. Cependant, un cadre réglementaire clair est important pour guider l'utilisation éthique et sécurisée de ces outils.