Canada protocol: An ethical checklist for the use of artificial Intelligence in suicide prevention and mental health

Résumé

Introduction: To improve current public health strategies in suicide prevention and mental health, governments, researchers and private companies increasingly use information and communication technologies, and more specifically Artificial Intelligence and Big Data. These technologies are promising but raise ethical challenges rarely covered by current legal systems. It is essential to better identify, and prevent potential ethical risks. Objectives: The Canada Protocol - MHSP is a tool to guide and support professionals, users, and researchers using AI in mental health and suicide prevention. Methods: A checklist was constructed based upon ten international reports on AI and ethics and two guides on mental health and new technologies. 329 recommendations were identified, of which 43 were considered as applicable to Mental Health and AI. The checklist was validated, using a two round Delphi Consultation. Results: 16 experts participated in the first round of the Delphi Consultation and 8 participated in the second round. Of the original 43 items, 38 were retained. They concern five categories: "Description of the Autonomous Intelligent System" (n=8), "Privacy and Transparency" (n=8), "Security" (n=6), "Health-Related Risks" (n=8), "Biases" (n=8). The checklist was considered relevant by most users, and could need versions tailored to each category of target users. Introduction: Pour améliorer les stratégies de santé publique actuelles en matière de prévention du suicide et de santé mentale, les gouvernements, chercheurs et compagnies privées utilisent de plus en plus les technologies de l’information et des communications, et en particulier l’intelligence artificielle (IA) et les mégadonnées. Ces technologies sont prometteuses, mais elles soulèvent des enjeux éthiques qui sont rarement couverts à l’heure actuelle par les systèmes légaux. Il est essential de mieux identifier et de prévenir les risques éthiques potentiels. Objectifs : le Protocole Canadien – MHSP est un outil utile pour guider et soutenir les professionnels, utilisateurs et chercheurs qui utilisent l’IA dans les domaines de la santé mentale et de la prévention du suicide. Méthode : une liste à cocher a été développée, basée sur 10 rapports internationaux sur l’IA et l’éthique et sur deux guides sur la santé mentale et les nouvelles technologies. Sur les 329 recommandations identifiées, 43 ont été considérées applicables à la santé mentale et l’IA. La liste à cocher a été validée grâce à un processus de consultation Delphi en deux rondes. Résultats : 16 experts ont participé à la première ronde de la consultation Delphi et 8 à la deuxième ronde. Sur les 43 items d’origine, 38 ont été retenus. Ils s’inscrivent dans l’une ou l’autre de 5 catégories : « Description du système d’intelligence autonome » (n-8), « Vie privée et transparence » (n=8), « Sécurité » (n=6), « Risques reliés à la santé » (n=8), « biais » (n=8). La liste à cocher a été considérée utile par la majorité des utilisateurs, et pourrait nécessiter des versions adaptées à chaque catégorie d’utilisateurs potentiels. PRÉVENTION ÉTHIQUE SANTÉ-MENTALE RECOMMANDATION