Le partage de données est un formidable levier pour alimenter une stratégie d’innovation. Mais dans le domaine de la santé, l’éthique doit avoir plus de poids que les opportunités d’affaires. Comme avec le cas de Crisis Text Line, où la transformation numérique a été poussée au-delà de ce qu’une relation de loyauté avec des patients aurait dû autoriser.
Le contre-exemple Crisis Text Line
Si vous vous intéressez à la thématique du partage des données, le cas Crisis Text Line vous permettra de comprendre les limites à ne pas dépasser. Cet organisme numérique à but non lucratif propose de l’aide par SMS dans le domaine de la santé mentale. Il est aujourd’hui critiqué pour la manière dont il partage les données avec Loris.ai, une spin-off à but lucratif lancée par la cofondatrice de Crisis Text Line, Nancy Lublin.
C’est le site américain Politico qui a tiré la sonnette d’alarme dans un article publié en janvier 2022, suscitant la réaction de l’organisation, d’un commissaire de la Commission fédérale des communications et d’au moins un des membres de son conseil d’administration. Résultat : la fin de la relation problématique de partage de données.
Faire le bien avec les données, en oubliant la loyauté due aux utilisateurs
Crisis Text Line explique la logique derrière ce partage en expliquant « Nous avons des données, donc nous devrions les utiliser pour le ‘bien’ ». Mais ce que les observateurs du marché comprennent moins c’est comme une start-up financée par du capital-risque et visant à vendre des services d’apprentissage automatique à des entreprises telles qu’Intuit et Lyft a pu bénéficier de cette « bonté ».
Ce cas illustre pourquoi les prestataires de services sur lesquels nous comptons dans nos moments les plus vulnérables nous doivent plus qu’un niveau standard de service. Ils ont envers nous un devoir de loyauté. Juridiquement, le devoir de loyauté n’exige pas seulement qu’un prestataire de services adhère à une norme de pratique ; il exige également qu’il prenne des décisions dans notre meilleur intérêt – et qu’il ignore explicitement ses propres intérêts lorsqu’il prend cette décision.
Les limites de la transformation numérique dans le domaine de la santé
La transformation numérique permet souvent aux services de se développer de manière importante, généralement sans se soucier du contexte. Et ce que nous rappelle le cas Crisis Text Line c’est que le contexte est important, en particulier dans la santé ! Ce service a formé plus de 12 000 conseillers qui ont délivré plus de 62 millions de messages de soutien. Mais ils le font en se concentrant sur le développement de la technologie qu’ils fournissent (du raisonnement algorithmique, la détection du langage naturel et le triage automatisé des patients), au lieu de penser au contexte de la relation entre le conseiller et un demandeur de soutien.
Ce n’est pas toujours une mauvaise chose : l’anonymat relatif et l’accessibilité de la messagerie texte sont souvent décrits comme une partie importante de l’attrait du service. Mais le passage à des modèles de soutien basés sur des données agrégées est une inversion de l’accent mis sur les patients par la plupart des services de santé mentale. Au final Crisis Text Line n’est pas un cas isolé et nous alerte sur le besoin de gouvernance lorsqu’un organisme manipule des données de personnes vulnérables.
