Ce que l'IA fait quand vous n'allez pas bien.
TwentyThird est un soutien entre les séances, pas un service d'urgence. Voici précisément ce qui arrive à un message qui nous inquiète, et qui est responsable de quoi.
Si vous êtes en danger immédiat
Appelez le 112 partout dans l'UE, ou votre numéro d'urgence local. Au Royaume-Uni et en Irlande, les Samaritains répondent au 116 123. Aux États-Unis, appelez ou envoyez un SMS au 988.
Quatre étapes, dans l'ordre.
Chaque message est vérifié.
Tout ce que vous écrivez — dans l'intake, un Catchup ou une conversation — passe par un contrôle de sécurité distinct avant qu'Oneli ne réponde. Il recherche l'automutilation, les atteintes à autrui, les abus, la détresse sévère, une crise liée aux substances et les signes de psychose.
Grave signifie arrêt.
Si le contrôle juge un message grave, Oneli ne répond pas comme d'habitude. Vous voyez immédiatement les lignes d'urgence, et un panneau de sécurité reste dans votre Room jusqu'à ce que vous l'ayez vu.
Préoccupant signifie soin.
Si un message est préoccupant sans être grave, Oneli ralentit, nomme ce que vous portez et peut suggérer un suivi professionnel.
Un humain est informé.
Avec la supervision, votre psychologue est alerté lorsqu'un message requiert une personne, et vous êtes informé qu'il a été prévenu. La supervision est en accès anticipé : aujourd'hui, aucun humain n'est alerté, c'est pourquoi les lignes d'urgence passent en premier.
Ce qu'il fait, et ce qu'il ne fait jamais.
Il fera
- Écouter chaque jour, et demander plus qu'il ne dit.
- Suivre les indications de votre psychologue.
- Vous dire clairement qu'il s'agit d'une IA.
- Afficher les lignes d'urgence lorsqu'un message est grave.
- Suggérer des soins professionnels lorsque votre semaine l'exige.
Il ne fera pas
- Diagnostiquer, prescrire ou traiter.
- Promettre des résultats.
- Prétendre être humain, ou être votre psychologue.
- Gérer une urgence.
- Montrer ce que vous écrivez à votre employeur ou à votre cercle.
Un humain agréé reste responsable.
L'IA vous soutient entre les séances. Les décisions concernant vos soins appartiennent à un psychologue agréé qui reste impliqué : il conçoit Oneli, l'agent auquel vous parlez, et reçoit les transferts. C'est ainsi que TwentyThird est construit, et c'est la direction que prend la loi dans l'UE et dans plusieurs États américains.
Rien de ce que votre psychologue configure ne peut désactiver le routage de sécurité, faire diagnostiquer ou prescrire Oneli, ni lui permettre de prétendre être humain.
Là où il peut échouer.
- Le contrôle de sécurité est aussi un modèle d'IA. Il peut manquer des choses, et il peut signaler des choses qui sont correctes. C'est pourquoi il n'est jamais la seule sauvegarde.
- Le message de crise dans une conversation est actuellement en anglais. Des lignes d'urgence pour chaque pays sont en cours d'ajout.
- Tant que la supervision ne vous est pas ouverte, personne chez TwentyThird ne lit vos messages ni n'est alerté par ceux-ci.
Qui peut lire ce que vous écrivez.
Vous, et les personnes que vous autorisez. Chaque entreprise qui traite vos données, et où, est listée sur la page de confidentialité.