O que a IA faz quando não está bem.
TwentyThird é um suporte entre sessões, não um serviço de emergência. Eis o que acontece exatamente a uma mensagem que nos preocupa e quem é responsável por quê.
Se estiver em perigo agora
Ligue para 112 em qualquer parte da UE ou para o seu número de emergência local. No Reino Unido e na Irlanda, os Samaritans atendem no 116 123. Nos EUA, ligue ou envie uma mensagem de texto para 988.
Quatro passos, por ordem.
Cada mensagem é verificada.
Tudo o que escreve — na admissão, num Catchup ou numa conversa — passa por uma verificação de segurança separada antes de o Oneli responder. Procura automutilação, dano a outros, abuso, sofrimento grave, uma crise por substâncias e sinais de psicose.
Grave significa parar.
Se a verificação classificar uma mensagem como grave, o Oneli não responde como habitualmente. Vê as linhas de crise de imediato, e um painel de segurança fica na sua Sala até o ter visto.
Preocupante significa cuidado.
Se uma mensagem for preocupante mas não grave, o Oneli abranda, nomeia o que está a carregar e pode sugerir acompanhamento profissional.
Um humano é informado.
Com supervisão, o seu psicólogo é alertado quando uma mensagem precisa de uma pessoa, e é informado de que ele foi notificado. A supervisão está em acesso antecipado: hoje, nenhum ser humano é alertado, e é por isso que as linhas de crise vêm primeiro.
O que faz, e o que nunca faz.
Fará
- Ouvir a qualquer dia e perguntar mais do que diz.
- Seguir a orientação do seu psicólogo.
- Dizer-lhe claramente que é uma IA.
- Mostrar linhas de crise quando uma mensagem é grave.
- Sugerir cuidados profissionais quando a sua semana o exigir.
Não fará
- Diagnosticar, prescrever ou tratar.
- Prometer resultados.
- Fingir ser humano ou ser o seu psicólogo.
- Lidar com uma emergência.
- Mostrar o que escreve ao seu empregador ou ao seu círculo.
Um humano licenciado permanece responsável.
A IA apoia-o entre sessões. As decisões sobre os seus cuidados pertencem a um psicólogo licenciado que se mantém envolvido: concebe o Oneli, o agente com quem fala, e recebe os handoffs. É assim que o TwentyThird é construído, e é para aí que a lei caminha na UE e em vários estados dos EUA.
Nada do que o seu psicólogo define pode desligar o encaminhamento de segurança, fazer o Oneli diagnosticar ou prescrever, ou deixá-lo fingir ser humano.
Onde pode ficar aquém.
- A verificação de segurança também é um modelo de IA. Pode falhar coisas e pode sinalizar coisas que estão bem. É por isso que nunca é a única salvaguarda.
- A mensagem de crise dentro de uma conversa está hoje em inglês. Estão a ser adicionadas linhas de crise para cada país.
- Até que a supervisão esteja disponível para si, ninguém na TwentyThird lê as suas mensagens ou é alertado por elas.
Quem pode ler o que escreve.
Você e as pessoas que permitir. Cada empresa que processa os seus dados, e onde, está listada na página de privacidade.