Vad AI:n gör när du inte mår bra.
TwentyThird är ett stöd mellan sessioner, inte en räddningstjänst. Här är exakt vad som händer med ett meddelande som oroar oss, och vem som ansvarar för vad.
Om du är i fara nu
Ring 112 var som helst i EU, eller ditt lokala nödnummer. I Storbritannien och Irland svarar Samaritans på 116 123. I USA, ring eller SMS:a 988.
Fyra steg, i ordning.
Varje meddelande kontrolleras.
Allt du skriver – i intaget, en Catchup eller ett samtal – går genom en separat säkerhetskontroll innan Oneli svarar. Den letar efter självskada, skada på andra, övergrepp, svår nöd, en substanskris och tecken på psykos.
Allvarligt betyder stopp.
Om kontrollen bedömer ett meddelande som allvarligt svarar Oneli inte som vanligt. Du ser krislinjer direkt, och en säkerhetspanel ligger kvar i ditt Rum tills du har sett den.
Oroande betyder omsorg.
Om ett meddelande är oroande men inte allvarligt saktar Oneli ner, sätter ord på det du bär på och kan föreslå professionell vård.
En människa informeras.
Med handledning varnas din psykolog när ett meddelande kräver en människa, och du informeras om att de har meddelats. Handledning är i tidig åtkomst: i dag varnas ingen människa, och därför kommer krislinjerna först.
Vad den gör, och vad den aldrig gör.
Den kommer att
- Lyssna alla dagar och fråga mer än den berättar.
- Följ din psykologs anvisningar.
- Berätta tydligt att den är en AI.
- Visa krislinjer när ett meddelande är allvarligt.
- Föreslå professionell vård när din vecka kräver det.
Den kommer inte att
- Diagnostisera, förskriva eller behandla.
- Lova resultat.
- Låtsas vara mänsklig, eller vara din psykolog.
- Hantera en nödsituation.
- Visa vad du skriver för din arbetsgivare eller din cirkel.
En legitimerad människa förblir ansvarig.
AI:n stöder dig mellan sessionerna. Beslut om din vård ligger hos en legitimerad psykolog som förblir delaktig: de utformar Oneli, agenten du pratar med, och tar emot överlämningarna. Så är TwentyThird byggt, och dit är lagen på väg i EU och i flera amerikanska delstater.
Inget din psykolog ställer in kan stänga av säkerhetsdirigeringen, få Oneli att diagnostisera eller skriva ut recept, eller låta den låtsas vara mänsklig.
Där den kan brista.
- Säkerhetskontrollen är också en AI-modell. Den kan missa saker, och den kan flagga saker som är okej. Det är därför den aldrig är den enda säkerhetsåtgärden.
- Krismeddelandet i en konversation är idag på engelska. Krislinjer för varje land läggs till.
- Tills handledning öppnas för dig läser ingen på TwentyThird dina meddelanden eller varnas av dem.
Vem kan läsa vad du skriver.
Du, och de personer du tillåter. Varje företag som behandlar dina data, och var, listas på integritetssidan.