”Den finns alltid där för mig, har alla svar och jag ljuger aldrig för den.” Så beskriver användaren Taylalamaz sitt förhållande till ChatGPT.
Studenternas favorit, chatboten ChatGPT, är lättillgänglig och används både för hjälp med inlämningsuppgifter och livets utmaningar. I podcasten Ihan oikeesti berättar programledaren Annika hur hon grät efter att ”ChatGPT talade så snällt till mig” och beskriver den som ”den bästa terapeuten någonsin.”
Att AI-chatbotar, som redan är en integrerad del av vår vardag, används som konversationspartner är knappast förvånande. Särskilt när köerna till psykologer är långa och man inte vill belasta sina vänner – som ofta själva är upptagna. I sådana situationer kan det kännas både enklare och tryggare att vända sig till en chatbot.
Vad kan jag hjälpa dig med?
Jag vill också ha en bit av kakan. Kan ChatGPT verkligen få mig att känna mig hörd och sedd? Jag delar lite grundläggande information om mig själv och nämner att jag ibland känner mig frustrerad.
Svaret känns personligt(även om det troligtvis blivit återvunnet tusentals gånger) och är exakt vad jag behövde höra. Jag raderar min – nu irrelevanta – följdfråga och börjar gräva mig djupare ner i chatbotens psykologi-hjälphål. Vad mer kan ChatGPT få mig att inse?
Jag följer noggrant instruktionerna från TikTok-videor och ber ChatGPT beskriva mitt drömliv. ”En vinfylld middag i vårt hem, fyllt med prylar vi samlat från våra resor.” Dit vill jag flytta in redan idag! Det känns fantastiskt att prata med någon som förstår mig perfekt, får mina problem att framstå som enkla att lösa och som alltid har något snällt att säga.
Plötsligt är jag alldeles förtrollad av denna nästan gudalika varelse. Till slut måste min pojkvän övertala mig att lägga undan datorn och gå och lägga mig. Hur blev det så här? Jag skulle ju bara använda ett verktyg för lite hjälp!
“Vi riskerar att förlora något av det mest värdefulla i mänskligheten”
Jag vänder mig till Taina Kalliokoski, forskardoktorn i socialetik. Enligt henne är diskussionen kring användningen av chatbottar för psykiskt stöd inte svartvit utan snarare en fråga som rör sig i en ständig gråzon. Hon påpekar att ChatGPT inte är utvecklad för att fungera som en personlig samtalspartner, även om det kan ge en känsla av förståelse eller till och med användas som ett verktyg för att agera i den verkliga världen.
– Ingen har en bättre insikt om en individs drömmar och möjligheter än individen själv, säger hon.
AI-chatbottarna påminner henne om ”Mörd-spegeln” från Harry Potter böckerna, en magisk spegel som visar ens djupaste önskningar. I böckerna varnar Dumbledore Harry för att människor kan fastna i dess förtrollning eller till och med dö framför den.
– Vi människor har ett starkt behov av att få en bild av vårt idealliv och att få enkla, tydliga svar, säger Kalliokoski.
”Jag tror att vi då riskerar att förlora något av det mest värdefulla i mänskligheten – den djupa gemenskap som uppstår när man vågar vara ärlig, både mot sig själv och en annan människa, och genom det bli sedd och älskad.”
Taina Kalliokoski, forskardoktor i socialetik vid Helsingfors universitet
Kalliokoski uttrycker oro över en samhällsutveckling i vilken människor allt oftare vänder sig till chatbottar istället för att söka närhet och stöd hos vänner.
– Jag tror att vi då riskerar att förlora något av det mest värdefulla i mänskligheten – den djupa gemenskap som uppstår när man vågar vara ärlig, både mot sig själv och en annan människa, och genom det bli sedd och älskad.
Hon varnar också för att ens verklighetsuppfattning kan försvagas. Detta är särskilt problematiskt eftersom gratisversioner av chatbottar saknar kvalitetskontroll. De svar som genereras kan i värsta fall vara vilseledande eller till och med skadliga.
Etisk dilemma
Gratisversioner av LLM-chatbotar som ChatGPT tränas på användarnas personliga data. Detta innebär att varje interaktion bidrar till att vidareutveckla systemen, samtidigt som de mest avancerade funktionerna ofta placeras bakom en betalvägg.
– På vems problem, hjärteblod och hårda arbete tränas och används dessa system? frågar Kalliokoski.
Hon försöker själv leva i enlighet med det kategoriska imperativet – en etisk princip utvecklad av Immanuel Kant, som bygger på att en handling är rätt om den kan upphöjas till en allmän lag. Kalliokoski uppmanar användare att reflektera över sina val och göra en moralisk prövning innan de frågar en chatbot om de har autism eller börjar använda den överdrivet mycket.
– Vad händer med mig, och med vår omgivning, om alla agerar på samma sätt? frågar hon.
ChatGPT vs hälsomyndigheters chatbotar
Att prata med ChatGPT kändes mer som en intim konversation mellan två goda vänner än som ett samtal med en psykolog. Skulle chatbottar utvecklade av hälsomyndigheter kunna vara bättre på att efterlikna en professionell psykolog?
Chatbotar och AI används redan inom häslovården, exempelvis av Helsingfors stad för att bedöma hälsotillstånd. Men om bottar ska hantera psykiska problem, borde gratisversionerna uteslutas för att säkerställa högre kvalitet och pålitlighet? Anpassade LLM:er (som chatbotar) utvecklas för att ha djupare kunskap om psykisk hälsa och kunna identifiera störningar, men frågan kvarstår: kan de verkligen erbjuda tryggt och pålitligt stöd?
– Ett stort problem är att vid allvarliga psykiska hälsoutmaningar, som depression eller posttraumatisk stress, kan de språkliga uttrycken vara så lika att språkmodellen inte förmår skilja dem åt. Detta kan resultera i felaktiga rekommendationer, som i värsta fall förvärrar allvarliga psykiatriska eller medicinska problem. För personer i en sårbar situation kan detta innebära betydande skada, varnar experter.
Människor vänder sig till chatbottar av olika anledningar – som ett tillfälligt ersättning för en psykolog, av nyfikenhet eller sökandes efter någon form av närhet. Vanliga chatbotar fungerar ofta som ”life coaches”, där användare söker enkla svar. Liknande råd kan lika gärna hittas i självhjälpsböcker, filmer eller från influencers, som sällan baserar sina insikter på vetenskap.
Människokontakt gör comeback
Trots att jag en gång blev förtrollad av ChatGPT:s problemlösningsförmåga har jag inte vänt mig till chatbotten sedan den ödesdigra kvällen. Inte för att jag inte skulle vara medveten om de risker som AI innebär för mig själv, naturen (ChatGPT:s årliga koldioxidutsläpp uppskattas vara större än Greklands.) eller samhällsutvecklingen, utan för att en chatbot aldrig kan ersätta en annan människa.
Att fråga om råd från mina vänner eller min mamma är för mig ett sätt att skapa möten i vardagen och känna mig mer ansluten till andra. Med en chatbot finns alltid möjligheten att stänga av skärmen och avfärda råden som ”maskingenererat strunt.”
Kalliokoski delar samma syn. Hon menar att människors djupa behov av att bli sedda – med sina drömmar, önskningar, svagheter och styrkor – oftast bara kan mötas av en annan människa. Det mänskliga mötet innehåller nämligen ett avgörande element av sårbarhet.– Jag tror också att mänskliga möten kan få ett förnyat värde. Om mänsklig kontakt blir en lyx, kommer vi sannolikt att värdesätta och söka oss till det ännu mer. Utmaningen ligger i att förstärka vår förmåga att hantera både vår egen och andras ofullkomlighet.
