ChatGPT

1966 skapade datorforskaren Josef Weizenbaum programmet ELIZA, som simulerade ett samtal med en psykolog. Programmet var det som idag kallas en “chatbot”. Användaren kunde föra en konversation med programmet genom att skriva meningar som ELIZA sedan besvarade på ett sätt som liknade en riktig psykolog. Reaktionerna hos användarna studerades och gav intressanta resultat. Det visade sig att de flesta som använde programmet, trots att de visste att de kommunicerade med en dator, uppfattade ELIZA som nästan mänsklig. Fenomenet kallas antropomorfos och verkar vara en djupt inneboende egenhet hos människor, nämligen att projicera mänskliga egenskaper på saker och djur som vi agerar med. Vi upplever att dessa förstår oss, har känslor och visar empati.

I november 2022 släppte företaget OpenAI chatboten ChatGPT för allmänheten. Det har snabbt blivit en stor succé, men har också gett starka motreaktioner. Många ser ChatGPT som ett tekniskt genombrott, men med stora konsekvenser för samhället. De tror att den här tekniken kommer att ta över många kunskapsinriktade jobb och därmed göra många människor överflödiga. Skillnaden mellan ELIZA och ChatGPT är stor, men i grunden är det samma koncept. Det är en regelstyrd modell med ett mänskligt språk som gränssnitt, men naturligtvis med en mycket större kunskapsdatabas. Samma antropomorfism som med ELIZA gör att människor lätt övertolkar interaktionen med ChatGPT. Men ChatGPT förstår inte vad den gör. Det är bara en datamodell som letar upp data och formulerar om det enligt ett regelsystem. Vad ChatGPT är väldigt bra till, är som verktyg för att gräva i stora kunskapsdatabaser. Det går att specificera frågor på ett sätt som inte kan göras i vanliga sökmotorer. Många av svaren är däremot av ganska tveksam kvalitet och ibland rent felaktiga, men den eleganta presentationen av svaren ger lätt intryck av korrekthet. Det krävs därför kunskap hos användaren för att bedöma svaren. Här ligger en stor fara. När mindre nogräknande användare lättvindligt använder svaren rakt av i olika sammanhang, så riskerar vi en snabb fördumning i samhället. Det kan vara programmerare som använder kod utan att förstå vad den gör, eller andra yrkesfolk som klipper ut formuleringar utan att reflektera över vad de faktiskt säger.

Visst är ChatGPT imponerande och tekniken kommer säkert att vara väldigt användbar framöver, men den är också ett sorts illusionsnummer, som gör att vi lätt uppfattar en intelligens som inte finns där. Kanske handlar det bara om att vi måste vänja oss vid tekniken.