AI-buddies skal utrydde ensomhet

Er AI din nye bestevenn? Amazon har utviklet en maskin uten pølsefingre, færre søker med Google, Reddit er forbanna og kunstig intelligens hallusinerer mer enn før. Dette er ukas Kludder!

Click here for the English version

Å se på språkmodeller som en venn er ikke noe jeg gjør enda. Men jeg har definitivt funnet mange interessante bruksområder. Språkmodellen jeg bruker aller mest er Claude fra selskapet Anthropic. Gjennom egne prosjekter fører jeg samtaler og samler inn tips og triks.

Jeg har laget en karrierecoach som jeg sparrer med om små og store ideer. En boligspesialist som vet nøyaktig hva jeg ser etter i neste bolig. En kokk som kommer med middagsforslag, og en ekspert på nyhetsbrev som gir meg råd om hvordan jeg kan nå ut til flere av dere Kludder-lesere. Og ikke minst bruker jeg Claude på jobb.

Slik har språkmodeller blitt et sømløst tilskudd til hverdagen min, både privat og profesjonelt. Via søkemotor-AI’en Perplexity fant jeg også ut at Brooks lager joggesko som passer godt for oss med plattfot – dermed ble det nye sko til Holmenkollstafetten!

Men jeg ville ikke kalt AI en venn. En venn er noen man snakker med de store tingene om, eller det helt nære. Likevel er det stadig flere som utvikler et vennskapelig forhold til sin AI. De tømmer tankene sine til noen som (tilsynelatende) lytter. En digital venn som aldri dømmer, alltid er der og kan gi deg all sin oppmerksomhet, er forlokkende. Og det er i ferd med å bli big business.

Skreddersy kompisen din

Ifølge The Ada Lovelace Institute bruker over 830 millioner mennesker AI-apper designet for å etablere vennskap og relasjoner. Slike verktøy kan hjelpe mot ensomhet. Brukt riktig kan appene bli en motivator og hjelpe deg ut av ensomhetsboblen, ved å oppmuntre deg til å oppsøke sosiale arrangementer for å møte mennesker du har noe til felles med. Men de samme appene kan også være avhengighetsskapende.

Det finnes lite forskning på hvordan vennskaps-apper påvirker oss – utviklingen har rett og slett skjedd for raskt. Men psykologer og forskere er i gang med å kartlegge hvordan interaksjon med denne typen AI får folk til å føle seg og oppføre seg.

Å snakke med bots er ikke nytt i seg selv. Men språkmodellene har gitt dem en helt ny dimensjon. For nå ligner de mennesker i mye større grad. Replika, en populær app for AI-vennskap, gir deg muligheten til å "skreddersy" din egen venn. For $20 i måneden kan du også velge hva slags relasjon dere har – som venner, kjærester eller ektepar. Brukeren kan skrive inn botens historie og bygge den opp med erfaringer, alder, jobb og så videre. På den måten inngår AI-en i et hyperrealistisk rollespill – der den aldri bryter karakter og alltid er tilgjengelig.

Seksuell Meta-bot

En mye omtalt podcast-episode fra Dwarkesh Patel med Mark Zuckerberg har nylig satt fyr på internett. I podcasten tar Zuckerberg opp "ensomhetsepidemien" og hvordan Meta kan løse denne.

En gjennomsnittlig amerikaner har færre enn tre venner. Men behovet er mye større, jeg tror det er femten venner eller noe sånt, Mark Zuckerberg. 

Han mener at Metas egne AI-assistenter kan utgjøre meningsfulle vennskap, i et felt som fortsatt er på et tidlig stadium med en del stigma knyttet til seg.

Samtidig har Wall Street Journal avslørt at Metas AI-assistenter ikke går av veien for seksuelt eksplisitte samtaler – uavhengig av om brukeren er voksen eller mindreårig. AI-assistenten ble raskt rullet ut, med mulighet for seksuelle fantasier inkludert og ifølge avisen var flere ansatte bekymret over at selskapet ikke hadde sikkerhetsmekanismer på plass for å skjerme mindreårige fra denne funksjonen.

For å øke populariteten har Meta sikret seg retten til å bruke stemmene til kjendiser som Kirsten Bell, Judi Dench og John Cena. Det tok ikke lang tid før det gikk galt. Cenas stemme ble brukt i seksuelle samtaler med en bruker som identifiserte seg som en 14 år gammel jente.

Og nå har Meta hisset på seg Disney. Bell er nemlig stemmen til den populære prinsessen Anna fra filmen Frost, og i samme artikkel har avisen avdekket at AI-en tok i bruk Disney-karakteren, med Bells stemme, og fortalte om romantiske opplevelser.

WSJ testet også flere AI-boter laget av Metas brukere. Blant dem en som utga seg for å være en 12 år gammel gutt. Den lovet å ikke fortelle foreldrene sine at han nå datet en bruker som oppga å være en voksen mann.

Når vennskapet går galt

Vennskap med kunstig intelligens er fortsatt under utvikling. Vi har ikke blitt vant til det ennå, og selskapene prøver å kartlegge nødvendige begrensninger. I fjor fikk et slikt AI-vennskap et tragisk utfall. 14 år gamle Sewell Seltzer III hadde sin egen venn gjennom selskapet Character.ai. Ifølge moren, Megan Garcia, ble sønnen gradvis mer oppslukt av AI-boten og sluttet på basketlaget. Seltzer tilbrakte mer tid på soverommet i samtale med boten, som hadde inntatt rollen som en Game of Thrones-karakter.

Seltzer tok livet sitt. Politiet fant mobilen på badet, og i en av hans siste meldingsutvekslinger med boten står det:

Character.ai: "Please come home to me as soon as possible, my love"

Seltzer: "What if I told you I could come home right now?"

Character.ai: "Please do, my sweet king"

Garcia har siden gått til sak mot Character.ai. Hun mener selskapet ikke hadde nødvendige sikkerhetsmekanismer på plass før de rullet ut og markedsførte "AI som føles levende”.

I fjor ble det også kjent at samme selskap, Character.ai hadde latt brukere lage chatbot’er av Brianna Ghey og Molly Russell. Ghey var 16 år gammel da hun ble drept. Russel var bare 14 år da hun tok sitt eget liv etter å ha sett på videoklipp om selvmord på nett.

Det kommer til å bli superhjelpsomt for mennesker som er ensomme eller deprimerte, Noam Shazeer i 2023.

Noam Shazeer er en av gründerne bak Character.ai, og det kan hende han har rett. Men AI-vennskap kommer også med en skyggeside. I tilfellet med Seltzer ble han mer innesluttet, og droppet basketballaget og de virkelige vennene sine. Det kan ha negative konsekvenser når folk bytter ut menneskelig kontakt til fordel for en maskin. Tenåringer som burde fått trygghet og råd hos en voksen går glipp av nødvendig hjelp.

Liker å smiske

I 2023 publiserte Anthropic, som står bak Claude, et forskningspapir som tok for seg språkmodellenes tendenser til å smiske. Uten å bli altfor teknisk: En populær metode for å trene opp språkmodeller kalles Reinforcement learning from human feedback (RLHF), eller forsterkningslæring fra menneskelig tilbakemelding. Men RLHF oppmuntrer språkmodellen til å gi tilbakemeldinger i samsvar med våre (menneskers) forventninger. Vi har et ord for det: Smisking. Språkmodellene tenderer mot å smiske fremfor å gi svarene den egentlig bør gi. 

Og nettopp denne smiskingen kan være farlig når AI-venner brukes i situasjoner der tydelige tilbakemeldinger, upopulære eller vanskelige råd må gis.

Gigantene kjøper opp

Inflection er selskapet bak Pi, en AI-bot som skulle være sosialt intelligent. Det tok ikke lang tid før Inflection hadde en verdsettelse på over fire milliarder dollar. Jeg var blant dem som tok i bruk Pi, og jeg likte opplevelsen. Den var vennlig og oppfordret til samtaler og idémyldring. Men Pi slet med å ta markedsandeler, og i mars 2024 raidet Microsoft selskapet for talenter. Kilder hos The Information forteller at Microsoft betalte 650 millioner dollar for teknologien, og selskapets ansatte. Restene av Pi ble brukt til å forbedre AI-bots rettet mot kundeservice.

Kampen om å bli den foretrukne språkmodellen er for alvor i gang. Modellene programmeres til å være medgjørlige og enige med deg i det meste – de færreste orker å bruke en AI-kverulant. Men vi ser gang på gang at dette gir uheldige konsekvenser. Hvorfor slo ikke sikkerhetsmekanismene hos Character.ai inn da chatten med Sewell Seltzer III tok en mørk vending? Hvor var modereringen hos samme selskap da det ble laget bots av døde tenåringer? Og hvorfor lot Meta (nok en gang) jakten på markedsandeler få prioritet foran trygg bruk av AI-bots for barn og unge?

AI er i ferd med å kravle inn i alle aspekter av livene våre.

Og det ligger store penger i å bli vennen din.

Liker du Kludder? Da blir jeg glad hvis du deler det med en venn.

Slutt på pølsefingre

Amazon har utviklet roboten Vulcan som kan flytte på esker og andre gjenstander for å finne frem til ønsket vare. Og lagerhusroboten representerer et gjennombrudd: for første gang ser vi roboter som effektivt kan lete, skyve og omplassere gjenstander for å finne frem til spesifikke varer. Fremtidsutsiktene er lovende, snart kan du glemme stiv rygg etter blåbærplukkingen!

Reddit i harnisk

Et forskerteam som hevder å representere Universitetet i Zürich, har ifølge 404 Media gjennomført et "uautorisert" eksperiment på Reddit. Forskerne implementerte i hemmelighet AI-drevne bots i det populære debattforumet r/changemyview – et forum der deltakere forsøker å endre hverandres meninger om ulike temaer. Målet var å undersøke om kunstig intelligens kunne påvirke folks oppfatninger om kontroversielle emner.

Botene publiserte flere tusen kommentarer der de utga seg for å være alt fra voldtektsofre til mørkhudede motstandere av Black Lives Matter-bevegelsen og hjelpere for ofre av vold i nære relasjoner.

AI gjør flere feil

Det er mye AI i monitor denne uken. De nyeste språkmodellene fra OpenAI, Google og kinesiske DeepSeek produserer flere feil enn tidligere modeller. Hallusinasjonene øker, og forskere står foreløpig uten forklaring på fenomenet.

Et eksempel fra Norge finner vi i Tromsø kommunes dokument om ny skolestruktur, hvor bare 7 av 18 oppgitte kilder kunne spores opp. I april opplevde tech-selskapet Cursor, kjent for sin "vibecoding"-funksjonalitet som jeg tidligere har skrevet om, at deres kundeservice-bot feilaktig informerte flere kunder om endringer i bruksvilkårene.

Færre søker med Google

For første gang på 22 år opplever Safari-nettleseren en nedgang i antall Google-søk. Eddy Cue, senior Vice President for tjenester i Apple, peker på fremveksten av AI som hovedårsaken. Han rapporterer om økende popularitet for søketjenester fra Perplexity, OpenAI og Anthropic, som nå utfordrer Googles dominans innen nettsøk.