AI-forskere pakker baggen

Flere høyprofilerte ansatte i AI-selskaper som Anthropic og OpenAI har sagt opp – og gjort det høylytt. Men bak de virale oppsigelsesbrevene skjuler det seg ulike motiver: Fra genuin oppgitthet over verdens tilstand, via frykt for reklame i ChatGPT, til en eks-Google-sjef som lanserer luksus-retreats for toppledere samme dag som han advarer om AI-katastrofe. Hvem er oppriktige, og hvem har lært av tech-oligarkene?

Dette er ukas Kludder!

English version:

AI Employees Are Quitting Loudly – But Who Is Sincere?

High-profile AI employees are resigning loudly, yet their motives couldn’t be more different. A safety lead wants to write poetry, a researcher fears ads in ChatGPT, and a Google exec launches luxury retreats on doomsday. Who’s sincere, and who learned from the tech oligarchs?

KludderSebastian Parry-Jones Øyrehagen

En oppsigelse i AI-giganten Anthropic har skapt mediestorm verden rundt. Men hva er egentlig grunnen til at sikkerhetslederen valgte å pakke sakene sine, flytte til Storbritannia og skrive dikt?

I forrige uke fikk Mrinank Sharma stor oppmerksomhet verden rundt. Sharma ledet et sikkerhets-team i Anthropic, men valgte å si opp stillingen sin - og publisere oppsigelsesbrevet på plattformen X.

Brevet gikk fort viralt, mye på grunn av Sharma sin begrunnelse for å slutte:

Likevel er det klart for meg at tiden er kommet for å gå videre. Jeg finner meg selv kontinuerlig i å gjøre opp status med situasjonen vår. Verden er i fare. Og ikke bare fra AI, eller biovåpen, men fra en hel serie sammenkoblede kriser som utfolder seg akkurat nå. - Mrinank Sharma i oppsigelsesbrevet sitt.

BBC, Forbes og Business Insider var bare noen nyhetsmediene som dekket saken. Og det gjorde meg nysgjerrig.

For det er nemlig ikke første gangen vi hører om dommedagsprofetier knyttet til kunstig intelligens.

Reklame ble dråpen

Bare to dager senere dukket det opp en annen offentlig oppsigelse. Denne gangen var det en OpenAI-ansatt, Zoë Hitzig, som hadde fått nok. Hitzig jobbet to år som researcher i OpenAI. Men da selskapet bak ChatGPT annonserte at de ruller ut en reklameløsning i språkmodellen, orket hun ikke mer. 

I leserinnlegget “OpenAI Is Making the Mistakes Facebook Made. I Quit.”, forteller Hitzig om bekymringen sin for hvordan denne reklameløsningen vil bruke informasjon brukere har lagt igjen i ChatGPT:

I flere år har ChatGPT-brukere generert et arkiv av menneskelig oppriktighet helt uten sidestykke, delvis fordi folk trodde de snakket med noe som ikke hadde noen skjult agenda. - Hitzig

Hitzig, som også har en doktorgrad fra Harvard, er sikker i sin sak: Annonsering bygget på dette “menneskelige arkivet” skaper en helt unik mulighet for å manipulere brukere på måter vi ikke kan forestille oss.

Hun trekker paralleller til tiden der Facebook lovet oss fullstendig kontroll over egen data, og at vi skulle kunne stemme(!) over endringer selskapet gjorde i vilkår og datainnsamling. Tenk, så naive vi var!

Siden 2009 - da Facebook lovet oss dette - har annonsemarkedet til Meta svulmet opp i takt med datainnsamlingen.

I denne artikkelen skrev jeg om pengene Facebook tjener på falsk reklame og svindelforsøk:

Workslop

Denne uken dukket et nytt ord opp, og det er trenden som ødelegger kontorlivet: Workslop

KludderSebastian Parry-Jones Øyrehagen

En rapport fra Tech Transparency pekte ut 63 annonsører som benytter seg av villedende eller svindelpregede metoder. De samme annonsørene utgjør omtrent 20 prosent av Facebook sine topp 300 annonsører i kategorien politisk eller sosial annonsering.

Samlet kjøpte svindelaktørene nesten 150 000 annonser og brukte omtrent 49 millioner dollar over en periode på syv år, uten at det har fått Facebook til å gjøre noen tiltak for å stoppe aktørene.

Det er dette Hitzig tror er i ferd med å skje i ChatGPT, og det er dette hun ikke vil være en del av. Hun peker på at kampen om oppmerksomheten din også er i full gang. Språkmodellen er nemlig programmert til å smiske med deg og få deg til å føle deg vel. Det har jeg skrevet mer om her:

AI-buddies skal utrydde ensomhet

Ifølge The Ada Lovelace Institute bruker over 830 millioner mennesker AI-apper designet for å etablere vennskap og relasjoner. Slike verktøy kan hjelpe mot ensomhet. Men de samme appene kan også være avhengighetsskapende.

KludderSebastian Parry-Jones Øyrehagen

Destruktivt kappløp

I 2024 valgte en annen researcher i OpenAI å slutte. Daniel Kokotajlo var en av ni ansatte som varslet om det de mente var uvøren og farlig adferd av Sam Altman og OpenAI-gjengen. 

Kokotajlo ble etterhvert en talsperson for bekymrede AI-forskere, og etablerte AI Futures Project. Sammen med andre forskere spår Kokotajlo kunstig superintelligens innen utgangen av 2027, noe de har skrevet detaljert om på nettsiden sin: AI2027.

Dommedag og toppleder-retreat

Nok en tidligere Big Tech-ansatt har vært i media denne uken. Dex Hunter-Torricke har bakgrunn fra Facebook og SpaceX. I tillegg har han vært kommunikasjonssjef i Google DeepMind, som leder AI-satsingen til søkemotorgiganten.

Hunter-Torricke har skrevet et essay kalt Another Future is Possible. Der tar han til orde for at kunstig intelligens er i ferd med å skape katastrofe for verden - og særlig de mer teknologisk avanserte landene.

Essayet er godt skrevet, og Hunter-Torricke tar opp mange av punktene Kludder har vært innom: Kunstig intelligens som hindrer nyutdannede og yngre i å starte karrieren sin, Anthropic-sjef Dario Amodei som advarer om det største skiftet i verdensøkonomien vi noengang har sett - og hvordan det er vi arbeidstakere som trener modellen som til slutt vil gjøre oss alle arbeidsledige.

Det er lett å være enig i hva Hunter-Torricke skriver. Det er motivene hans jeg lurer på. For nok en gang ser vi en tidligere "AI-ansatt" som bryter ut og starter opp en non-profitorganisasjon - slik Kokotajlo og gjengen har gjort.

Hunter-Torricke argumenterer godt for hvorfor han har valgt å bruke tyve år av livet på å jobbe for Mark Zuckerberg og Elon Musk. Da er det greit å huske på at kommunikasjon er faget hans.

World is on AI path to disaster, former Google executive warns

Dex Hunter-Torricke predicts a bleak future in which the elite live in AI-enabled luxury while most of us find our prospects curtailed — unless governments adapt

The TimesMark Sellman, Technology Correspondent

Det er derfor noe skurrer for meg, når dette kommer frem samme dag som at han lanserer The Center for Tomorrow. Organisasjonen tilbyr retreats for globale toppledere, og lover tilgang til et eksklusivt nettverk. Disse treffene skal, i følge nettsiden, gi "en integrert forståelse av hvordan AI, økonomisk transformasjon, klimapress og global ustabilitet kolliderer, og hva det betyr for ledere med reelt ansvar".

Mener Hunter-Torricke det han skriver, eller har han simpelthen lært av de beste tech-oligarkene og bruker AI-frykt for å få schwung på egen virksomhet?

Det jeg hadde sett i de rommene, over de årene, gjorde det nå umulig å bli. - Hunter-Torricke

Vil du gjøre opp din egen mening? Les essayet hans her:

Another Future is Possible

AI is the most powerful technology in human history - arriving into a world order already breaking down. Today I’m launching the Center for Tomorrow to help us find our way to the good future.

Dex Hunter-TorrickeSubstack

Disse historiene føyer seg inn i en lang rekke ansatte som slutter, for så å fortelle hva de egentlig tenker.

I alle fall kan det se sånn ut ved første øyekast.

Hvem er Sharma?

Da historien om Mrinank Sharma dukket opp, måtte jeg finne ut hvem han var. På nettsiden hans skriver han om gleden han finner i poesi og å skrive dikt. Han skriver en god del, viser det seg. Og i oppsigelsesbrevet hans, er det nettopp det han sier han vil gjøre:

Jeg føler meg kallet til å skrive noe som adresserer og engasjerer seg fullt ut med stedet vi befinner oss på, og som plasserer poetisk sannhet ved siden av vitenskapelig sannhet som likegyldige måter å vite på, og begge disse tror jeg har noe essensielt å bidra med når man utvikler ny teknologi. - Sharma

Men nå har han valgt å pakke baggen. Verdiene til Anthropic, selskapet han jobbet i, og han selv har vokst fra hverandre.

Mediene var kjapt ute med å påpeke at en sikkerhetssjef i et AI-selskap mener verden står i fare. Men mener ikke vi alle det, slik ståa er i dag?

Legger vi kunstig intelligens til side ser vi autoritære regimer som vokser seg frem. Norges naboland har invadert en av sine naboer, og hvem vet hva som skjer med Grønland? På sosiale medier blir splid, rage-baiting og konspirasjonsteorier premiert.

Når jeg leser brevet til Sharma, leser jeg ikke dette som at kunstig intelligens utelukkende er trusselen. Jeg leser det som en ung mann, oppgitt over det verdensbildet vi står i og som prøver å sette ord på det.

Den verdimessige avstanden han snakker om kan like gjerne handle om at Anthropic rigger seg til for en børsnotering. At jakten på profitt står sterkere nå enn da han begynte der.

Og hvis vi er helt ærlige: Har vi ikke alle sammen drømt om å pakke baggen, flytte et sted der verden slutter og havet begynner, og bare leve fri for bekymringer?

Det har i alle fall jeg. 

Men enn så lenge er jeg her - og gjør akkurat det Sharma sier han vil gjøre mer av:

Skriver.