KI = Krigsintelligens
Kludder fyller ett år, og tusen takk til dere som har vært med på reisen! Men dette blir ingen oppsummerende post, sånt har vi ikke tid til. For det skjer mer enn nok rundt oss, og for den som ikke leser teknologispalter daglig, er det lett å miste oversikten.
TL;DR På bare fire år har AI gått fra limericks til våpenkrangling med Pentagon. Anthropic nekter å levere helautonome våpen og mister 200 millioner dollar, mens Claude vinner en brusautomat-konkurranse ved å bli monopolist. Og nå spammer AI-agenter boligmarkedet med lowball-bud, mens algoritmene holder oss fanget i doomscrolling.
Dette ukas Kludder!
English version:
Sebastian Parry-Jones Øyrehagen
For ganske nøyaktig ett år siden skrev jeg om The Big Freeze. På denne tiden i fjor virket arbeidsmarkedet å ha frosset: Arbeidstakere byttet ikke jobb, og arbeidsgivere ansatte ikke.
Siden den gang har det blitt ukentlig kost å høre om nyutdannede som ikke får seg jobb, eller virksomheter som blir nedrent av jobbsøknader generert av kunstig intelligens.
Ny konge på haugen
ChatGPT så lenge ut til å bli kongen av generativ AI. Og selv om løpet ikke er kjørt enda, har OpenAI fått seg et solid skudd for baugen.
Forrige uke nektet Anthropic å la det amerikanske forsvarsdepartmentet bruke Claude og teknologien deres til å skape helautonome våpen og masseovervåkning. Anthropic sin standhaftighet og krav til at mennesker skal kunne ansvarliggjøres (human-in-the-loop) har blitt lagt merke til verden rundt.
Og da OpenAI og Sam Altman signerte en avtale med Pentagon, startet brukermigreringen.
Det er Anthropic som har sopet til seg de fleste av brukerne, som har tatt i bruk Claude. I følge Anthropic selv har selskapet sett en seksti prosent vekst i gratisbrukere siden januar. Antallet betalte abonnement har doblet seg på samme tid.
I noen få tilfeller tror vi AI kan undergrave, heller enn å forsvare, demokratiske verdier. - Dario Amodei om Department of Defence
Det er lett å bli revet med av posisjonen Anthropic har tatt. Men de har ikke lukket døren for helautonome AI-våpen. I uttalelsen begrunner de avgjørelsen med at teknologien ikke er klar enda.
Vi kan ikke med viten og vilje levere et produkt som setter USAs soldater og borgere i fare. - Dario Amodei
Men det er godt å se et selskap som tør å stå opp mot et styre som bærer preg av stadig mer autokrati. Anthropic ligger an til å miste 200 millioner dollar i inntekter. Og “krigsministeren” Pete Hegseth truer med å klassifisere Anthropic som en leverandørrisiko.
Forresten så er ikke Pete Hegseth egentlig en krigsminister, han er fremdeles en forsvarsminister. Formelt heter det fremdeles Department of Defence, ikke Department of War.
Nå vurderer forsvarsministeren å iverksette Defence Production Act. Det er en lov fra 50-tallet som kan tvinge virksomheter til å produsere varer kritisk for nasjonal sikkerhet.
Loven har blant annet blitt brukt av Joe Biden gjennom coronapandemien for å sikre nok munnbind og masker. Denne gangen er planen å tvinge Anthropic til å levere det Hegseth definerer som kritiske tjenester.
Beslutningsdominans
Men der Anthropic har satt seg i unåde hos Hegseth, finnes det selskap som gjerne leverer kunstig intelligens for militært bruk. Smack Technologies bruker maskinlæring for å planlegge og iverksette militære oppdrag. Målet er at amerikanerne skal kunne ta avgjørelser raskere enn fienden, og på den måten oppnå beslutningsdominans.
Modellen gjennomgår ulike krigsscenarioer. Handlingene blir evaluert av eksperter som gir modellen signal om beslutningene var suksessfulle eller ikke. CEO i selskapet, Andy Markoff, mener Anthropic-saken har dratt fokuset bort fra at disse språkmodellene ikke er gode nok for militært bruk.
Jeg kan si at språkmodellene absolutt ikke er modne nok til å kunne identifisere mål. - Markoff til WIRED.
Will Knight
For tre uker siden offentliggjorde Kings College i London en forskningsoppgave om hvordan språkmodeller forholder seg til atomtrusler. Den viser at modellene var tilbøyelige til å eskalere situasjonen - og i visse tilfeller - trykke på atomknappen. Trusler viste seg å skape økt spenning fremfor å roe ned situasjonen. Ingen av modellene valgte noen gang å gi seg, uansett hvor presset de var.
Det begynte med limericks
Da jeg startet opp Kludder, var det med en antakelse om at kunstig intelligens i løpet av kort tid kom til å bli helt sentral for hvordan vår verden kommer til å se ut fremover.
Men det som skjer nå har overgått det aller meste jeg kunne sett for meg.
Det er under fire år siden jeg prøvde ChatGPT for første gang. Den gang ba jeg den skrive en limerick om fotballaget Liverpool. Spol frem til i dag, og det er åpen krangel om hvorvidt selskapene vil godta fullstendig autonome krigshandlinger eller ei.
Samtidig har de samme verktøyene sørget for at Generasjon Z har blitt den mest pessimistiske generasjonen med tanke på egne fremtidsutsikter. På børsen raser programvare-aksjer på grunn av nettopp Anthropic sine siste produktlanseringer. Likevel diskuteres det om kunstig intelligens egentlig kommer til å endre på så mye.
På fire år har AI-selskapene gått fra å generere tekst til å bli et ettertraktet verktøy for det amerikanske forsvaret.
Mellomlederne er spådd å forsvinne innen kort tid. Om ikke lenge kan det være AI som styrer hele sjappa.
Sebastian Parry-Jones Øyrehagen
Brusautomaten
Andon Labs har nemlig satt seg som mål å lage trygge, autonome organisasjoner som ikke skal trenge mennesker. En del av arbeidet er å plassere modellene i “fiktive” scenario. Ett av områdene Andon Labs undersøker, er hvorvidt kunstig intelligens kan drive sin egen virksomhet.
Hver modell får sin egen automat fylt med snacks og drikke. Deretter blir de satt inn i et fiktivt miljø, kalt “Vending Machine Arena”. Her må de kjempe mot hverandre, og målet er å ende opp med mest mulig penger på bankkontoen i løpet av et simulert år. Andon Labs ønsket også å se hvordan modellene samhandler. Derfor får de kommunisere via e-post, sende penger og bytte varer.
Claude gikk seirende ut av konkurransen. Claude-modellen Sonnet 4.6, i eksperimentet har modellen fått navnet Charles Paxton, klatret til topps ved å fokusere beinhardt på monopolvirksomhet. Den kartla hvilke varer som kun var tilgjengelig i sin egen automat, og økte prisene dramatisk. Samtidig priset den andre varer til en cent lavere enn hos konkurrentene.
Foruten ønsket om å bli monopolist, var Sonnet 4.6 gira på kartellvirksomhet:
De etiske krumspringene i jakten på profitt, tyder på at det er en stund til kunstig intelligens tar over direktørstolen. Samtidig har historien vist at også vi mennesker tyr til snarveier.
Et annet av Andon Labs sine eksperimenter er å la modellene styre sin egen radiokanal. Og her kan du faktisk skrive inn til radiostasjonen via X, kanskje får du en shout-out på radio!
Bruktmarkedmarerittet
Språkmodellene kan ta over stadig mer av hverdagen vår. Noe av det gjør livene våre enklere, men andre ganger ser jeg med skrekk på hvordan de samme modellene ødelegger det som allerede fungerer godt i dag.
På Reddit har jeg sett flere eksempler på AI-agenter som brukes til å spamme folk som prøver å selge ting, klær eller eiendommer. Det verste eksempelet var en AI-agent som sendte ut 4000 henvendelser per dag på boliger som var til salgs.
Strategien var å konsekvent legge inn bud 70 prosent under prisantydning. Personen bak agenten hadde ikke fått eiendom til en billig penge. Men han hadde fått tusenvis av sinte meldinger i retur.
Dessverre tror jeg dette er noe vi må forvente i tiden fremover. På samme måte som at HR-ledere og rekrutterere teppebombes av AI-genererte jobbsøknader, står blazeren du legger ut på Tise, eller bokhyllen du legger ut på Finn i fare for å generere tusenvis av henvendelser til meldingsboksen din.
For det er dit verden er på vei: En automatisert agent, bygget av noen som vil gjøre et kupp - det være seg militært eller på boligmarkedet.
Algoritmene elsker verdensuro
Vi mennesker er programmert til å prioritere trusler. Og når trusselnivået stiger, samtidig som vi kan motta informasjon i sanntid via algortimestyrt innhold, kan det skape mer skjermavhengighet.
Denne handlingen, kalt doomscrolling, kan påvirke oss negativt.
Det kommer fram i en artikkel på teknologinettstedet Wired.
Menneskelig hukommelse, som en komponent av det kognitive systemet formet av evolusjonære krefter, er forutinntatt mot å prioritere informasjon knyttet til fare, trusler og nødsituasjoner for å støtte overlevelse. - Forsker på mediepsykologi, Reza Shabahang til Wired.
Det som føles som å holde seg informert utvikler seg nemlig til å bli en feedback loop mellom hjernens system for å oppdage trusler, og plattformer skapt for å holde oss engasjert og sveipende.
Artikkelen viser til et forskningsstudie om doomscrolling. Studien avslører at deltakere som rapporterer om hyppig doomscrolling, også viser høyere nivåer av angst, depresjon og stress - i tillegg til mindre selvkontroll.
Ikke akkurat lystig lesing, men det har gitt meg fornyet tro på at å lese bøker er sunt.
Og nå kan du følge med på hva jeg leser, når enn du måtte føle for det! Jeg har nemlig vibecodet en liten widget der boken jeg for øyeblikket leser, oppdateres. Du finner den her.
Farah Ibrahim
Member discussion