KI-svindel: Hvor lett er det å bygge en falsk identitet på nett?
In english:
Sebastian Parry-Jones Øyrehagen
Denne uken fikk vi tilgang til Fable 5 fra Claude igjen. Donald Trump er blitt venn med Anthropic, og dermed har vi tilgang til det Anthropic hevder er en av de sterkeste - og farligste - modellene hittil.
Men samtidig som Fable 5 rulles ut og Anthropic-gründer Dario Amodei advarer mot avanserte cyberangrep takket være kunstig intelligens, har jeg tatt en titt på hvor lett det er å pynte på historien om deg selv i dag.
KI-forfalskninger
På LinkedIn er det ikke lett å skille mellom hva som er et profesjonelt redigert profilbilde, og hva som er et KI-generert bilde. Problemet er blitt såpass utbredt at det sosiale mediumet har gått sammen med forskere for å få plass algoritmer som avslører falske profilbilder. Ved å analysere bildet piksel for piksel kan de avdekke unaturlig symmetri eller andre merksnodigheter.
US Federal Trade Commission kan sammenlignes med en krysning av Konkurransetilsynet og Forbrukertilsynet her hjemme. De ser at jobbrelatert svindel har tredoblet seg fra 2020 til 2024, og over en halv milliard dollar går tapt.
Hvem er jeg, sånn egentlig?
Men profilbilder og en falsk profil er en ting. Kunstig intelligens har gitt oss muligheten til å raskt etablere nettsider og innhold som fremstår ekte og troverdig. Claude har lansert sin Design-funksjon. Der kan du få fint utformede presentasjoner og nettsider, ved å skrive inn én enkelt kommando. For å understreke hvor lett det er, ba jeg Claude lage en nettside for meg der jeg kan selge rådgivningstjenester. Det eneste jeg ba den om var å bruke informasjon fra Kludder, og få det til å se ut som at jeg er en frittstående tech-konsulent. Og vipps er jeg en du kan kontakte for å få råd om digital suverenitet, digitalkultur og AI-adopsjon.
Å lansere meg selv som en frittstående, erfaren KI-konsulent gikk fortere enn å koke opp poteter. Kontaktskjemaet går til min egen e-post, og fra teksten som er generert ser det ut som at jeg har gjort dette i åresvis.
Likevel er det noen kjennetegn å bite seg merke i.
Seriff sheriffen
Foruten tanke—streken vi alle har overgitt til maskinene, er seriffer blitt et vanlig kjennetegn på KI-generert innhold. Er det kanskje Claude sitt forsøk på å fremstå mer menneskelig?
En interessant artikkel jeg leste tar for seg nettopp seriffenes inntog i KI-selskapenes branding. Uten å dykke hodet ned i grammatikkgryta, så er seriffer de små “føttene” på bokstaver når du skriver i f.eks Times New Roman:
Vadgama, som skrev artikkelen, mener KI-selskapene har trykket seriffene til sitt bryst fordi det formidler en nærhet og menneskelighet.
Keya Vadgama
Hvis vi svinger tilbake til min egen, falske nettside, så ser vi et godt eksempel på hvordan Claude peprer med seriffer. Det bygger troverdighet, menneskelighet og tillit.
Hvor går grensen?
Når personer ikke ser ut som de gjør på bildene sine, rokker det ved tilliten. Hvem er det da vi egentlig forholder oss til?
Men terskelen for hvordan du ser ut online har blitt skrubbet vekk over lang tid. Filtere og photoshop har eksistert lenge. Snapchat gjorde det stuerent å påføre digital sminke på selfier, og nå tar KI-modeller det hele ett steg videre.
Google sin bildegenerator, Nano Banana 4, og sider som artlist.io og headshotpro.com lar deg enkelt generere bilder av deg selv. Det burde i utgangspunktet ikke være innafor. Men her hjemme har aktører som TV2 åpnet døren for at dette er greit. I disse VM-tider kan du nemlig KI-generere deg selv som fotballkort, som kunne vært en artig liten greie. Men bildene som kommer ut polerer, barskifiserer og fjerner detaljer i fjeset ditt som en algoritme ikke synes er vakkert nok:
Velkommen til Paranoia
Flodbølgen med KI-genererte falskheter ser ikke ut til å stoppe opp med det første. Svindlere får kandidater — som allerede er desperate etter jobb i et stadig tøffere marked — til å oppgi passnummer, bankkonto og andre typer personopplysninger. Og de går målrettet til verks:
Språkmodeller kan brukes til å skrape informasjon du har oppgitt på, for eksempel, LinkedIn. Deretter kommer supertilpassede e-posthenvendelser som lurer deg inn i falske intervju. Der bruker svindleren et KI-filter for å se ut som en annen person og gjennomfører rekrutteringsprosessen. Det blir sagt at vi befinner oss i Paranoia-æraen, og jeg forstår det godt.
Sjekker andre plattformer
For å få bukt med svindlere på begge sider, blir det stadig vanligere at selskap og kandidater konktakter hverandre i andre kanaler. En direktemelding på Instagram eller Facebook kan kvalitetssikre at du snakker med riktig selskap.
Det har gått så langt at det blir anbefalt å opprette egne kodeord med familie, venner og kollegaer for å minske risikoen for å bli lurt.
Kanskje er motgiften å gå tilbake til de analoge metodene igjen. Opprette kodeord, stille spørsmål bare dere vet svaret på, eller ringe opp igjen på et annet nummer. Det virker som at internettet har gått i sirkel. Fra å være et sted vi kunne bli klokere, finne informasjon og lære noe helt nytt er det blitt en bakgate der ondsinnede aktører lurer bak enhver stillingsutlysning og nettsider aldri er det du tror.
Det er jo dette som gjør det litt spennende også, da. Litt som å padle i aligatorvann.
Bare pass på hvor du dypper tærne.
Member discussion