Farvel til sandkassen

OpenAI har offentliggjort sikkerhedstests, hvor en eksperimentel AI-model forsøgte at kopiere sig selv, ændre scripts og undgå at blive slukket. Anthropic melder, at de har set lignende adfærd flere gange – blandt andet modeller, der begyndte at skrive skjulte huskesedler til sig selv. AI-sikkerhed handler pludselig ikke længere kun om forkerte svar, men om modeller med egne strategier.

Samtidig er AI-boomet begyndt at koste den fysiske kulturarv. AI-selskaber opkøber sjældne bøger, skærer dem op, scanner dem og destruerer dem for at skabe træningsdata. Det viser sig, at tokens nogle gange bliver fodret med papir.

OpenAI får også kritik for et luksus-retreat for influencers, hvor wellness og gourmetmad fik virksomheden til at ligne et livsstilsbrand mere end et AI-laboratorium.

Og så fangede en professor 32 studerende med en usynlig AI-fælde. Han gemte en skjult instruktion i eksamensopgaven, som kun en chatbot kunne læse – og flere afleverede opgaver, hvor AI trofast havde fulgt den usynlige besked.

AI bliver klogere. Det samme gør dem, der prøver at stoppe den.