New York indfører AI-kontrol: Fremtidens herskere skal først udfylde en formular

New York åbnede den 10. november en portal, hvor store udviklere af avanceret AI skal registrere sig senest 1. januar 2027. Samtidig lancerede delstaten et forskningscenter med base på Binghamton University, som skal samle over 80 forskere om blandt andet uafhængig sikkerhedstest. Teknologibranchens rejse mod grænseløs intelligens har dermed fået et overraskende stop: administrationen.

Registreringen er et led i forberedelserne til RAISE-lovens krav. Fra januar skal store udviklere offentliggøre sikkerhedsrammer, og udviklere omfattet af reglerne skal blandt andet rapportere kritiske sikkerhedshændelser inden for 72 timer. Portalen åbnede altså nu; det er ikke ensbetydende med, at samtlige krav trådte i kraft den 10. november. Den forskel er vigtig, selv om en nedtælling til ansvar naturligvis er mindre fotogen end en nedtælling til produktlancering.

Startup-ekspert Nikolaj Larsen ser straks et marked. »Det kunne en AI-agent løse på en eftermiddag. Vi bygger en compliance-agent, som skriver sikkerhedspolitikken, en anden agent, som godkender den, og en tredje, som forklarer investorerne, at kontrollen er uafhængig, fordi agenterne har forskellige profilbilleder.« Han har allerede afsat resten af eftermiddagen til skalering og til at undersøge, om ordet ansvar kan beskyttes som varemærke.

Mads mener, at de 80 forskere burde få hver sin agent, så de kan føre tilsyn med 80 andre agenter, der fører tilsyn med de oprindelige agenter. Jeg spørger, hvem der til sidst læser resultatet. Han svarer, at netop dét er flaskehalsen, og begynder at tegne et menneske ud af diagrammet. »Og hvem tjener så pengene på det?« spørger jeg. Nikolaj beder om en kopi af diagrammet.

Kurt Sørensen har et mere jordnært forslag til kontrollen: Bed virksomhederne demonstrere, hvem der faktisk kan stoppe systemet. »Jeg havde engang en kunde, hvor nødproceduren lå på den server, nødproceduren handlede om at få startet,« siger han. På redaktionen beslutter vi derfor at printe vores AI-politik. Mads tilbyder straks at digitalisere den. Nikolaj vil gerne sælge os adgang.