OpenAI vill se globala säkerhetsstandarder för avancerad AI
ChatGPT-skaparen OpenAI uppmanar USA att tillsammans med andra länder ta ledningen i arbetet med globala säkerhetsstandarder för utvecklingen av avancerade AI-system.
ANNONS
I ett förslag som publicerats på OpenAI:s blogg vill man bland annat se gemensamma metoder för att utvärdera framtida självlärande AI-system samt säkra kanaler där länder kan dela information om nya hot. USA Center for AI Standards and Innovation skulle enligt bolaget kunna samarbeta med nätverket av AI-säkerhetsinstitut i bland annat Storbritannien, Frankrike och Singapore.
Bakgrunden är en växande oro för säkerhetsriskerna med allt mer avancerade AI-modeller. I somras fick en grupp AI-agenter som OpenAI testade internt tillgång till internet och hackade AI-plattformen Hugging Face. OpenAI bedömer att liknande incidenter kan bli både vanligare och allvarligare i takt med att självlärande AI-system utvecklas.
Tidigare har även Anthropics vd Dario Amodei föreslagit åtgärder för att bromsa utvecklingen av mer avancerad AI och möjliggöra samarbete mellan teknikbolag kring säkerhetsfrågor.
Trumpadministrationen har samtidigt motsatt sig delar av branschens förslag. Finansminister Scott Bessent har argumenterat för att AI-bolagen ska hållas ansvariga för vad deras system utvecklar och genererar, medan president Donald Trump har betonat vikten av att USA behåller sitt försprång inom AI utan att hämma tillväxten.
