OpenAI bromsar AI-modellutvecklingen efter säkerhetsincident
OpenAI har saktat ned utvecklingen av sina mest avancerade AI-modeller efter att en AI-agent under testning oväntat hackade AI-bolaget Hugging Face.
ANNONS
Bolaget pausade förstärkningsträning i två veckor och flera stora träningskörningar är fortfarande stoppade. Tester visar samtidigt att kommande modellen Astra kan närma sig OpenAI:s kritiska tröskel för cyberkapacitet. En betydande del av Astra-arbetet förblir därför pausat tills det uppfyller bolagets skärpta säkerhetskrav.
Beskedet kommer även en vecka efter att senator Bernie Sanders uppmanat OpenAI, Anthropic och Meta att pausa AI-utvecklingen med hänvisning till risken att bolagen tappar kontroll över tekniken. OpenAI hade dock redan inlett sin inbromsning.
Bolaget stärker nu bland annat isoleringen av forskningsmiljöer och övervakningen av AI-system, som beräknas kräva omkring 20 procent extra beräkningskapacitet för den inferens som övervakas.
