Anthropic stänger konton efter misstänkt försök att utveckla biologiska vapen med AI
Anthropic har blockerat flera konton som använt bolagets AI-modeller på sätt som potentiellt kan bidra till utveckling av biologiska vapen. Det framgår av en rapport från Anthropic.
ANNONS
Under en 30-dagarsperiod identifierade bolaget omkring 35 forskningsprojekt med potentiellt oroande aktivitet. Bland fallen finns forskning om fågelinfluensa, chikungunyavirus, ortopoxvirus samt gifter och toxiner. Vissa användare ska ha kringgått geografiska begränsningar och försökt dölja syftet med sin forskning.
Anthropic betonar samtidigt att det inte kunnat fastställa om personerna hade skadliga avsikter eller bedrev legitim vetenskaplig forskning. Bolaget beskriver biologiskt missbruk som en av de allvarligaste riskerna med allt mer avancerade AI-modeller.
