Anthropic-forskare: Över 10 procents risk att AI utplånar mänskligheten
Risken för att artificiell intelligens dödar alla människor inom det kommande årtiondet är över 10 procent, enligt Evan Hubinger, forskningsledare inom AI-anpassning på Anthropic.
ANNONS
Hubinger gav denna bedömning på X som instämmande svar till Anthropic-forskaren Jacob Coxons inlägg på samma plattform. Coxon, som meddelade att han lämnar Anthropic, anklagade bolaget och dess främsta konkurrent OpenAI för att "spela med våra liv", i samband med att båda bolagen strävar mot att uppnå självförbättrande superintelligens.
Coxon anser att man inte bör underskatta AI-tekniken och att den kan innebära slutet för människosläktet vid slutet av detta årtionde, vilket fick Hubinger att instämma.
"Jacob har rätt här - vi tror verkligen uppriktigt att AI skulle kunna utrota hela mänskligheten! Personligen tror jag att sannolikheten är över 10 procent inom det kommande decenniet. Jag tror att Anthropic gör sitt bästa, men vi har ännu ingen plan för att lösa problemet med att anpassa superintelligensen och är inte tydligt på väg dit", sade Hubinger på X.
Anthropic har tidigare varnat för att AI-system som kan förbättra sig själva kan öka risken för att människor förlorar kontrollen över tekniken.
