Minska existentiella risker från avancerad AI 2025

Sammanfattning av vad utlysningen handlar om: Utlysningen erbjuder bidrag till projekt som syftar till att minska existentiella risker från avancerad AI, inom fyra huvudområden relaterade till AI-säkerhet.

Syftet med utlysningen: Syftet är att stödja forskning och utveckling som kan bidra till att säkra AI-system, stärka mänsklig förmåga i AI-eran, samt främja säkra interaktioner mellan människor och AI.

Målen för utlysningen: Målet är att identifiera och stödja hög-risk, hög-belöning-projekt som kan ha stor inverkan på AI-säkerhet inom korta tidsramar, särskilt i ljuset av förkortade AGI-tidslinjer.

Förväntad påverkan/resultat: Förväntade resultat är framsteg inom AI-säkerhet, till exempel genom nya säkerhetsteknologier, neuroteknik, säkra multiagentsystem och automatisering av forskning. Projekten ska kunna leda till mätbara säkerhetsförbättringar och evidensbaserade metoder.

Finansieringsgrad: Ingen specifik procentsats anges, men bidrag ges vanligen som engångsbelopp eller i etapper beroende på milstolpar. Indirekta kostnader (overhead) får inte överstiga 10 % av direkta forskningskostnader.

Behörighet: Öppen för individer, team och organisationer globalt med projekt som tydligt passar inom ett eller flera av de fyra fokusområdena.

Eventuella krav på konsortier: Inga uttryckliga krav, men starka team och interdisciplinära samarbeten uppmuntras.

Tillgänglig finansiering (budget): Den totala årliga budgeten är $4,5–5,5 miljoner USD. Enskilda bidrag varierar från $10 000 till över $300 000.