AI for Science & Safety Nodes RFP: II. Coordination and accountability 2026

Beskrivning

Sammanfattning av utlysningen: Denna utlysning fokuserar på koordinering och ansvarsskyldighet för AI-system i en värld där flera agenter arbetar tillsammans. Utlysningen omfattar tre områden: supersamarbete och decentraliserad anpassning, mänsklig empowerment, samt AI-försäkring och öppen styrning.

Syfte med utlysningen: Att finansiera arbete som möjliggör att en multipolär värld blir mer kapabel samtidigt som den förblir säker. Syftet är att utveckla koordineringsprotokoll, verktyg för människa-AI-samarbete, samt mekanismer för att upprätthålla lämplig kontrollfördelning mellan människor och AI-system.

Mål för utlysningen: Utveckla verktyg för kollektiv deliberation och beslutsfattande med AI-stöd, distribuerad övervakning och verifikationsprojekt, öppna koordineringsplattformar och protokoll, ramverk för när mänsklig kontroll tillför värde, samt AI-försäkringsmekanismer och oberoende teknisk bedömning.

Förväntad påverkan/resultat: Projekt som kan uppnå konkreta milstolpar inom 1-3 år och som bidrar till att minska existentiella risker förknippade med AI. Arbetsresultaten (kod, data och utdata) ska vara öppen källkod.

Finansieringsgrad: Bidrag varierar typiskt mellan 30 000 och 100 000 USD, med lägre belopp för Human Empowerment och AI Insurance & Open Governance-områdena. Omkostnader kan finansieras upp till 10% av direkta forskningskostnader.

Behörighet: Ansökningar accepteras från individer, team och organisationer. Både icke-vinstdrivande och vinstdrivande organisationer är välkomna, men vinstdrivande organisationer bör motivera varför de behöver bidragsfinansiering.

Möjliga krav på konsortier: Starkt prioriteras sökande som vill vara aktiva bidragsgivare på plats i forskningsekosystemet vid Nodes, såsom att regelbundet arbeta från en Node eller tillbringa dedikerad tid vid någon av Nodes för sprintar.

Tillgänglig finansiering (budget): Bidrag på typiskt 30 000-100 000 USD per projekt. Exakt totalbudget för utlysningen specificeras ej.