OpenAI chce nezávislé auditory svých modelů. Navrhuje, co mají skutečně kontrolovat

OpenAI navrhuje podrobnější rámec pro nezávislé hodnocení bezpečnosti nejpokročilejší AI. Externí kontrola podle firmy nemá být jednorázový test několika veřejných benchmarků, ale dlouhodobější ověřování konkrétních bezpečnostních tvrzení, použitých metod a reálné účinnosti ochranných mechanismů. OpenAI rozlišuje „bezpečnostní tvrzení“ a „bezpečnostní případ“. Tvrzení je konkrétní ověřitelný výrok například o schopnostech modelu nebo účinnosti určité pojistky. Bezpečnostní případ je širší argument podložený důkazy, který vysvětluje, proč jsou rizika při určitém způsobu použití přijatelně řízena. Toto rozlišení je důležité. Obecné prohlášení, že model je „bezpečný“, nelze smysluplně auditovat. Lze však testovat například tvrzení, že určitá ochrana zabrání modelu provést konkrétní třídu nebezpečných úloh za definovaných podmínek. Firma uvádí, že při některých dosavadních externích hodnoceních poskytovala hlubší přístup k interním informacím, technickým ochranným mechanismům, důvěrným datům a v některých případech i k informacím potřebným pro analýzu vnitřního postupu modelu. To řeší zásadní problém nezávislého auditu AI. Hodnotitel, který vidí pouze stejné veřejné rozhraní jako běžný uživatel, nemůže ověřit řadu tvrzení o trénování, monitorování nebo interních bezpečnostních mechanismech. Současně ale nelze jednoduše zveřejnit všechno. Detailní informace o bezpečnostních opatřeních mohou pomoci útočníkům a trénovací data nebo váhy modelu mají vysokou obchodní hodnotu. Audit proto potřebuje právní, technický a bezpečnostní režim pro práci s důvěrnými informacemi. OpenAI navrhuje, aby se některá hodnocení prováděla několik týdnů a jiná několik měsíců. Nemají být nutně navázána pouze na uvedení nového modelu. To odpovídá realitě, kdy se chování systému mění také s novými nástroji, aktualizacemi a způsoby nasazení. Pro regulátory je tento přístup zajímavý jako možný základ standardizace. Evropský akt o AI a další režimy potřebují praktické metody, podle kterých lze posoudit, zda dodavatel skutečně splnil bezpečnostní povinnost. Samotná dokumentace výrobce není nezávislým důkazem. Rizikem je samozřejmě závislost auditora na firmě, kterou kontroluje. Pokud laboratoř auditora vybírá, platí a určuje rozsah jeho přístupu, musí existovat pravidla chránící nezávislost hodnocení a možnost zveřejnit nepříznivý závěr. Pro podnikové zákazníky je princip použitelný okamžitě. Při nákupu kritické AI by měli chtít konkrétní bezpečnostní tvrzení, důkaz jejich testování a informaci, zda je někdo nezávisle ověřil. Trh se tak může postupně posunout od marketingového jazyka „odpovědné AI“ k auditovatelným technickým závazkům. To by byla podstatná změna: bezpečnost by se stala vlastností, kterou musí dodavatel doložit, nikoli pouze deklarovat. KLÍČOVÉ POJMY Bezpečnostní tvrzení: Konkrétní a ověřitelný výrok o bezpečnostní vlastnosti modelu nebo systému. Bezpečnostní případ: Strukturovaný argument podložený důkazy, že jsou konkrétní rizika dostatečně řízena. Nezávislý audit: Kontrola prováděná subjektem, který není součástí výrobce posuzovaného systému.

OpenAI chce nezávislé auditory svých modelů. Navrhuje, co mají skutečně kontrolovat

Celé znění článku máte k dispozici po registraci na Abravito