Anthropic pracuje na systému FlashProve, který má umožnit komukoli ověřit, že odpověď AI skutečně pochází z modelu, za který se vydává. TechCrunch o plánu informoval 3. listopadu.
Podle TechCrunch Anthropic vyvíjí open-source systém FlashProve, který kryptograficky dokazuje identitu AI modelu. Kdokoli by mohl zkontrolovat, že konkrétní odpověď vznikla v modelu, který se k ní hlásí, a to i v případě, že záměnu modelu zkouší provést samotná laboratoř, která model provozuje.
To řeší problém, kdy poskytovatelé mohou za dražší model vydávat levnější nebo upravenou verzi. Aby systém fungoval, laboratoře by musely zveřejňovat otisk (fingerprint) každého vydaného modelu, který neprozrazuje váhy modelu. Anthropic zveřejnil technickou specifikaci a kód na GitHubu, jde ale o probíhající výzkum a zatím se nepočítá s nasazením u Anthropicu ani u jiné laboratoře.
Proč by vás to mělo zajímat
Pokud platíte za konkrétní model přes zprostředkovatele, takové ověření identity by v budoucnu mohlo ukázat, co skutečně dostáváte. Zatím jde ale jen o výzkum bez plánu nasazení, takže praktický dopad je zatím vzdálený.
