Americký Anthropic, tvůrce modelů Claude, přišel s vlastním návrhem federálního zákona o bezpečnosti AI. Dokument, který získal deník Politico, nastavuje laťku pro vládní zásah nečekaně vysoko: stát by mohl vývoj nebo nasazení modelu zastavit jen tehdy, pokud prokazatelně hrozí škoda přesahující jednu miliardu dolarů nebo smrt či vážné zranění více než 50 lidí. Jde o zatím nejjasnější pokus velkých laboratoří definovat „červené linie“ tak, aby vládní regulace nedusila byznys dřív, než dojde k opravdové katastrofě.
Co se stalo
- Únik tajného návrhu. Deník Politico zveřejnil 16. října 2026 informace o draftu zákona, který Anthropic potichu rozeslal americkým zákonodárcům. Návrh má být federální alternativou k roztříštěným pravidlům v jednotlivých státech USA, jako je Kalifornie, Illinois nebo New York.
- Miliardový práh pro zásah. Podle návrhu by ministerstvo obchodu (Department of Commerce) smělo zablokovat vydání modelu pouze v případě „bezprostředního a předvídatelného rizika“. To je definováno jako hrozba kybernetických útoků, vytvoření biologických zbraní nebo ztráta kontroly nad modelem, která by způsobila škodu přes 1 miliardu dolarů (cca 23 miliard Kč) nebo zasáhla více než 50 osob.
- Stopka pouze přes soud. Ani při splnění těchto podmínek by stát nemohl model vypnout jednostranně. Musel by požádat federálního soudce v District of Columbia, aby vydal soudní příkaz k pozastavení provozu. To má zabránit politicky motivovaným zásahům do vývoje AI.
- Povinné hlášení do 72 hodin. Vývojáři by měli povinnost hlásit kritické bezpečnostní incidenty ministerstvu obchodu do 72 hodin od zjištění bezprostředního rizika. Součástí návrhu je také ochrana whistleblowerů a povinnost zveřejňovat zprávy o transparentnosti u nových modelů.
- Nezávislí auditoři. Dodržování pravidel mají kontrolovat nezávislí hodnotitelé registrovaní u ministerstva obchodu. Firmy by je platily přímo, ale odměna nesmí být vázána na výsledek prověrky.
- Konec státních výjimek. Pokud by zákon prošel, přebil by (pre-empted) přísnější pravidla jednotlivých amerických států. Právě to je pro velké technologické firmy klíčové — snaží se vyhnout situaci, kdy by musely pro každý stát USA vyvíjet jinou verzi modelu nebo splňovat odlišné reportovací standardy.
Proč se to týká i vás
I když jde o americký legislativní proces, pro české firmy a evropský trh z něj plynou dva zásadní signály o tom, kam se AI governance posouvá.
- Definice rizika se mění z technické na ekonomickou. Zatímco evropský AI Act se soustředí na technické parametry (výpočetní výkon použitý k trénování), lídři trhu jako Anthropic prosazují definici podle reálných škod. Pro firmy to znamená, že se v budoucnu nebudou ptát jen „kolik to stálo natrénovat“, ale „jakou maximální škodu může tenhle agent napáchat, když se utrhne ze řetězu“.
- Audit se stává standardem pro Enterprise. Návrh počítá s registrem nezávislých auditorů. To, co dnes vidíme jako dobrovolné bezpečnostní prověrky, se pravděpodobně stane povinnou vstupenkou na trh. Pro českou firmu využívající Claude nebo GPT to znamená, že se brzy bude moci (a muset) prokazovat certifikátem o shodě s těmito „red lines“, aby si udržela důvěru klientů.
Co s tím
- 1. Sledujte posun od „FLOPs“ k reálným dopadům. Pokud vaše firma vyvíjí nadstavby nad velkými modely, začněte uvažovat o riziku v penězích a životech, ne jen v chybovosti modelu. Miliardový limit je sice pro český trh extrémní, ale princip „stát zasáhne až při hmatatelné škodě“ je důležitý pro stabilitu vašich investic.
- 2. Připravte se na 72hodinový reportovací cyklus. Lhůta 72 hodin pro nahlášení kritického incidentu se stává globálním de facto standardem (objevuje se v návrhu Anthropicu i v evropském CRA). Prověřte, jestli máte nastavený proces, jak v takovém čase incident vůbec rozpoznat a popsat.
- 3. Vyžadujte od dodavatelů transparentnost podle „Frontier AI“ standardů. Anthropic v návrhu slibuje zprávy o transparentnosti. Ptejte se svých dodavatelů AI řešení, jestli takové zprávy k jejich modelům existují a jak v nich dopadly testy na autonomní zneužití (cyber-espionage, destructive commands).
- 4. Nečekejte na finální zákon. Parametry, které Anthropic navrhuje, jsou v podstatě jejich vlastními „pravidly hry“. I bez schváleného zákona jde o dobrý benchmark pro vaše interní bezpečnostní pravidla: pokud váš AI agent může smazat produkční data nebo unést účet, měli byste u něj mít stejné pojistky, jaké navrhují laboratoře státu.
Kde to řeším s klienty
Lobbying velkých hráčů jako Anthropic potvrzuje to, co zdůrazňuji při auditech: regulace se nakonec ustálí na ochraně před katastrofickými škodami, ale odpovědnost za „běžné“ incidenty zůstane na provozovateli. To, jestli váš systém splňuje standardy pro hlášení incidentů a jestli jsou vaše „červené linie“ správně nastavené, řešíme v rámci AI Act Readiness Auditu. Pro rychlé zmapování rizik vašich konkrétních AI implementací doporučuji začít AI Risk Scanem zdarma. Tento vývoj navazuje na dřívější zprávy o tom, jak se čtyři největší AI laboratoře zpovídaly v britském parlamentu — tlak na konkrétní odpovědnost za škody se stupňuje na všech frontách.