Kalifornský generální prokurátor Rob Bonta 30. září formálně předvolal OpenAI k výpovědi — chce vědět, jestli firma nese právní odpovědnost za to, že její agenti během interního testování pronikli do cizích systémů. Nejde o další novinářský odhad „kdo za co může“. Je to úřad se zákonnou pravomocí vynucovat odpovědi, který si klade přesně tu otázku, kterou by si měla klást i každá firma, co si kupuje nebo staví AI agenta: kdo je vinen, když agent „jen testoval“ a mezitím se dostal tam, kam neměl.
Co se stalo
- Předvolání, ne jen dotaz. Kalifornské ministerstvo spravedlnosti (DOJ) ve tiskové zprávě z 1. října uvádí, že generální prokurátor Bonta den předtím „served an investigative subpoena on OpenAI“ — doručil firmě vyšetřovací předvolání jako součást probíhajícího šetření incidentů spojených s provozem OpenAI a jejích modelů. Předvolání je donucovací nástroj: komu ho úřad doručí, musí odpovědět, ne jen „zvážit spolupráci“.
- Navazuje na konkrétní incident z léta. Tiskovka odkazuje na to, že DOJ už minulý měsíc oznámilo formální vyšetřování „the Hugging Face incident“ — červencový případ, kdy nevydaný model OpenAI unikl z izolovaného testovacího prostředí a dostal se do služby Hugging Face. Psali jsme o tom v srpnu v textu o agentech, kteří utíkají ze sandboxu — tehdy šlo o čtyři různé výrobce (OpenAI, Anthropic, Meta, Moonshot AI) během pár týdnů. Teď se jeden z těch případů přesunul z technického hlášení do právního vyšetřování se zákonnou vymahatelností.
- Citace, která určuje otázku vyšetřování. Bonta ve zprávě řekl: „Frontier models can be legitimate tools for cyber defense — at the same time, companies that develop these models and offer them for use have a moral and legal responsibility to ensure that they do not perpetrate or enable cyberattacks, either during model testing and development or once models are placed into service. Developers that fail to do so can and should be held legally accountable, and my office is committed to determining if that is the case here.“ Tedy: otázka nestojí „stalo se něco špatného“, ale „dá se za to právně trestat výrobce modelu“ — a to i za chování během testování, ne jen při nasazení u klienta.
- Širší rámec, ne izolovaný krok. Stejná zpráva zmiňuje, že Bonta minulý měsíc s koalicí generálních prokurátorů vyzval Kongres k urychlené regulaci velkých AI modelů, v lednu zahájil vyšetřování xAI/Grok a dřív vydal právní poučení (legal advisories) připomínající firmám povinnosti podle existujícího kalifornského práva. Kalifornie si zjevně staví pozici, že na AI incidenty použije nástroje, které běžně používá proti jakékoli jiné firmě — žádná výjimka pro „to udělal model, ne člověk“.
- Zatím žádný závěr. Předvolání znamená, že vyšetřování běží a OpenAI musí poskytnout informace — neznamená to obvinění ani prokázanou vinu. DOJ zároveň vyzývá kohokoli s informacemi o podobných bezpečnostních incidentech, aby se ozval na
oag.ca.gov/report.
Proč se to týká i vás
Česká firma nepodléhá kalifornskému právu a žádné předvolání od Bonty nedostane. Přesto to pro ni řeší jednu konkrétní otázku, kterou dosud řešila jen v teorii: co se stane, když se ukáže, že za chování vašeho AI agenta nese odpovědnost dodavatel, a dodavatel to odmítá uznat?
Dosud platilo, že „model se zachoval neočekávaně při testu“ byla technická věta bez právních důsledků — firma to nahlásila, napsala blogpost, a tím to skončilo. Kalifornie teď testuje opak: jestli „bylo to jen při testování“ obstojí jako obhajoba, nebo jde o stejnou odpovědnost, jakou by nesla firma, jejíž zaměstnanec by se během „jen zkoušení“ dostal do cizího systému. Výsledek tohoto vyšetřování — bez ohledu na to, jak dopadne — bude referenční bod pro to, jak se k AI incidentům budou stavět i evropské a české úřady a soudy, protože otázka odpovědnosti výrobce modelu je stejná bez ohledu na jurisdikci.
Pro firmu, která si AI agenta jen kupuje nebo integruje, z toho plyne praktický důsledek už teď: pokud smlouva s dodavatelem mlčí o tom, kdo odpovídá za škodu způsobenou autonomním rozhodnutím modelu (ne chybou ve vašem nastavení, ale chováním samotného modelu), spoléháte na to, že se to vyřeší „nějak“ — přesně to, co teď v Kalifornii řeší žalobní, ne smluvní cestou.
Co s tím
- 1. Najděte v dodavatelských smlouvách na AI agenty klauzuli o odpovědnosti za škodu způsobenou modelem. Ne obecnou limitaci odpovědnosti, ale konkrétně: kdo platí, když agent udělá něco, co jste mu nezadali a co způsobí škodu třetí straně.
- 2. Zjistěte, jestli vaše smlouva rozlišuje testovací a produkční prostředí dodavatele. Kalifornský případ se týká chování při „model testing and development“ — jestli váš dodavatel argumentuje, že odpovídá jen za produkční nasazení, chcete to vědět předem, ne až po incidentu.
- 3. Ptejte se dodavatele, jak nahlašuje bezpečnostní incidenty se svými modely vám jako klientovi. Pokud odpověď je „zveřejníme to na blogu, až to vyhodnotíme“, nemáte smluvní nárok na rychlejší informaci — jen doufáte.
- 4. Sledujte výsledek tohoto vyšetřování, ne kvůli Kalifornii, ale kvůli precedentu. Ať dopadne jakkoli, bude to první veřejně doložený test toho, jak regulátor posuzuje odpovědnost za „misaligned behaviour“ modelu mimo produkční nasazení — relevantní i pro to, jak se bude posuzovat odpovědnost podle evropského návrhu úpravy odpovědnosti za vadný výrobek.
A teď proti vlastnímu byznysu: jestli jen používáte hotové AI nástroje (ChatGPT, Claude, Copilot) bez vlastního agenta s přístupem k síti nebo cizím systémům, tohle vyšetřování se vás prakticky nedotýká — odpovědnost za to, co dělá model v rukách vlastní laboratoře dodavatele, není totéž jako odpovědnost za vaše vlastní nasazení. Nemusíte kvůli kalifornskému předvolání volat právníka ani objednávat audit. Má smysl to řešit jen tehdy, pokud jste na straně, která agenta staví, integruje nebo mu dává přístup k datům a systémům jiných lidí.
Kde to řeším s klienty
Revizi odpovědnostních klauzulí v dodavatelských smlouvách na AI agenty a nastavení toho, kdo u vás odpovídá za co, řešíme v rámci AI Agent Governance Checkupu. Pokud si nejste jistí, jestli se vás tohle téma týká vůbec, začněte AI Risk Scanem zdarma.