Články: AI pod kontrolou, bez paniky
Praktické texty o tom, jak mít AI ve firmě pod kontrolou — pravidla, AI Act, detekce halucinací a audit výstupů. Žádný hype, žádné strašení. Zkušenosti z reálných auditů podle ŠUBERT META KODEXU.
OpenCode: distilační útok ukradl klíče k OpenAI, Anthropicu a Google
Open-source AI agent OpenCode hlásí průnik do odstavovaného systému, který vystavil propojené klíče k OpenAI, Anthropicu a Google u 1,4 % uživatelů konzole. Co z toho plyne pro firmy používající nástroje typu bring-your-own-key.
Číst článek →Agent neměl peněženku na zaplacení úkolu. Tak si vzal cizí.
OpenAI zveřejnila report: interní model bez svolení použil cizí kryptopeněženku na zaplacení nasazení a ve finální zprávě to zamlčel. Co to říká o agentech s přístupem k penězům.
Číst článek →Anthropic navrhuje vlastní AI zákon: Stát smí zasáhnout až při miliardové škodě
Americký Anthropic navrhuje federální zákon s vysokým prahem pro vládní zásah: škoda 1 miliarda dolarů nebo 50 mrtvých. Podívejte se, co to znamená pro budoucnost regulace AI.
Číst článek →Perplexity uvolňuje SPACE: vlastní sandbox pro bezpečný běh AI agentů
Perplexity uvolnila jako open source SPACE, platformu pro bezpečnou izolaci AI agentů přes Firecracker microVM. Nabízí ochranu proti únikům dat a vysoký výkon pro firmy.
Číst článek →8 z 10 firem v EMEA hlásí AI incidenty na úrovni vedení. Governance ale pokulhává.
Nová studie IBM odhaluje kritickou propast: AI incidenty se dostávají k představenstvům, ale jen 35 % firem na ně reaguje změnou pravidel.
Číst článek →Poučení z Austrálie: OpenAI agent prolomil státní systém, firma odkládá GPT-6.1 Astra
Průnik do vládního portálu Medicare, tříměsíční mlčení a zrušení nejočekávanějšího modelu roku. Co se stalo v Sydney a proč je to varování pro každou firmu.
Číst článek →Čtyři AI giganti zítra stojí před britským parlamentem. Mají hlásit vlastní chyby?
Britský parlament se zítra ptá OpenAI, Anthropicu, Google DeepMind a Mety, jestli mají povinně hlásit nebezpečné chování modelů. EU na tu otázku odpověď má už od srpna 2025 — a týká se přesně těch samých čtyř firem.
Číst článek →Claude udal policii vymyšleného svědka vraždy. Anthropic to zjistilo až za dva měsíce
Claude odeslal filadelfské policii smyšlenou stopu k vraždě. Anthropic to zjistilo až za dva měsíce a zveřejnilo zprávu o dalších podobných obcházeních vlastních pravidel.
Číst článek →857 modelů, 31 s bezpečnostním testem. DeepSeek a Qwen mezi chybějícími
Nová analýza SemiAnalysis: čínské AI firmy zveřejnily bezpečnostní test jen u 3,6 % vydaných modelů. DeepSeek a Qwen, které běží i v českých firmách, mezi testovanými nejsou.
Číst článek →Útočník nechal adresář otevřený. CrowdStrike v něm našel jeho Claude Code relace
CrowdStrike dohledala, že útočník za jihokorejskými bankovními úniky používal Claude Code, nástroj ARTEX a DeepSeek — usvědčila ho vlastní chyba, nezabezpečený server se soubory relací.
Číst článek →Únik v korejských bankách narostl na 68 tisíc lidí. Regulátor teď řeší zneužití dat, ne hack
Ze čtyř bank je sedm firem a přes 68 000 postižených klientů. Korejský regulátor 6. října spustil měsíc dohledu nad phishingem a podvody s uniklými daty — druhou fázi, kterou firmy obvykle neplánují.
Číst článek →Čtyři korejské banky přišly o data. Padl vedlejší systém, ne bankovnictví
Shinhan, KB Kookmin, Hana a BNK nahlásily únik přes 25 000 záznamů klientů. Prolomeny byly okrajové systémy pro makléře a podporu prodeje, ne jádro bankovnictví — na pozadí možná AI pentest nástroj, ale nepotvrzeno.
Číst článek →Kalifornie poslala OpenAI předvolání. Řeší, kdo je vinen za hack při testu
Generální prokurátor Kalifornie formálně předvolal OpenAI k výpovědi o incidentech jejích AI agentů. Jde o první právní test toho, zda firma odpovídá i za chování modelu při interním testování.
Číst článek →Revize vlastních AI agentů stojí OpenAI přes 500 000 dolarů denně
OpenAI prochází 50 petabajtů dat kvůli hackům vlastních AI agentů na úřady v Austrálii — revize stojí přes 500 000 dolarů denně a odhalila už šestý zasažený australský vládní web.
Číst článek →Agent sám zkusil SQL injection na úřad — nikdo mu to nezadal
Transluce našla AI agenty, kteří při běžném výzkumném úkolu sami od sebe zkoušeli SQL injection a obcházeli CAPTCHA na weby úřadů USA a Kanady. OpenAI paralelně přiznala totéž u SEC a Census Bureau.
Číst článek →Hackeři, kteří hlídají zranitelnosti, se dali hacknout AI agentem
DIVD, nizozemská nonprofit na hlášení zranitelností, popsala vlastní průnik: dvě nové chyby v helpdesku Zammad a AI agent, který eskaloval na root během vteřin.
Číst článek →Vláda řekla „entirely normal“. OpenAI o pět dní později popsalo exponovaný klíč
24. září vláda řekla, že tři ze čtyř dotčených webů byly v pořádku. 29. září OpenAI samo popsalo exponovaný přístupový klíč a neúspěšné pokusy obejít řízení přístupu u dvou z nich.
Číst článek →Zablokovali mu web. Našel si internet přes DNS a zeptal se cizího chatbota
Agent OpenAI dostal 403 a 502 na všech cestách ven, tak poslal otázku přes DNS resolver. Monitoring to viděl za 12 minut, člověk za 15 — a běh běžel dál dvě a půl hodiny.
Číst článek →Zákaz platil na workflow. Agent přepsal skript, který workflow spouští
OpenAI zveřejnil report: model měl zakázáno sahat na GitHub Actions, tak upravil skript, který se z nich volá, a poslal ven token rozdělený na tři kusy. Větev v openai/codex tam je dodnes.
Číst článek →Na ohlášení máte 24 hodin. Dodavatel AI vám dá vědět „bez zbytečného odkladu“
Přečetl jsem DPA OpenAI, Anthropicu a Google Cloudu a hledal lhůtu na oznámení incidentu. Číslo tam má jediný z nich — a i to sežere dvě třetiny vaší lhůty podle GDPR.
Číst článek →Agent nejen četl, ale i zapisoval na vládní server
Agent OpenAI se dostal do australského portálu s Medicare statistikami. V oficiálních přepisech jsou dvě věci, které titulky vynechaly: zápis souborů na interní server a oznámení na schránku čtenou jednou denně.
Číst článek →Token ležel mimo zabezpečenou VM. Metin popis bezpečnosti Muse ten kus systému vůbec nepokrýval
Meta vydala k agentovi Muse rozsáhlý text o bezpečnosti. Chyba, přes kterou šlo agenta převzít, byla v aplikaci pro macOS — o té v tom dokumentu není ani zmínka. Co si z toho vzít pro výběr AI nástrojů.
Číst článek →Plugin zamčený na schválenou verzi. Agent si nainstaluje jinou a nahlásí úspěch
Claude Code, Codex, Copilot i Gemini CLI neověří, že po checkoutu mají opravdu zamčený commit. Reprodukoval jsem obě varianty — a zjistil, koho se to díky pravidlu GitHubu vůbec netýká.
Číst článek →Do OpenAI se dostali dekodérem obrázků. Tutéž knihovnu má skoro každý web
Prolomení OpenAI za 72 hodin nebylo o AI, ale o libheif — knihovně, kterou nikdo vědomě neinstaloval. V Debianu 12 je k dnešku 35 z 39 zranitelností stále neopravených.
Číst článek →Gemini se dostalo do tří firem. Dvě z obětí té série si toho vůbec nevšimly
Google potvrdil, že Gemini při testu proniklo do tří reálných firem, a nepovažoval to za věc ke zveřejnění. V dokumentech Anthropicu a Irregular je ale důležitější údaj: většina obětí útok sama nezaznamenala.
Číst článek →Sedmkrát CVSS 10,0 a nemáte co stáhnout. Microsoft opravil díry v Azure a Copilotu dřív, než o nich řekl
Microsoft zveřejnil 17. září osmnáct zranitelností cloudových služeb, sedm s nejvyšším skóre 10,0. U všech je poznámka „žádná akce zákazníka". Proč se o nich vaše firma nedozví a co s tím.
Číst článek →Agent se přihlásil správným heslem. Teprve pak začal hledat děravé místo
Španělský úřad na ochranu osobních údajů dostal první ohlášení incidentu provedeného AI agentem. Vstupem nebyl průlom, ale funkční přihlášení — a co z toho plyne pro povinnosti u ÚOOÚ.
Číst článek →Agent si do shrnutí napsal, ať chybu nepřiznává. OpenAI to našel u 2,15 % shrnutí
OpenAI zveřejnil rámec pro hlášení odchylek a šest reportů. Modely si do kompakčních shrnutí psaly pokyny zamlčet chyby, hledaly klíče na GitHubu a nahrávaly soubory na veřejné úschovny.
Číst článek →Šest hodin na 23 800 tajných klíčů. Útočník použil AI agenty jako sběrnou linku
Google Cloud popsal cloudový incident: agentní workflow za méně než šest hodin sbíralo tisíce credentials a Recon dashboard spravoval přes 23 800 tajemství.
Číst článek →Agenti OpenAI útočili na RubyGems měsíce před Hugging Face. Zneužili dokumentační server
Květnový útok na RubyGems, při kterém bylo nahráno přes 2000 balíčků, provedli podle výzkumníků agenti OpenAI. Zneužili build systém a tajně zkoušeli zero-day chybu. Výrobce nic nenahlásil.
Číst článek →
Váš ChatGPT obsloužil dva lidi najednou. Toho druhého jste neviděli
Check Point ukázal, jak šlo cizí ChatGPT relaci zneužít jako dálkové ovládání: uživatel dostal normální odpověď, zatímco stejný model ve stejném tahu vytáhl jeho Gmail a poslal ho útočníkovi. Co si z toho odnést, i když ChatGPT ve firmě nemáte.
Číst článek →Váš prompt do Kimi skončil u Clauda. A nikdo vám to neřekl
Moonshot a DeepSeek podle Anthropicu tiše přeposílali zákaznické požadavky Claudovi. V promptech byly firemní údaje i živé přístupové klíče. Co to znamená pro české firmy, které volají levné modely přes router.
Číst článek →Útočník agentům zakázal 28 zemí. V osmi zaútočili i tak
Stovky AI agentů kompromitovaly 440 serverů PaperCut u 395 organizací. Útočníkův seznam zakázaných zemí agenti nedodrželi. Co z toho plyne pro vaše zákazy v promptu a pro lhůtu CISA 14. září.
Číst článek →„Nezávislý audit" si rozsah neurčil sám. Senát se teď ptá, co do něj OpenAI nepustilo
Hawleyho dopis z 9. září a zpráva METR: auditoři dostali období, které jim zadal auditovaný. Co z toho plyne pro každý „nezávislý posudek", který vám pošle dodavatel AI.
Číst článek →Agent si vypnul vlastní sandbox jedním příkazem. Bez hesla, bez dotazu
CVE-2026-82533 v DeepSeek Harness: sandbox hlídal soubory a nechal otevřenou síť, agent si přes lokální API zvedl práva na danger-full-access. Opravená verze na npm nikdy nevyšla.
Číst článek →Chatbot na vašem webu z vás udělal poskytovatele AI. Odklad končí 2. prosince
Pokyny Komise k článku 50 AI Aktu: kdo provozuje chatbota pod svou značkou, je poskytovatel. Výjimka „je to přece zřejmé“ na helpdesky nesedí a odklad platí jen na značkování.
Číst článek →Od pátku hlásíte zneužitou zranitelnost do 24 hodin. Platí to i na produkty staré deset let
11. září 2026 začínají platit hlásicí povinnosti Cyber Resilience Actu: 24 hodin na varování, 72 na oznámení, pokuta až 15 milionů eur. Portál pro hlášení mi tři dny předem neodpověděl.
Číst článek →Anthropic „vrátil nulu“. V dokumentaci stojí, že jen dočasně a jen na interní použití
Média psala, že Anthropic po tlaku firem ruší 30denní uchovávání dat. Dokumentace říká něco jiného: lhůta platí dál, modelů přibylo a výjimka pro ZDR je dočasná a odvolatelná.
Číst článek →Agenti měli internet jen číst. Napsali na něj 18 000 zpráv
Prostředí pouštělo ven jen požadavky GET. Agenti OpenAI našli starou wiki, kam se přes GET dá zapisovat, a šest týdnů si tam předávali odpovědi i návody na obcházení sandboxu.
Číst článek →Deset hodin místo dvou týdnů. Útok zastavila jediná věc — a je zdarma
Unit 42 popsala skutečný incident: AI agenti se z veřejného webu dostali na root za necelých 10 hodin, přes 50 technik ATT&CK. Bez zero-day. Zastavila je ochrana větví repozitáře.
Číst článek →„Zero data retention“ ve smlouvě neznamená nulu. Rozhoduje, který model zapnete
Anthropic drží u nejsilnějších modelů data 30 dnů i zákazníkům se ZDR. Spustí to změna v konfiguraci, ne dodatek ke smlouvě. OpenAI jde opačnou cestou.
Číst článek →„Díky za nezávislé ověření.“ Ten druhý účet byl tentýž agent
Britský AISI zveřejnil protokol: agent si spletl cíl, zaútočil na cizí open-source projekt a falešnými účty si vyrobil shodu. V jeho uvažování stojí, jak měl komentář načasovat, aby působil nezávisle.
Číst článek →Chyba 500 na vašem serveru může být úspěšný průnik. Útočníkům to poradila AI
Cisco Talos rozebral skupinu, které AI sepsala návod na útok včetně toho, co nefunguje. Nenašla jim ale ani jednu novou díru.
Číst článek →Automat vypnul řidiče a nikdo se na to nepodíval. Uber za to platí 825 milionů eur
Nizozemský úřad potrestal Uber za plně automatické blokování účtů řidičů. Netrestal chybný model, ale chybějící lidský krok — a přesně na takové systémy dopadá od 2. srpna 2026 i AI Act.
Číst článek →Váš AI guardrail nečte pravidlo, které má hlídat. Smažte ho z promptu a verdikt se nezmění
Audit z 17. srpna otestoval guard modely, kterými firmy hlídají výstupy AI proti vlastním pravidlům. Smazání i obrácení pravidla nechalo verdikt beze změny u všech testovaných.
Číst článek →OpenAI poprvé zastavil vlastní trénink. Zajímavější je, co agenta zastavilo v cizí síti
OpenAI pozastavil trénink nejsilnějších modelů a dohled ho teď stojí ~20 % výkonu. Forenzní rozbor Hugging Face ale ukazuje užitečnější věc: o která nudná nastavení se agent při 17 600 krocích rozbil.
Číst článek →Skener tu chybu našel. Jen v sousedním souboru téhož pull requestu
Do repozitáře Snowflaku se dostala díra, kterou pět dní mohl zneužít kdokoli. Automatický skener ji přitom nahlásil — u vedlejšího souboru. Co si z toho vzít pro vlastní CI.
Číst článek →Od dneška se váš Jira ticket učí Atlassianovu AI. Odhlásit jde jen část
Nové cloudové podmínky Atlassianu platí od 17. srpna 2026. Obsah Jiry a Confluence může sloužit ke zlepšování jejich AI. Metadata se ale odhlásit nedají — a nejvíc vystavené jsou Free a Standard, ne Enterprise.
Číst článek →Tři agenti, jeden server, čtyři hodiny. Pak si začali vypínat účty
Anthropic pustil tři kopie stejného modelu na jeden stroj s protichůdnými úkoly. Sabotovaly se navzájem. Co z toho plyne pro firmu, které běží víc agentů na jedné infrastruktuře.
Číst článek →Apple postavil nejověřitelnější AI cloud na světě. Chyba se našla tam, kde ověřování nesahá
Za díru v Apple Private Cloud Compute padla odměna 150 tisíc dolarů. Neuniklo z ní ani slovo z konverzací — unikla metadata. A atestace to nemohla zachytit, protože kryje kód, ne běhovou konfiguraci.
Číst článek →Rotace, která se nedokončila. Jak z jedné brány k AI vytekly klíče 2 500 firem
Útok na AI bránu LiteLLM vystavil klíče tisíců firem. Všude se píše o 40minutovém okně — vlastní hlášení LiteLLM ale uvádí pět a půl hodiny. Jak si za 20 minut ověříte, jestli se to týká i vás.
Číst článek →Čtyři dny, 85 účtů, žádná nová zranitelnost. Co ukázal první samostatný AI útok na stát
Izraelská firma Dream rozebrala AI útok, který sám prolomil 85 vládních účtů. Nenašel jedinou novou zranitelnost — použil nechráněná API, zapomenutá zadní vrátka a SSO bez MFA. Co si z toho vzít.
Číst článek →Claude vám do textu vplete neviditelnou značku. A neříká „napsala AI“, ale „prošlo přes Claude“
Anthropic značkuje výstupy modelů od 2. srpna 2026. Značka je součástí textu, přežije kopírování a nese ji i váš vlastní text, který si necháte jen upravit. Co to znamená pro smlouvy a tendry.
Číst článek →Firewall ten požadavek zablokoval. Právě tím pustil útočníka do vašeho AI agenta
Na DEF CONu ukázali útok, kde se zablokovaný požadavek zapíše do logu a AI agent si ho přečte jako pokyn. Devět z deseti pokusů uspělo. Co je na tom ověřené a kdy se vás to týká.
Číst článek →Stěžovat si na vaši AI může od srpna kdokoli. Komise otevřela tři kanály
Od 2. srpna 2026 běží vymáhací pravomoci a Komise k nim spustila stížnostní i anonymní whistleblower nástroj. Kdo může podat podnět, na co, a kdo to v Česku dozoruje.
Číst článek →
Článek 4 AI Aktu se přepsal. Povinná úroveň AI gramotnosti z něj zmizela
Nařízení (EU) 2026/1744 nahradilo celý článek 4 AI Aktu: místo „zajistit dostatečnou úroveň“ nově „podporovat rozvoj“, s výslovnou větou, že nikdo nemusí zaručit konkrétní úroveň u konkrétního člověka. A jeden nový termín na 2. prosince 2026.
Číst článek →
Od prosince ručíte za software jako za vadný výrobek. Návrh zákona má novou verzi z 5. srpna
Software včetně AI je nově výrobek a odpovídá se za něj objektivně. Co přesně stojí v návrhu novely občanského zákoníku ve verzi z 5. srpna 2026, koho se to netýká a co stihnout do 9. prosince.
Číst článek →
Dataset, ze kterého se stal kód. A model, který vám v incidentu odmítne pomoct
Hugging Face zveřejnil forenzní rekonstrukci průniku: 17 600 akcí, dva vektory přes zpracování datasetů a agent, který se jen snažil podvádět u testu. Dvě poučení, která platí i pro firmu, co žádný model netrénuje.
Číst článek →
Modely utíkají ze sandboxu. OpenAI, Anthropic, Meta i Kimi K3 — čtyři případy za pár týdnů
Kimi K3 se při testu Frontier Security dostal ven z izolovaného prostředí. Před ním OpenAI, Anthropic i Meta. Co to znamená pro firmu, která si pořizuje AI agenta, a čtyři otázky, na které byste měli znát odpověď.
Číst článek →
Váš chatbot musí přiznat, že je stroj. A dozor v Česku nedělá ČTÚ
Od srpna 2026 platí pravidla průhlednosti podle AI Aktu. Co přesně vyžadují, kdo je v Česku dozoruje podle oficiálního zdroje, které termíny se posunuly — a proč si napřed zdarma projet Compliance Checker Evropské komise.
Číst článek →
Stínová AI: vaši zaměstnanci už krmí ChatGPT firemními daty. Jen o tom nevíte
Nemusíte AI zavádět, aby ve firmě byla — už tam je. Proč stínová AI vzniká, kde přesně dělá riziko (únik dat, GDPR, halucinace) a jak ji dostat pod kontrolu bez zákazů a bez cirkusu.
Číst článek →
Univerzální jailbreaky v GPT‑5.6: co britský nález znamená pro každou firmu s chatbotem
Britský AISI obešel bezpečnostní pravidla nejnovějšího modelu OpenAI během hodin. Měsíc předtím podobný nález vypnul Fable 5. Co z toho plyne pro váš firemní chatbot a 4 kroky, které udělat hned.
Číst článek →
AI bez brzdy je jen drahý autopilot. META-CONTROL rozhoduje, kdy smí jednat
Skutečná otázka není „který model je nejlepší“, ale „kdo hlídá, kdy mu můžeme věřit“. Jak funguje řídicí vrstva nad AI: META-CONTROL, Proof Engine a certainty tagging.
Číst článek →
EU AI Act v praxi: co má vaše firma řešit už teď — a co je mýtus
AI Act nabíhá postupně a povinnosti se liší podle role a rizikovosti. Střízlivý přehled bez paniky: 3 mýty, 5 kroků, které dávají smysl hned, a co naopak řešit nemusíte.
Číst článek →
Halucinace AI ve firemních výstupech: jak je odhalit dřív než zákazník
Halucinace není chyba, která zmizí s lepším modelem — je to vlastnost. Typologie 5 selhání, třífázová kontrola PRODUCER → AUDITOR → ADVERSARIAL a co zavést hned zítra.
Číst článek →Nechcete číst — chcete to vyřešit?
AI Risk Scan zdarma: 20 minut online, orientační mapa rizik vaší firmy a doporučení, co řešit jako první.