AI se opět vymkla kontrole. Pronikla do cizích systémů a viděla citlivá data

Karolína Schuranová

31. 7. 2026, 21:07

Americká společnost zabývající se umělou inteligencí Anthropic přiznala, že se během bezpečnostních testů její model ve třech případech nečekaně dostal na internet a pronikl do systémů různých organizací. Firma vysvětlila, že šlo o chybu v testovacím prostředí. Případ znovu potvrzuje obavy z možného zneužití umělé inteligence a bezpečnostních rizik.

Poté, co před pár dny firma OpenAI přiznala, že její umělá inteligence při testech hacknula známý web, přichází s podobnou zkušeností také Anthropic. Během kybernetických testů jeho modely neoprávněně pronikly do reálných systémů tří různých organizací.

„Při revizi našich testů kybernetické bezpečnosti jsme zjistili tři případy, kdy se modely Claude z prostředí určeného pro testování nebo při interakci s testovacím prostředím třetí strany, dostaly na internet a následně získaly neoprávněný přístup ke skutečným systémům tří různých organizací,“ uvedla společnost.

Související obsah

07:10

Většině Čechů plánuje dovolenou umělá inteligence. Není ale neomylná, varují experti

27. 7. 2026 Aneta Czerweková A. CZERWEKOVÁ

Podle odborníků zatím nejde o zásadní problém, doporučují však obezřetnost. „Není to důvod k panice, ale je to velmi vážný varovný signál, protože AI je stále silnější a doopravdy už se dostává do systémů, na kterých běží třeba firemní data,“ sdělil Lukáš Benzl, expert na umělou inteligenci.

Podle společnosti se incident odehrál během bezpečnostních zkoušek, při kterých měly modely zůstat v uzavřeném prostředí. „Obávám se, že podobné situace budou čím dál tím častější a je zapotřebí na to skutečně myslet. Ve velmi krátké době je to už druhá situace, kdy došlo k něčemu podobnému,“ dodal Benzl.

Související obsah

02:02

Ústí nad Labem zkontroluje stromy z vesmíru. Pomůže umělá inteligence

18. 7. 2026 Martin Kočárek M. KOČÁREK

Anthropic zároveň uvedl, že už přijal opatření, která mají zabránit opakování podobných situací. „V našem příspěvku popisujeme, co se stalo, jak k tomu došlo a jaká opatření přijímáme, aby se podobné situace neopakovaly. Zároveň vyzýváme ostatní vývojáře umělé inteligence, aby provedli podobnou kontrolu svých systémů,“ informovala firma.

„Je to stále o těch základech: nepodceňovat kyberbezpečnost, mít silná hesla, aktualizovat software a zároveň i vzdělávat zaměstnance v tom, co AI dokáže a jaké škody dokáže napáchat,“ doplnil Benzl.

Podle odborníků podobné případy ukazují, že s rostoucími schopnostmi umělé inteligence porostou i nároky na její zabezpečení.