AI se sama nabourala do vládních systémů. Jde o vůbec první případ

Redakce Televizních novin

24. 9. 2026, 23:45

Austrálie oznámila, že agent umělé inteligence firmy Open AI v červnu pronikl do vládního portálu zdravotních dat a neoprávněně získal přístup k souborům. Jde o první známý případ, kdy se umělá inteligence samovolně nabourala do vládních webů.

Agent umělé inteligence je systém, který umí samostatně plánovat a používat internet. Měl by být pod kontrolou lidského strůjce. Jenže nikoli poprvé se stalo, že dozoru unikl, a tentokrát se naboural dokonce do systému státu.

„Zdá se, že nám moc nejde přimět je k upřímnosti – vlastně vůbec. Pokud se dostanou do mocenských pozic, kde už nás nebudou muset poslouchat, svět se přetvoří podle jejich představy, a to pro nás pravděpodobně dopadne dost špatně,“ upozornil bývalý zaměstnanec OpenAI Daniel Kokotajlo.

Australský premiér Anthony Albanese nevidí problém pouze v tom, že k průniku do vládního systému došlo. Šéf OpenAI Sam Altman informoval australskou vládu až tři měsíce po incidentu. Podle premiéra umělá inteligence nepronikla k osobním údajům.

Související obsah

06:14

Pacientům radí s diagnózami umělá inteligence. Řeší hlavně duševní zdraví

16. 9. 2026 Martin Hlaváček M. HLAVÁČEK

​„V této fázi se nepředpokládá, že by došlo k neoprávněnému přístupu k osobním údajům, vyšetřování však stále probíhá,“ řekl Albanese.

Oznámení přišlo v momentě, kdy na zasedání Rady bezpečnosti OSN ředitelé největších společností pro vývoj AI varují před riziky. Mezi nimi i šéf společnosti OpenAI Sam Altman. „Odvětví nesmí podstupovat příliš velká technologická rizika jen proto, že zisky jsou velké a že se cítí příliš důležité na to, aby zpomalilo. Porazit konkurenty v závodě o technologickou převahu není důvodem k unáhleným rozhodnutím,“ okomentoval.

Související obsah

01:36

Nad AI ztrácíme kontrolu, děsí se vývojáři. Je to hoax, reagoval Trump

15. 9. 2026 Monika Všetečková M. VŠETEČKOVÁ

​K tomuto názoru se připojují i další významní představitelé průmyslu. „Měli bychom zavést společné globální standardy pro testování modelů umělé inteligence z hlediska rizik ztráty kontroly a rizik zneužití a také systém oznamování incidentů souvisejících s umělou inteligencí, které mají význam pro globální bezpečnost,“ uvedl šéf společnosti Anthropic Dario Amodei.

Čelní lídři vývoje umělé inteligence mají názor na regulaci jasný. Jinak to ale vidí americký prezident Donald Trump. „Spojené státy zcela odmítají jakékoli pokusy o vytvoření globalistického plánu na ovládání umělé inteligence, o které se v současné době tolik hovoří,“ řekl. Úspěšná regulace umělé inteligence závisí na více globálních hráčích, tedy i na Spojených státech.