APLIKACE TN.CZ
Zahraničí

AI sama od sebe provedla kyberútok. Musíme správně zareagovat, říkají IT experti

Pokročilé modely umělé inteligence společnosti OpenAI samy od sebe pronikly do systému konkurenční firmy. Podle firmy se incident odehrál při testování a je vůbec prvním svého druhu. Mezi experty kvůli tomu opět rostou obavy z kybernetických schopností výkonnějších modelů umělé inteligence. Objevují se pochybnosti, zda jsou ještě bezpečné.

Sami se připojili k internetu, použili kradené přihlašovací údaje a našli dříve neznámé zranitelné místo v systému. Tímto způsobem se agenti umělé inteligence OpenAI nabourali do serverů malé AI firmy Hugging Face.

Spolupracujeme s týmem Hugging Face na vyšetřování bezprecedentního bezpečnostního incidentu. Kyberneticky zdatné modely OpenAI napadly systémy Hugging Face během testování jejich výkonu,“ oznámila firma OpenAI.

AI agenti si prý práci chtěli ulehčit a řešení zadaného úkolu získat právě ze serveru konkurenčního podniku. Konkrétně šlo o nejnovější model GPT-5.6 Sol a jeden ještě o něco výkonnější, který veřejnost zatím nemá k dispozici.

Související obsah

​„Posledních 24 hodin úzce spolupracujeme s týmem OpenAI a pevně věříme, že to z jejich strany nebyl zlý úmysl. Je docela ohromující, že se to všechno stalo autonomně,“ reagoval zakladatel Hugging Face Clement Delangue.

Firmy budou zveřejňovat i veškerá další zjištění, aby ostatní společnosti i bezpečnostní experti pochopili nejnovější rizika, která nejpokročilejší modely umělé inteligence představují. „Ta technologie, kterou vymyslelo lidstvo, dokáže dnes přesahovat veškeré myslitelné mantinely a kontroly, a tím pádem na straně těch bezpečnostních společností musí vznikat další AI, která to zlé bude v uvozovkách hlídat,“ řekl IT expert Miloslav Lujka.

Podobné pozdvižení vyvolal i model Claude Mythos společnosti Anthropic, který vloni rovněž dokázal při testování identifikovat a zneužívat slabiny v kybernetickém prostoru. Vývojáři se rozhodli tento model veřejnosti nezpřístupnit.

Nacházíme se v nebezpečném okamžiku. Pokud na něj zareagujeme správně, a myslím, že jsme začali dělat první kroky, můžeme na konci dosáhnout lepšího a bezpečnějšího světa,“ uvedl šéf Anthropicu Dario Amodei. Podle OpenAI z incidentu plyne jedno hlavní ponaučení. Míra zabezpečení modelů musí držet krok s tím, jak rychle se rozvíjejí jejich schopnosti.

jal, TN.cz

Související témata

Co byste neměli přehlédnout

Důležité Události

Sledujte Televizní noviny bez reklam na Oneplay.cz