Pokročilé modely umělé inteligence společnosti OpenAI samy od sebe pronikly do systému konkurenční firmy. Podle firmy se incident odehrál při testování a je vůbec prvním svého druhu. Mezi experty kvůli tomu opět rostou obavy z kybernetických schopností výkonnějších modelů umělé inteligence. Objevují se pochybnosti, zda jsou ještě bezpečné.
Sami se připojili k internetu, použili kradené přihlašovací údaje a našli dříve neznámé zranitelné místo v systému. Tímto způsobem se agenti umělé inteligence OpenAI nabourali do serverů malé AI firmy Hugging Face.
„Spolupracujeme s týmem Hugging Face na vyšetřování bezprecedentního bezpečnostního incidentu. Kyberneticky zdatné modely OpenAI napadly systémy Hugging Face během testování jejich výkonu,“ oznámila firma OpenAI.
AI agenti si prý práci chtěli ulehčit a řešení zadaného úkolu získat právě ze serveru konkurenčního podniku. Konkrétně šlo o nejnovější model GPT-5.6 Sol a jeden ještě o něco výkonnější, který veřejnost zatím nemá k dispozici.
„Posledních 24 hodin úzce spolupracujeme s týmem OpenAI a pevně věříme, že to z jejich strany nebyl zlý úmysl. Je docela ohromující, že se to všechno stalo autonomně,“ reagoval zakladatel Hugging Face Clement Delangue.
Firmy budou zveřejňovat i veškerá další zjištění, aby ostatní společnosti i bezpečnostní experti pochopili nejnovější rizika, která nejpokročilejší modely umělé inteligence představují. „Ta technologie, kterou vymyslelo lidstvo, dokáže dnes přesahovat veškeré myslitelné mantinely a kontroly, a tím pádem na straně těch bezpečnostních společností musí vznikat další AI, která to zlé bude v uvozovkách hlídat,“ řekl IT expert Miloslav Lujka.
Podobné pozdvižení vyvolal i model Claude Mythos společnosti Anthropic, který vloni rovněž dokázal při testování identifikovat a zneužívat slabiny v kybernetickém prostoru. Vývojáři se rozhodli tento model veřejnosti nezpřístupnit.
„Nacházíme se v nebezpečném okamžiku. Pokud na něj zareagujeme správně, a myslím, že jsme začali dělat první kroky, můžeme na konci dosáhnout lepšího a bezpečnějšího světa,“ uvedl šéf Anthropicu Dario Amodei. Podle OpenAI z incidentu plyne jedno hlavní ponaučení. Míra zabezpečení modelů musí držet krok s tím, jak rychle se rozvíjejí jejich schopnosti.
Sledujte Televizní noviny bez reklam na Oneplay.cz