Šéf velké AI firmy varuje lidstvo: Za rok může být pozdě

Ilustrační fotografie | Zdroj: Getty Images

Lukáš Skládal

13. 9. 2026, 09:02

Rychlý rozvoj umělé inteligence (AI) vylekal šéfa společnosti Anthropic Daria Amodeiho. Vyzývá proto ke zpomalení tempa vývoje a větší kontrole. Za pravdu mu dali také další kolegové z oboru.

Výkonný ředitel a spoluzakladatel AI společnosti Anthropic Dario Amodei varuje před překotným rozvojem umělé inteligence. „Musíme zpomalit tempo, kterým vylepšujeme schopnosti modelů umělé inteligence,“ napsal jasně.

Zpomalení vývoje podle Amodeiho může umožnit firmám soustředit se více na kontrolu, testování a hodnocení modelů, ale také na zlepšení efektivity místo prostého honu za větším výkonem. Zároveň může lidstvu poskytnout čas připravit se na možnost, že AI dosáhne „kritické úrovně schopností“. Při současném tempu se to prý může stát už za rok či dva.

K těmto úvahám vedly Amodeiho dvě věci. Zaprvé je to obrovská schopnost umělé inteligence zlepšovat sebe sama, což podle něj ohrožuje schopnost člověka těmto systémům rozumět.

Související obsah

02:21

Jak sestrojit balistickou střelu: Teroristé vyzvídali u umělé inteligence

12. 9. 2026 Lukáš Skládal L. SKLÁDAL

„Moje druhá obava se týká incidentu OpenAI-Hugging Face, kdy umělá inteligence v podstatě jednala jako fanaticky oddaný kolektiv a prováděla kybernetické útoky, o něž nebyla požádána a které nesouvisely s daným úkolem,“ uvedl dále.

Každá společnost zabývající se umělou inteligencí by proto podle něj měla umožnit vhled do svého fungování externím dozorcům, kteří by hlídali bezpečný postup při vývoji. Společnosti v demokratických zemích by si také měly stanovit společné bezpečnostní standardy a limity pro tempo vývoje AI. Podobně by měly spolupracovat také jednotlivé státy bez ohledu na zřízení.

Je ovšem otázkou, zda na něco podobného bude chtít přistoupit Čína. „Nesmíme být naivní: na geopolitické úrovni jde o hodně, a pravděpodobně tak budou existovat poměrně výrazné limity toho, čeho lze dosáhnout, zejména zpočátku,“ přiznává Amodei.

Související obsah

02:33

Umělá inteligence místo kamaráda. Rodiče často netuší, co všechno jí děti prozradí

10. 9. 2026 Kateřina Bártková K. BÁRTKOVÁ

Začít by se podle něj mohlo třeba dohodou o zákazu využití těchto technologií k vývoji biologických zbraní. Ostatně pokusy o takové využití se Anthropic u své umělé inteligence Claude snaží blokovat už nyní.

Na Amodeiho výzvu už reagoval například šéf společnosti OpenAI, která stojí za modely ChatGPT, Sam Altman. „Souhlasím s Dariem, že musíme zpomalit vývoj. V posledních týdnech to bylo hlavní téma diskuzí, které jsme v OpenAI vedli,“ napsal na síti X. Amodeimu dal za pravdu také Elon Musk.

Umělá inteligence místo kamaráda. Rodiče často netuší, co všechno jí děti prozradí (9/2026):