Společnosti provozující velké jazykové modely, neboli takzvanou umělou inteligenci, přiznávají, že se musejí vypořádávat i s opravdu nebezpečnými dotazy. Ty se týkaly třeba sestrojení balistické rakety nebo biologické zbraně.
Íránem podporovaní jemenští povstalci označovaní jako Hútíové, které například Kanada nebo Spojené státy řadí mezi teroristické organizace, se snažili využít umělou inteligenci k vývoji vlastní balistické rakety. Podle deníku Financial Times to oznámila firma Anthropic, která provozuje umělou inteligenci Claude.
AI měla povstalcům konkrétně pomáhat s vývojem softwaru pro řízení a navigaci dalekonosné zbraně. Jako počítač chtěli pro zbraň použít zařízení vycházející z mobilního telefonu.
Firma Anthropic ovšem tvrdí, že jejich snahy blokovala. Nepodařilo se jí ale nejspíš zablokovat všechny pokusy. „Aktéři použili různé taktiky, aby se těmto opatřením vyhnuli,“ tvrdí.
Anthropic i Google měly podle BBC také zaznamenat pokusy o využití umělé inteligence k vývoji biologických zbraní. Podle Googlu mělo jít o kompletní podrobný návod.
Sledujte Televizní noviny bez reklam na Oneplay.cz