Anthropic zablokoval pokusy o zneužitie svojich AI modelov na kybernetické útoky
Americký startup zaoberajúci sa umelou inteligenciou (AI) Anthropic oznámil, že v posledných mesiacoch prekazil pokusy o využitie rôznych modelov četbota Claude na kybernetické útoky, sledovanie politických oponentov či výskum, ktorý mohol viesť k vývoju biologických zbraní.
Firma to uviedla vo svojej v poradí tretej správe o zneužití umelej inteligencie od marca 2025. „Prípady, o ktorých tu hovoríme, nie sú typickým zneužitím, ale skôr príkladmi najvýraznejších a najnovších hrozieb, ktoré sme doteraz identifikovali,“ uvádza spoločnosť.
Správa bola zverejnená dva dni po verejnom odchode výskumníka Jacoba Coxona z Anthropicu, ktorý túto aj konkurenčnú spoločnosť OpenAI obvinil z toho, že „hazardujú s našimi životmi“ tým, že sa predbiehajú vo vývoji pokročilých modelov AI. Zopakoval tak obavy, ktoré vyjadrujú aj ďalší predstavitelia odvetvia.
Rastúca výkonnosť znižuje prah pre útočníkov
Anthropic v správe upozornil, že so stúpajúcou výkonnosťou modelov budú rásť aj s nimi spojené riziká, ak vývojári a zástupcovia spoločnosti nepodniknú kroky na zvýšenie ich bezpečnosti. Na vykonanie kybernetických útokov už podľa nej nie sú potrebné pokročilé zručnosti a hrozby, ktoré boli ešte pred rokom nemysliteľné, môžu teraz vytvárať aj jednotlivci.
Medzi decembrom 2025 a augustom 2026 odborníci v Anthropicu odhalili prípady zneužitia modelov AI zo strany rôznych aktérov, od predajcov špionážneho softvéru až po štátom podporované skupiny šíriace propagandu.
Pokusy o biologický výskum aj politické sledovanie
Zistenia zahŕňajú aj pokusy o využitie AI na pochybný biologický výskum, ktorý údajne mohol viesť k vývoju zbraní. Anthropic preto do svojich najnovších modelov zabudoval prísnejšie bezpečnostné opatrenia.
Výskumníci podľa správy nehľadali konkrétnu vedeckú pomoc, ale skôr organizačnú podporu, napríklad pri vypracúvaní článkov. Spoločnosť OpenAI ale tvrdí, že môže byť ťažké určiť zámery podobných požiadaviek, lebo ten istý výskum môže slúžiť na lekárske aj vojenské účely. V správe sa spomína výskum vírusu chikungunya, jedného z kmeňov vtáčej chrípky a skupiny vírusov, do ktorej patria kiahne, jedy a iné toxíny.
Anthropic zároveň upozornil, že vlády a so štátom spriaznení aktéri čoraz viac využívajú AI na sledovanie etnických menšín a disidentov. Prekazené incidenty mali pôvod v Číne, Iráne a západnej Afrike.
Propaganda a hrozby vo vojenskom vývoji
Správa ďalej poukazuje na prípady, keď ruské štátne médiá využívali Claude na vytváranie propagandy, ktorú vydávali za nezávislé spravodajstvo. Súčasťou podľa agentúry AP boli napríklad vymyslené tvrdenia o voľbách v Moldavsku.
Za novú hrozbu Anthropic označuje využitie umelej inteligencie na vývoj softvéru s cieľom navrhovania a výroby konvenčných zbraní, rakiet, dronov a bômb. Tri takéto prípady zaznamenala spoločnosť v Číne, dva v Rusku a jeden v Jemene, kde z kontextu vyplýva, že ide o proiránskych povstalcov húsíov, podotkol denník The New York Times.
