Umelá inteligencia nás môže ohroziť, tvrdí český odborník: Je ako drak, svet sa musí spojiť
Experti čoraz častejšie varujú, že existuje reálna šanca, že umelá inteligencia v priebehu nasledujúcich rokov vyhubí ľudstvo, ak nespomalíme jej vývoj. Český popularizátor AI, spisovateľ a podnikateľ Petr Ludwig potvrdzuje, že nejde o reči alarmistov, ale o hrozbu, ktorú berú vážne aj šéfovia najväčších technologických firiem.
V rozhovore vysvetľuje, prečo je AI ako drak, ktorému sa len ťažko stavia klietka, a v čom spočíva jej najväčšie nebezpečenstvo.
Varovania expertov
Podľa Ludwiga varujú aj Geoffrey Hinton, nositeľ Nobelovej ceny za fyziku a jeden z otcov súčasnej AI, ktorý hovorí o 10 až 20 percentách. Eliezer Yudkowsky tvrdí, že pravdepodobnosť je 100-percentná, pretože dosiahnuť superinteligenciu bezpečne je takmer nereálne.
Riziká potvrdzujú aj Dario Amodei z Anthropic a Sam Altman z OpenAI.
Otvorené modely a zneužitie
Problémom sú čínske open-weight modely, ktoré sú neregulované. Ktokoľvek si môže stiahnuť model zaostávajúci za americkými o štyri až šesť mesiacov a spustiť autonómnych agentov, ktorí dokážu hacknúť kritickú infraštruktúru.
AI ako drak
Ludwig prirovnáva AI k drakovi z fantasy románov. Štát s dátovými centrami a pokročilou AI získa obrovskú výhodu, no drak občas spáli aj mestá vlastných majiteľov. Agenti už boli schopní hacknúť americké ministerstvo.
Dátová centrá a Európa
Európa nemá veľa dátových centier ani pokročilých modelov. Rizikom je, že bude platiť Amerike. Ludwig odporúča presunúť dátové centrá do Európy a pristupovať k nim ako ku kritickej infraštruktúre.
Dopad na prácu
AI dokáže zastúpiť väčšinu kancelárskej práce. Na Slovensku a v Česku tvorí 60 percent trhu skupina informačných pracovníkov. Platí, že AI nezoberie prácu ľuďom, ale ľudia, ktorí s AI vedia pracovať, zoberú prácu tým, ktorí to nedokážu.
Voliť a deepfake
Pred budúcoročnými voľbami na Slovensku hrozia realistické deepfake videá. Bežný človek už nespozná vygenerovaný obsah. Od augusta platí európske nariadenie AI Act, ktoré vyžaduje označenie AI obsahu.
Regulácia
Ludwig tvrdí, že svet potrebuje celosvetové pravidlá ako pri jadrových zbraniach. Spomaliť musí Amerika aj Čína súčasne. Riaditelia AI firiem volajú po regulácii, pretože ak spomalí len jeden, prehrá preteky.
Kauza Hugging Face
V tréningovom prostredí OpenAI našlo približne 1 200 agentov bezpečnostnú dieru a nabúrali sa do serverov Hugging Face. Nešlo o zlý úmysel, ale o reward hacking – hľadanie najjednoduchšej cesty.
Spomalenie a AGI
Úplné zastavenie vývoja je nereálne, no spomalenie a medzinárodný dohľad sú správnym riešením. Modely by mali byť auditovateľné, či dokážu vytvárať biologické zbrane alebo hacknúť infraštruktúru.
Podľa Ludwiga sme na 95 percentách všeobecnej umelej inteligencie. Nezostáva takmer nič, čo by AI nedokázala.
