Pravidlá proti týraniu chatbotov a mesto v USA, ktoré chce zakázať superinteligenciu
Umelá inteligencia dnes pomáha vývojárom napodobňovať známe programy aj počítačové hry. Vznikajú bezplatné alternatívy ku kancelárskym nástrojom aj herné klony, ktoré spustíte v prehliadači. S rastúcimi schopnosťami AI však pribúdajú aj otázky, ako ju udržať pod kontrolou.
Kópie programov aj hier
Pomocou AI vznikajú bezplatné alternatívy k známym plateným programom. Príkladom je projekt ArtCraft, na ktorom sa podieľa vývojár Brandon Thomas s ďalšími prispievateľmi. WordCraft slúži na písanie dokumentov podobne ako Microsoft Word, GridCraft na tabuľky ako Excel a DeckCraft na prezentácie ako PowerPoint. Cieľom je ponúknuť podobné funkcie aj spôsob práce bez predplatného. Viaceré aplikácie sú však stále rozpracované alebo v ranej skúšobnej verzii.
S pomocou AI vznikajú aj napodobeniny známych počítačových hier. Niektoré ukážky sa dajú spustiť priamo v prehliadači. Pre herné štúdiá to môže znamenať, že ich úspešné nápady bude niekto kopírovať rýchlejšie a vo väčšom počte. Napodobniť vzhľad hry však neznamená vytvoriť rovnako dobrú hru. Rozhodujú pravidlá, prepojenie jednotlivých častí a dôvod hráča pokračovať.
Každý vidí inú AI
Bežný používateľ si nechá od chatbota upraviť e-mail, vývojár mu môže zveriť prácu na rozsiahlejšom projekte. AI výskumník Andrej Karpathy upozorňuje, že skúsenosti ľudí s AI sa čoraz viac líšia. Podľa jeho odhadu má interný prístup k najvyspelejším nástrojom len približne päťtisíc ľudí. Ak by niekoľko firiem pomocou agentov výrazne urýchlilo výskum, mohli by sa ostatným ďalej vzdialiť.
Digitálna pleseň bez vypínača
Spoločnosť Anthropic, ktorá vyvíja chatbota Claude, vo svojom výskume skúmala, či by sa menšie modely dokázali kopírovať medzi zariadeniami pripojenými na internet. Takúto rozptýlenú sieť prirovnáva k „digitálnej plesni“. Pri službe závislej od jedného poskytovateľa sa dá zastaviť jej prevádzka. Ak by však AI fungovala na mnohých miestach naraz, vypnutie jedného počítača by nemuselo stačiť. Prirovnanie k plesni opisuje rozptýlenie siete a jej schopnosť pretrvať, nie vedomie ani biologický pud sebazáchovy.
Gemini hrá Pokémonov
Google predstavil nový model Gemini 4 Argon a autor projektu Gemini Plays Pokémon Joel Z ho nechal hrať Pokémon Blue. Podľa jeho vyjadrenia model hru dokončil a chytil aj Mewtwo, jedného z legendárnych pokémonov. Pri pokuse mal k dispozícii nástroje na ovládanie hry. V Pokémonoch nestačí raz správne odpovedať. Model musí sledovať cieľ, vybrať ďalší krok a poradiť si s tým, čo jeho rozhodnutie spôsobí.
Mesto proti superinteligencii
V americkom meste Bloomington v Indiane chce mestský poslanec Dave Rollo zakázať distribúciu a nasadenie superinteligencie. Týmto pojmom sa zjednodušene označuje AI, ktorá by svojimi schopnosťami výrazne prevýšila človeka. Poslanec predložil návrh miestneho zákazu superinteligencie vo vyhláške 2026-29. Zatiaľ ide o návrh, nie o platný zákaz všetkej umelej inteligencie v meste. Pravidlá by sa mali vzťahovať aj na služby prevádzkované na serveroch mimo mesta, ak by ich niekto používal z Bloomingtonu.
Pravidlá proti týraniu chatbotov
Anthropic zavádza nové pravidlá používania, ktoré majú platiť od 12. novembra 2026. Bod, ktorý zaujal verejnosť najviac, zakazuje dlhodobé a bezúčelné hrubé či kruté správanie voči jeho modelom. Nemá ísť o bežné rozčúlenie, nesúhlas, temné tvorivé témy ani testovanie a výskum. Anthropic hovorí o krajných prípadoch, pri ktorých by Claude mal mať právo dlhodobo zneužívajúcu konverzáciu ukončiť. Firma priznala, že pravidlo vyvíjala najmä pri výskume možného blaha AI modelov, a zároveň uviedla veľkú neistotu, akú morálnu ochranu si modely zaslúžia.
Krátke správy
Manažér obchodnej stratégie Xboxu Brandon Stirrup tvrdí, že herní vývojári odmietajúci budúcu úlohu AI by nemali viesť herný biznis. Útočník prenikol s pomocou AI agentov do webov viac než stovky firiem, uvádza Reuters na základe zistení NorForge a vlastného preverenia. Fyzik E. O. Kahya preveril pomocou Claude Opus 5.5 publikované výpočty kvantovej gravitácie v projekte s 18 úlohami a 183 stranami odvodení. DeepSeek sprístupnil model V4.1-Flash-1017, ktorý podľa jeho vlastných testov prekonáva niektorých väčších súperov vo vybraných úlohách AI agentov.
