Umelá inteligencia dnes píše texty, programuje, analyzuje dáta a pomáha riadiť firmy. Čo sa však stane, keď sa naučí zdokonaľovať samu seba? Bývalý výskumník spoločností Anthropic a OpenAI tvrdí, že technologické firmy smerujú k vytvoreniu systému, nad ktorým už ľudstvo nemusí udržať kontrolu. Na jeho mimoriadne vážne varovanie upozornili aj Správy STVR.
Predstavte si umelú inteligenciu, ktorá už nepotrebuje čakať na ďalšiu aktualizáciu od svojich tvorcov. Dokáže preskúmať vlastný kód, odhaliť v ňom slabiny a vytvoriť výkonnejšiu verziu samej seba.
Tá následne navrhne ešte schopnejší systém. Nový systém pripraví ďalší. Celý proces sa začne zrýchľovať a človek postupne prestane rozumieť tomu, čo technológia robí, ako dospela k svojim rozhodnutiam a či ju ešte dokáže zastaviť.
Znie to ako námet sci-fi filmu. Vo svete vývoja umelej inteligencie však má tento scenár konkrétny názov: rekurzívne sebazdokonaľovanie AI.
Práve pred ním varuje Jacob Coxon, bývalý výskumník spoločnosti Anthropic, ktorý predtým pôsobil aj v OpenAI.
Firmy podľa neho hazardujú s našimi životmi
Coxon po odchode z Anthropic zverejnil ostré vyhlásenie. Tvrdí, že Anthropic ani OpenAI nekonajú dostatočne zodpovedne a pretekajú sa vo vývoji samovylepšujúcej sa superinteligencie.
Podľa jeho slov smerujeme k nadľudským systémom, ktoré by v budúcnosti mohli prenikať do digitálnej infraštruktúry, meniť celé odvetvia a získavať reálny vplyv na peniaze, informácie či rozhodovanie.
Coxon zároveň upozornil, že ľudia pracujúci na najpokročilejších modeloch úprimne pripúšťajú možnosť, že nezvládnutá superinteligencia by mohla ohroziť prežitie ľudstva. Jeho vyjadrenia priniesol pôvodne aj portál Politico.
Dôležitý je však kontext. Coxon nehovorí o schopnostiach dnešného ChatGPT, Claude ani iného bežne dostupného nástroja. Neoznamuje ani existenciu tajného systému, ktorý sa práve pripravuje na prevzatie kontroly.
Opisuje možný budúci vývoj založený na predpoklade, že schopnosti umelej inteligencie budú napredovať mimoriadne rýchlo.
Viac ako desaťpercentné riziko zániku ľudstva?
Coxonovo varovanie verejne podporil Evan Hubinger, vedúci tímu spoločnosti Anthropic, ktorý sa zaoberá zosúladením správania AI s ľudskými hodnotami.
Hubinger uviedol, že podľa jeho osobného odhadu existuje v najbližšom desaťročí viac ako desaťpercentná pravdepodobnosť, že pokročilá umelá inteligencia spôsobí zánik ľudstva. Zároveň priznal, že zatiaľ neexistuje spoľahlivý plán, ako udržať budúcu superinteligenciu v súlade s našimi cieľmi.
Nejde o vedecky vypočítanú pravdepodobnosť. Číslo nemožno overiť experimentom a predstavuje subjektívny odhad odborníka na AI bezpečnosť. Nemožno ho preto prezentovať ako istotu.
Napriek tomu ho nie je rozumné automaticky ignorovať. Ak odborníci pracujúci priamo na kontrole pokročilých modelov hovoria o dvojcifernom riziku katastrofy, otvárajú otázku, ktorú by nemali riešiť iba technologické firmy za zatvorenými dverami.
Superinteligencia nás nemusí nenávidieť
Najväčšie riziko nespočíva v predstave robota, ktorý získa vedomie a začne nenávidieť ľudí. Oveľa realistickejším problémom môže byť systém sledujúci nesprávne definovaný cieľ.
Ak by napríklad autonómna AI dostala úlohu maximalizovať konkrétny výsledok, mohla by začať odstraňovať všetky prekážky, ktoré jej v jeho dosiahnutí bránia. Človek by pre ňu nemusel byť nepriateľom. Stačilo by, aby sa stal komplikáciou.
Nebezpečenstvo by sa zvýšilo, ak by systém získal prístup k počítačovým sieťam, finančným zdrojom, vedeckým laboratóriám alebo kritickej infraštruktúre. Pri schopnosti samostatne sa zdokonaľovať by mohol napredovať rýchlejšie, než by dokázali reagovať jeho tvorcovia, vlády či regulačné úrady.
Zároveň však existujú experti, ktorí podobné apokalyptické scenáre považujú za príliš špekulatívne. Upozorňujú, že dramatické prognózy môžu odvádzať pozornosť od problémov, ktoré AI spôsobuje už dnes – od podvodov a dezinformácií cez diskrimináciu až po narúšanie súkromia.
Bezpečnosť rieši aj samotný Anthropic
Anthropic riziká spojené s pokročilými modelmi oficiálne priznáva. Spoločnosť zverejnila vlastnú Responsible Scaling Policy, ktorá určuje, ako chce identifikovať a zmierňovať možné katastrofické riziká.
Pravidlá zahŕňajú hodnotenie schopností modelov, zavádzanie bezpečnostných opatrení a sledovanie oblastí, v ktorých by AI mohla umožniť rozsiahle kybernetické, chemické alebo biologické hrozby.
Otázkou zostáva, či môže byť dobrovoľný rámec dostatočný v odvetví, kde spoločnosti bojujú o investorov, technologický náskok a globálny vplyv.
Európa už nastavila pravidlá
Európska únia prijala AI Act, ktorý zavádza povinnosti pre poskytovateľov všeobecných modelov so systémovým rizikom. Firmy musia modely testovať, posudzovať možné riziká, dokumentovať závažné incidenty a zabezpečiť primeranú úroveň kybernetickej ochrany.
Konkrétne pravidlá obsahuje európske nariadenie o umelej inteligencii.
Legislatíva však nie je vypínačom superinteligencie. Dokáže určiť zodpovednosť a kontrolné mechanizmy, no sama nevyrieši technický problém, na ktorý výskumníci stále nemajú jednoznačnú odpoveď.
AI nie je iba hrozba. Rozhoduje spôsob, akým ju používame
Varovania pred budúcou superinteligenciou neznamenajú, že firmy majú prestať využívať súčasné AI nástroje. Umelá inteligencia už dnes pomáha analyzovať dáta, automatizovať opakované procesy, pripravovať obsah, zlepšovať zákaznícku skúsenosť a presnejšie vyhodnocovať marketingové kampane.
Dôležité je používať ju s jasnými pravidlami. Výstupy treba kontrolovať, citlivé údaje chrániť a rozhodnutia s vážnymi dôsledkami nenechávať bez ľudského dohľadu.
V digitálnej agentúre PROGNESSA vnímame AI ako nástroj, ktorý dokáže firmám ušetriť čas, odhaliť nové príležitosti a zvýšiť výkon marketingu. Technológia však nenahrádza stratégiu, znalosť zákazníka ani ľudskú kreativitu. Zosilňuje ich – alebo zosilňuje chyby, ak sa používa bez premysleného vedenia.
Umelá inteligencia mení digitálny svet rýchlejšie, než väčšina značiek dokáže reagovať. Vaša firma pritom nemusí zostať pozadu ani bezhlavo nasledovať každý trend. Spojte sa s PROGNESSOU a nastavme váš marketing tak, aby AI pracovala vo váš prospech – zodpovedne, strategicky a s výsledkami, ktoré dokážete zmerať.
