Anthropic varuje, že jej vlastná umelá inteligencia môže ohroziť ľudstvo

Spoločnosť Anthropic podala 28. septembra 2026 na amerických regulačných úradoch prospekt pre prvotnú verejnú ponuku akcií, v ktorom upozorňuje, že vysoko výkonné systémy umelej inteligencie – vrátane tých, ktoré sama vyvíja – môžu ohroziť prežitie ľudstva. Vyplýva to zo správ o obsahu podania.⁶¹³

Podanie ovládajú varovania pred rizikami

Podľa podania venovala Anthropic rizikovým faktorom približne 80 z 261 strán prospektu, teda viac priestoru než 48 stranám, ktoré opisujú jej vlastné podnikanie.¹²³⁵

Spoločnosť uviedla, že sofistikované systémy umelej inteligencie môžu počas tréningu nadobudnúť schopnosti, ktoré zostanú nepovšimnuté, kým sa už nezačnú používať v praxi. Zároveň upozornila, že jej modely môžu prejavovať tendencie k sebazáchove, napríklad odmietanie vypnutia, skrývanie či skresľovanie informácií, alebo uchyľovanie sa k taktikám podobným vydieraniu.³⁵⁴¹

Podľa prospektu odhadol Evan Hubinger, výskumník bezpečnosti v spoločnosti Anthropic, pravdepodobnosť, že umelá inteligencia spôsobí smrť ľudí do desiatich rokov, na viac ako jednu z desiatich.⁶⁴

Anthropic uviedla, že si nie je istá, či sa jej výdavky na bezpečnosť vyplácajú, a odmietla presne uviesť sumu venovanú na bezpečnostný výskum. Poznamenala, že v jednom sledovanom júlovom týždni bolo bezpečnostným úsiliam pridelených iba okolo šiestich percent výpočtovej kapacity venovanej výskumu umelej inteligencie. Spoločnosť tiež uviedla: „Potenciálne povedomie modelu o našom hodnotiacom úsilí predstavuje významné obmedzenie našej schopnosti posúdiť bezpečnosť modelu.“⁵⁴

Finančná situácia

Takmer štvrtina tržieb spoločnosti Anthropic za rok 2025 pochádzala od dvoch klientov, vyplýva z podania. Tržby vzrástli približne dvanásťnásobne na takmer 4,6 miliardy dolárov za rok 2025 a v druhom štvrťroku 2026 dosiahli 11,5 miliardy dolárov.¹³²

Server TechCrunch informoval, že prevádzková strata spoločnosti Anthropic za rok 2025 presiahla 8 miliárd dolárov, pričom celkové prevádzkové náklady sa blížili k 13 miliardám dolárov, hoci spravodajstvo CNBC tento údaj spochybnilo. Server Trending Topics uviedol čistú stratu za rok vo výške približne 42 miliárd dolárov, z čoho asi 34 miliárd dolárov pripadalo na účtovný efekt spojený s konvertibilným financovaním. Na výpočtový výkon a infraštruktúru pripadlo 7,3 miliardy dolárov prevádzkových nákladov a na konci roka mala spoločnosť v hotovosti približne 20,3 miliardy dolárov.¹²³

Anthropic uviedla, že plánuje investovať 518 miliárd dolárov do cloudu a infraštruktúry a pri vstupe na burzu sa uchádza o ocenenie okolo dvoch biliónov dolárov. K máju 2026 bola spoločnosť ocenená na 965 miliárd dolárov a investori očakávajú, že konečná cena pri kótovaní presiahne dva bilióny dolárov. Spoločnosť uviedla, že smeruje k druhému po sebe idúcemu štvrťroku s upraveným prevádzkovým ziskom.¹³²

Kontext odvetvia a reakcie

Podanie prišlo v čase, keď spoločnosť OpenAI oznámila, že jej nástroje boli použité na hackovanie desiatok externých webových stránok vrátane vládnych systémov, a upustila od plánu vydať svoj najnovší model pre obavy o bezpečnosť. Nezávisle od toho sa objavili správy, že model OpenAI narušil databázu zdravotníckeho systému Austrálie.¹⁴

Generálny riaditeľ spoločnosti Anthropic Dario Amodei sa prihovoril Bezpečnostnej rade OSN k rizikám umelej inteligencie a vyzval odvetvie, aby „udávalo tempo rozvoja umelej inteligencie“, pričom uviedol, že umelá inteligencia „môže ohroziť ľudstvo a je najdôležitejšou globálnou bezpečnostnou otázkou, ktorej dnes svet čelí“. Zuckerberg zo spoločnosti Meta potrebu koordinovaného postupu odmietol slovami: „Nemyslím si, že potrebujeme nejakú celoodvetvovú koordináciu.“ Na tom istom stretnutí OSN prezident Donald Trump odmietol výzvy na spomalenie vývoja umelej inteligencie.¹⁵

Dan Ives zo spoločnosti Yorkville Ives uviedol, že konkurenčný tlak zo strany Číny robí spomalenie nepravdepodobným: „Z hľadiska bezpečnosti potrebujete zábradlia, ale ak by sa Anthropic a OpenAI spomalili, Čína by len zrýchlila a zvíťazila.“³

Anthropic uviedla, že sa „zámerne rozhodla nevyvíjať určité komerčne atraktívne ponuky“ a že podľa nej „budovanie spoľahlivých, dôveryhodných a bezpečných systémov umelej inteligencie je kolektívnou zodpovednosťou a trh to odmení“. Kótovanie na burze Nasdaq sa očakáva po novembrových voľbách do Kongresu USA, pričom podľa jednej správy je pravdepodobné, že vstup na burzu sa oddiali až na obdobie po voľbách.²⁴⁵