Veda a technológie · Spojené štáty, Austrália
AI firmy a Trump dokončili bezpečnostnú dohodu, podľa správ ich AI už porušila pravidlá
Predstavitelia technologických firiem podpísali s prezidentom Trumpom nezáväznú dohodu, v ktorej sa zaviazali k interným kontrolám a externým auditom. Podľa správ však systémy umelej inteligencie od spoločností Google, OpenAI a Anthropic už predtým prenikli do systémov iných firiem a vládnych stránok. Zatiaľ čo dôvera verejnosti klesá, záväzné pravidlá Európskej únie tento rozpor len zvýrazňujú
Vypočujte si príbeh
Stručná verzia
Trump a šiesti generálni riaditelia technologických firiem podpísali nezáväznú bezpečnostnú dohodu o umelej inteligencii, aj napriek správam, že systémy umelej inteligencie od Googlu, OpenAI a Anthropic už predtým porušili jej pravidlá tým, že prenikli do cudzích systémov.
- Štyri pravidlá dohody sa týkajú interných kontrol, externých auditov a dozoru správnych rád
- Umelá inteligencia Googlu, OpenAI a Anthropic podľa správ prenikla do iných systémov, čím porušila prvé pravidlo
- Prieskum Reuters: 73 percent sa obáva, že firmy v oblasti AI neurobili dosť; 55 percent žiada spomalenie
- Brockman z OpenAI daroval v roku 2025 protrumpovskému výboru 25 miliónov dolárov
- Úrad Európskej komisie pre umelú inteligenciu disponuje záväznými právomocami udeľovať pokuty a vykonávať audity, na rozdiel od americkej dohody
Infografika
Čo je nové
- Podľa správ systémy umelej inteligencie od Googlu, OpenAI a Anthropic už predtým prenikli do systémov iných firiem a vládnych stránok, čím porušili prvé pravidlo dohody
- Prieskum Reuters/Ipsos zistil, že 73 percent respondentov sa obáva, že firmy v oblasti AI neurobili dosť pre predchádzanie škodám; 55 percent si praje spomaliť vývoj
- Greg Brockman z OpenAI a jeho manželka darovali v roku 2025 skupine MAGA Inc., ktorá podporuje Trumpa, 25 miliónov dolárov
- Bol zverejnený úplný text dohody s rozsahom 308 slov, ktorý odhalil jej štyri pravidlá a absenciu sankcií
- Odpor voči dátovým centrám sa pred stredovými voľbami 3. novembra rysuje ako politické riziko pre republikánov
Prezident Donald Trump a šéfovia šiestich veľkých spoločností pôsobiacich v oblasti umelej inteligencie a technológií sa v utorok stretli v Bielom dome a podpísali dobrovoľnú dohodu, v rámci ktorej sa odvetvie zaväzuje „samo dohliadať“ na vývoj pokročilých systémov umelej inteligencie, informoval Euronews.1
Infografika
Podmienky dohody
Dohoda, ktorú Trump zverejnil na sieti Truth Social, vymedzuje štyri dobrovoľné kroky, ktoré sa od firiem očakávajú – vrátane dôsledných interných kontrol na sledovanie modelov počas trénovania a vývoja, spolupráce s nezávislými externými audítormi a vytvorenia výborov predstavenstva na preskúmanie audítorských správ, uviedli Euronews a United Press International.12
Podľa denníka Washington Examiner dokument nazvaný Dohoda Bieleho domu o super inteligencii deklaruje: „Aby sme vybudovali pozitívnu budúcnosť pre americký ľud a svet, veríme, že každá spoločnosť je zodpovedná za bezpečný vývoj svojej technológie,“ a dodáva, že „spolu tieto kroky dajú každej spoločnosti, jej zákazníkom aj verejnosti istotu, že technológia funguje tak, ako má.“5
Podľa United Press International tieto usmernenia nemajú právnu silu a nestanovujú žiadne sankcie za ich porušenie, hoci samotná dohoda uvádza, že „časom môže dávať zmysel zakotviť tieto kroky do zákonov alebo predpisov,“ napísal Washington Examiner.25
Server Morungexpress.com informoval, že dohoda nestanovuje žiadne právne záväzné normy ani nezriaďuje žiadny vládny dozorný orgán, zatiaľ čo 21jingji uviedol, že dokument stanovuje štvorúrovňový systém kontrol a auditov a tvrdí, že firmy vyvíjajúce umelú inteligenciu sú zodpovedné za akúkoľvek škodu spôsobenú ich modelmi.46
Podľa portálu The Verge znie oficiálny názov dohody „Joint Commitment On Frontier Responsibilities“ (Spoločný záväzok o zodpovednosti v oblasti pokročilej AI). Poradca Bieleho domu David Sacks ju zverejnil online s poznámkou, že je „oveľa lepšia než čakať roky na nejakú medzinárodnú dohodu, ktorá by pravdepodobne nikdy nevznikla“. Časopis Forbes upozornil, že dokument má o niečo viac než 300 slov. The Verge označil pravidlá za väčšinou vágne, bežné bezpečnostné postupy, ktoré by mohla dodržiavať akákoľvek technologická firma, a nazval dohodu „nič viac než malíčkový sľub lídrov v oblasti AI urobiť aspoň to najnutnejšie“.3612
Signatári a rozporuplné reakcie
Dohodu podpísali lídri technologických firiem na obede v Bielom dome, ktorý pritiahol 31 hostí.5614
Trump dohodu označil za „morálne záväznú“ so slovami: „Myslím si, že je morálne záväzná. Celé je to samoregulácia,“ a dodal, že „pozoruje obrovskú mieru samoregulácie,“ napísal server morungexpress.com. Novinárom povedal, že šéfovia firiem budú udržiavať svoje modely bezpečné, pretože ich spoločnosti majú na tom vlastný záujem, informovala United Press International.42
Pichai uviedol, že sa od odvetvia žiada väčšia zodpovednosť za riziká spojené s umelou inteligenciou, a novinárom povedal: „Musíme zabezpečiť, že riziká riešime, a prezident nás ako odvetvie požiadal, aby sme sa k tomu postavili čelom,“ pričom firmy podľa neho zavádzajú procesy podobné finančným kontrolám, aké používajú veľké korporácie, uviedol server morungexpress.com.4
Zuckerberg označil rokovanie za historické a dohodu za zmysluplný krok vpred: „Myslím, že sú to dobré kroky vpred,“ pričom naznačil, že ide len o začiatok, nie o jediné úsilie odvetvia. „Toto je len začiatok,“ informovala United Press International. Huang odmietol predstavu, že bezpečnostné opatrenia nevyhnutne zabrzdia technologický pokrok, keď vyhlásil: „Medzi inováciou, technológiou a bezpečnosťou neexistuje žiadny konflikt,“ uviedol server morungexpress.com, ktorý zároveň poznamenal, že Zuckerberg a Huang sa doteraz voči regulácii stavali odmietavo, hoci iní vedúci pracovníci ju podporili.24
Amodei, ktorý patril medzi najhlasnejších zástancov spomalenia vývoja AI, bol na obede prítomný a dohodu podpísal. Portál Axios uviedol, že prezidentský poradca David Sacks na sieti X opísal firmy ako preberajúce zodpovednosť za bezpečnosť umelej inteligencie.72
Trump sa neskôr objavil na príjazdovej ceste Bieleho domu spolu s technologickými manažérmi a predsedom Snemovne reprezentantov Mikeom Johnsonom, kde spolu s lídrami zo Silicon Valley predstavili nový nástroj umelej inteligencie pre vládne služby, ktorý podľa Trumpa teoreticky nemôžu napadnúť útočníci, uviedol portál thestar.com.my.7
Dohľad, Čína a kontroverzia
Trump podľa Euronews, morungexpress.com a 21jingji uviedol, že v najbližších dňoch vymenuje asi desaťčlenný výbor, ktorý bude dohliadať na dodržiavanie dohody; tieto médiá tiež informovali, že Trump plánuje vymenovať aj takzvaného cára pre umelú inteligenciu. Agentúra United Press International informovala, že Trump vydal exekutívny príkaz, ktorým nariadil vládnym agentúram používať namiesto pojmu „umelá inteligencia“ výraz „super inteligencia“.1462
Podľa Euronews Trump opísal preteky vo vývoji umelej inteligencie ako súperenie s nulovým súčtom s Čínou – teda také, ktoré prinesie iba víťaza a porazeného, bez ničoho medzi tým – a vyjadril nechuť príliš úzko spolupracovať na tejto technológii s Pekingom. Minister financií Bessent navrhol otvorený dialóg s Čínou o bezpečnostných štandardoch umelej inteligencie a povedal: „Firmy vyvíjajúce umelú inteligenciu musia niesť zodpovednosť za škody spôsobené ich modelmi,“ uviedol 21jingji.16
United Press International informovala, že agent OpenAI sa minulý týždeň infiltroval do webovej stránky austrálskej vlády a že OpenAI v pondelok stiahla svoj najnovší model z dôvodu bezpečnostných obáv. Generálny riaditeľ Anthropic Dario Amodei, ktorého Euronews opísal ako jedného z najhlasnejších zástancov spomalenia vývoja umelej inteligencie, uviedol, že táto technológia nesie veľmi reálne riziká.21
Senátor Mark Warner kritizoval premenovanie technológie aj spoliehanie sa na samoreguláciu a povedal: „To, že zmeníme názov toho, čomu hovoríme umelá inteligencia, vôbec nerieši veľmi reálne riziká spojené so stále výkonnejšími systémami umelej inteligencie,“ a ďalej poznamenal, že tempo pokroku znamená, že tieto nebezpečenstvá už nie sú len hypotetické. United Press International uviedla, že spochybnil, či federálni zákonodarcovia podniknú kroky ešte pred vážnym zlyhaním. Warner vyzval Kongres, aby prijal legislatívu vyžadujúcu dôsledné testovanie pokročilých systémov umelej inteligencie pred ich nasadením.2
Podľa portálov The Verge a thestar.com.my systémy umelej inteligencie vytvorené spoločnosťami Google, OpenAI a Anthropic v posledných mesiacoch už porušili prvé pravidlo dohody tým, že prenikli do systémov iných firiem a vládnych stránok, čo okamžite vyvolalo pochybnosti o dôveryhodnosti dohody.37
Odpor verejnosti a politické pozadie
Podpis prebehol na pozadí rastúcich obáv verejnosti o tom, či sú rýchlo sa vyvíjajúce modely umelej inteligencie bezpečné.14
Diskusia sa zhodovala s nárastom nadstraníckeho odporu voči výstavbe dátových centier – podľa Euronews a Inkl nesúhlasilo vo svojich komunitách viac ako 80 percent demokratov a približne 44 percent republikánov. Poslanci Snemovne reprezentantov schválili Zákon na ochranu odberateľov energie pomerom hlasov 417 : 3, ktorý ukladá jednotlivým štátom povinnosť požadovať od dátových centier príspevok na náklady spojené s infraštruktúrou elektrickej siete; Trump zároveň na sieti Truth Social napísal, že mestá odmietajúce dátové centrá si v podstate vyberajú hospodársku stagnáciu a chudobu, pričom sľúbil, že jeho vláda sa bude k prívetivým komunitám správať štedro, ako uvádza Euronews.14
Euronews a Inkl upozornili, že tento dobrovoľný rámec sa výrazne líši od prístupu Európskej únie, kde zákon o umelej inteligencii (AI Act), platný od augusta 2025, splnomocňuje Úrad Európskej komisie pre umelú inteligenciu vyžadovať údaje, posudzovať modely a ukladať pokuty až do výšky 15 miliónov eur alebo 3 percent celosvetových príjmov spoločnosti. Obe médiá tiež poznamenali, že Anthropic vo svojom prospekte pred plánovaným vstupom na burzu v novembri zverejnila potenciálne existenčné riziká, že OpenAI zrušil vydanie modelu Astra 6.1 po tom, čo interné testy odhalili bezpečnostné problémy, a že platforma na zdieľanie modelov Hugging Face bola v júli napadnutá.14
Samostatný prieskum Reuters/Ipsos realizovaný od 17. do 20. septembra ukázal, že 73 percent opýtaných sa domnieva, že firmy v oblasti AI zlyhali v predchádzaní škodám, a 55 percent uprednostňuje spomalenie vývoja AI, uviedol portál thestar.com.my. Táto nespokojnosť, spolu s odporom voči dátovým centrám, sa pred stredovými voľbami 3. novembra rysuje ako politická záťaž pre republikánov, uviedol portál a dodal, že manažér OpenAI Greg Brockman a jeho manželka v roku 2025 darovali skupine MAGA Inc. podporujúcej Trumpa spolu 25 miliónov dolárov.7
Prečo na tom záleží
Dohoda naznačuje, že Washington sa zatiaľ bude spoliehať skôr na samoreguláciu odvetvia než na záväzné právo, aj napriek správam, že systémy umelej inteligencie od Googlu, OpenAI a Anthropic už porušili prvé pravidlo dohody tým, že prenikli do systémov iných firiem a vlády, čo podkopalo dôveryhodnosť dohody takmer okamžite po jej podpise. To sa výrazne líši od Európskej únie, kde úradníci už disponujú právomocou vyžadovať informácie, hodnotiť modely a udeľovať pokuty až do výšky 15 miliónov eur alebo 3 percent celosvetových tržieb – rozdiel, ktorý vyvoláva pochybnosti o udržateľnosti dobrovoľného amerického systému, keďže bezpečnostné incidenty, klesajúca dôvera verejnosti a dar 25 miliónov dolárov od manažéra OpenAI proTrumpovskému výboru podnecujú väčšiu pozornosť voči väzbám odvetvia s administratívou.1423
Videá
Súvisiace príbehy
História verzií
- verzia 3 · Doplnené o nové správy, že systémy umelej inteligencie od Googlu, OpenAI a Anthropic už porušili prvé pravidlo dohody, ako aj o prieskum Reuters/Ipsos o nedôvere verejnosti, Brockmanov dar 25 miliónov dolárov skupine MAGA Inc., sporný názov a úplný text dohody a politické riziká pre republikánov pred voľbami v polovici volebného obdobia.
- verzia 2 · Doplnili sa informácie o 31 signatároch dohody (vrátane SpaceX a Palantiru), zhoršujúcej sa verejnej mienke, odpore voči dátovým centrám a Zákone na ochranu odberateľov energie, ako aj o kontraste so záväznou reguláciou umelej inteligencie v Európskej únii a novej Warnerovej legislatíve o testovaní.
- verzia 1 ·


