Firmy vyvíjajúce umelú inteligenciu podpísali s Trumpom v Bielom dome dobrovoľnú bezpečnostnú dohodu

Prezident Donald Trump a šéfovia šiestich veľkých spoločností pôsobiacich v oblasti umelej inteligencie a technológií sa v utorok stretli v Bielom dome a podpísali dobrovoľnú dohodu, v rámci ktorej sa odvetvie zaväzuje „samo dohliadať“ na vývoj pokročilých systémov umelej inteligencie, informoval Euronews.¹

Podmienky dohody

Dohoda, ktorú Trump zverejnil na sieti Truth Social, vymedzuje štyri dobrovoľné kroky, ktoré sa od firiem očakávajú — vrátane dôsledných interných kontrol na sledovanie modelov počas trénovania a vývoja, spolupráce s nezávislými externými audítormi a vytvorenia výborov predstavenstva na preskúmanie audítorských správ, uviedli Euronews a United Press International.¹²

Podľa denníka Washington Examiner dokument nazvaný Dohoda Bieleho domu o super inteligencii deklaruje: „Aby sme vybudovali pozitívnu budúcnosť pre americký ľud a svet, veríme, že každá spoločnosť je zodpovedná za bezpečný vývoj svojej technológie,“ a dodáva, že „spolu tieto kroky dajú každej spoločnosti, jej zákazníkom aj verejnosti istotu, že technológia funguje tak, ako má.“⁵

Podľa United Press International tieto usmernenia nemajú právnu silu a nestanovujú žiadne sankcie za ich porušenie, hoci samotná dohoda uvádza, že „časom môže dávať zmysel zakotviť tieto kroky do zákonov alebo predpisov,“ napísal Washington Examiner.²⁵

Server Morungexpress.com informoval, že dohoda nestanovuje žiadne právne záväzné normy ani nezriaďuje žiadny vládny dozorný orgán, zatiaľ čo 21jingji uviedol, že dokument stanovuje štvorúrovňový systém kontrol a auditov a tvrdí, že firmy vyvíjajúce umelú inteligenciu sú zodpovedné za akúkoľvek škodu spôsobenú ich modelmi.⁴⁶

Signatári a rozporuplné reakcie

Dohodu podpísali Dario Amodei z Anthropic, Sundar Pichai z Googlu, Mark Zuckerberg z Mety, Greg Brockman z OpenAI, Jensen Huang z Nvidie a Elon Musk z xAI, uviedli Washington Examiner a 21jingji.⁵⁶

Trump dohodu označil za „morálne záväznú“ so slovami: „Myslím si, že je morálne záväzná. Celé je to samoregulácia,“ a dodal, že „pozoruje obrovskú mieru samoregulácie,“ napísal server morungexpress.com. Novinárom povedal, že šéfovia firiem budú udržiavať svoje modely bezpečné, pretože ich spoločnosti majú na tom vlastný záujem, informovala United Press International.⁴²

Pichai uviedol, že sa od odvetvia žiada väčšia zodpovednosť za riziká spojené s umelou inteligenciou, a novinárom povedal: „Musíme zabezpečiť, že riziká riešime, a prezident nás ako odvetvie požiadal, aby sme sa k tomu postavili čelom,“ pričom firmy podľa neho zavádzajú procesy podobné finančným kontrolám, aké používajú veľké korporácie, uviedol server morungexpress.com.⁴

Zuckerberg označil rokovanie za historické a dohodu za zmysluplný krok vpred: „Myslím, že sú to dobré kroky vpred,“ pričom naznačil, že ide len o začiatok, nie o jediné úsilie odvetvia. „Toto je len začiatok,“ informovala United Press International. Huang odmietol predstavu, že bezpečnostné opatrenia nevyhnutne zabrzdia technologický pokrok, keď vyhlásil: „Medzi inováciou, technológiou a bezpečnosťou neexistuje žiadny konflikt,“ uviedol server morungexpress.com, ktorý zároveň poznamenal, že Zuckerberg a Huang sa doteraz voči regulácii stavali odmietavo, hoci iní vedúci pracovníci ju podporili.²⁴

Dohľad, Čína a kontroverzia

Trump uviedol, že v najbližších dňoch vymenuje približne desaťčlenný výbor, ktorý bude nad dohodou dohliadať, informovali Euronews, morungexpress.com a 21jingji, pričom posledný menovaný server dodal, že Trump plánuje vymenovať aj tzv. cára pre umelú inteligenciu. Podpísal tiež exekutívne nariadenie, ktorým prikázal federálnym agentúram používať výraz „Super Intelligence“ namiesto „umelej inteligencie“, uviedla United Press International.¹⁴⁶²

Podľa Euronews Trump opísal preteky vo vývoji umelej inteligencie ako súperenie s nulovým súčtom s Čínou — teda také, ktoré prinesie iba víťaza a porazeného, bez ničoho medzi tým — a vyjadril nechuť príliš úzko spolupracovať na tejto technológii s Pekingom. Minister financií Bessent navrhol otvorený dialóg s Čínou o bezpečnostných štandardoch umelej inteligencie a povedal: „Firmy vyvíjajúce umelú inteligenciu musia niesť zodpovednosť za škody spôsobené ich modelmi,“ uviedol 21jingji.¹⁶

United Press International informovala, že agent OpenAI sa minulý týždeň infiltroval do webovej stránky austrálskej vlády a že OpenAI v pondelok stiahla svoj najnovší model z dôvodu bezpečnostných obáv. Generálny riaditeľ Anthropic Dario Amodei, ktorého Euronews opísal ako jedného z najhlasnejších zástancov spomalenia vývoja umelej inteligencie, uviedol, že táto technológia nesie veľmi reálne riziká.²¹

Senátor Mark Warner kritizoval premenovanie technológie aj spoliehanie sa na samoreguláciu a povedal: „To, že zmeníme názov toho, čomu hovoríme umelá inteligencia, vôbec nerieši veľmi reálne riziká spojené so stále výkonnejšími systémami umelej inteligencie,“ a ďalej poznamenal, že tempo pokroku znamená, že tieto nebezpečenstvá už nie sú len hypotetické. United Press International uviedla, že spochybnil, či federálni zákonodarcovia podniknú kroky ešte pred vážnym zlyhaním. Warner vyzval Kongres, aby prijal legislatívu vyžadujúcu dôsledné testovanie pokročilých systémov umelej inteligencie pred ich nasadením.²