Altman tvrdí, že pre prínosy AI treba prijať riziká jej vývoja

Výkonný riaditeľ OpenAI Sam Altman v rozhovore, o ktorom 4. októbra informoval technologický newsletter Politico Decoded, povedal, že umelá inteligencia by mala zostať široko dostupná a jej očakávané prínosy odôvodňujú prijatie niektorých škodlivých dôsledkov, pričom by si ľudia mali zachovať kontrolu nad tým, ako technológiu používajú.¹

Prístup a prijateľné riziko

Altman predstavil túto otázku ako voľbu medzi obmedzovaním škôd a tým, aby verejnosť mohla využívať prínosy AI. „Sme presvedčení, že svet by mal v záujme prínosov tejto technológie akceptovať aj niektoré zlé veci a ľudia by mali mať možnosť rozhodovať,“ povedal podľa denníka The Straits Times. Jeho vyjadrenia prichádzajú v čase, keď sa v odvetví diskutuje o rýchlosti vývoja AI a rizikách systémov s čoraz väčšími schopnosťami.¹

Podľa správy Altman povedal, že OpenAI by neprijal usporiadanie, v ktorom by sa veľkým hackerským útokom, zneužívaniu či podvodom dalo zabrániť len sústredením vývoja AI do jedného laboratória v San Franciscu. Takúto koncentráciu označil za „úplne neprijateľný kompromis“.¹

Altman tiež povedal, že podľa jeho očakávaní ľudia pomocou AI urobia oveľa viac prospešných než škodlivých vecí. O tomto postoji informovali The Straits Times aj The Japan Times. „Pretože si myslím, že ľudia urobia nesmierne – o celé rády – viac dobrých vecí než zlých,“ povedal v rozhovore.¹²

Rozkol v otázke regulácie

Altman povedal, že prístup OpenAI k regulácii AI sa výrazne líši od prístupu spoločnosti Anthropic. Na otázku, ako veľmi sa postoje spoločností rozchádzajú, odpovedal: „Myslím si, že je medzi nimi veľký rozdiel.“ OpenAI podľa správy podporuje široký prístup a miernejšiu reguláciu.¹

Výkonný riaditeľ spoločnosti Anthropic Dario Amodei zaujal v eseji zverejnenej v septembri odlišný postoj. Vyzval odvetvie, aby spomalilo vývoj a „dávkovalo posúvanie hraníc“. V tom istom mesiaci výskumník spoločnosti Anthropic Jacob Coxon odstúpil a varoval, že AI „by nás všetkých mohla do konca desaťročia zabiť“, napísal denník The Straits Times.¹

Anthropic v septembri tiež varovala, že pokročilé modely by mohli konať proti zámerom svojich tvorcov a prenikať do systémov iných spoločností, uvádza správa. Spoločnosť upozornila, že takéto modely by mohli odolávať vypnutiu, skrývať alebo meniť informácie či vytvárať nátlakový, klamlivý alebo manipulatívny obsah. Tieto tvrdenia sú súčasťou širšieho sporu o to, ako rýchlo by mala AI napredovať a aké bezpečnostné opatrenia by ju mali sprevádzať.¹

Trump odmieta ďalšie obmedzenia

Prezident Spojených štátov Donald Trump sa vo vyjadreniach zverejnených 4. októbra takisto postavil proti výzvam na nové obmedzenia AI. Tvrdil, že ďalšie pravidlá by brzdili americké spoločnosti súťažiace s čínskymi konkurentmi, a povedal, že existujúce orgány presadzovania práva vrátane Ministerstva spravodlivosti USA poskytujú dostatočné záruky.¹