SlovakNews

ViralAnecdotal

Altmanova veta o prijatí rizík AI sa šíri bez dôležitej výhrady

Výrok šéfa OpenAI sa online číta ako priznanie, že škody sú prijateľnou cenou za pokrok. V pôvodne opísanom argumente však odmietol katastrofický scenár aj vážnu stratu ľudskej kontroly.

An anecdotal column: what is spreading online right now. The moment itself is verified in independent sources, but this is not news reporting and the rules of the news sections (several independent outlets) do not apply.

Live Version: 1Sources: 3Perspectives: 1Updated:
Foto: The Daily Beast · source

Sam Altman podľa zverejneného znenia pripustil určité škody výmenou za prínosy AI a slobodu ľudí technológiu používať; zároveň však vytýčil hranicu pri katastrofických rizikách.23

What happened

Otázka sa týkala toho, ako sa pohľad OpenAI líši od postoja šéfa Anthropic Daria Amodeia, ktorého The Daily Beast opisuje ako hlasného zástancu regulácie AI.23

Altman podľa The Daily Beast opísal svoju regulačnú filozofiu ako miernejší prístup. Jeho argument vychádzal z predstavy, že ľudia pomocou technológie vytvoria podstatne viac dobrého než zlého a spoločnosť si postupne vybuduje odolnosť voči problémom.2

Najväčšiu pozornosť získala časť, v ktorej povedal, že spoločnosť by mala akceptovať isté zlé dôsledky výmenou za prínosy technológie a možnosť ľudí rozhodovať o jej používaní. Podľa rovnakého zdroja by Altman neprijal obchod, ktorý by sľúbil odstránenie všetkých veľkých útokov, zneužití či podvodov za cenu obmedzenia prístupu.2

Jeho hranica však nebola neobmedzená. The Daily Beast uvádza, že Altman odmietol prijatie skutočne katastrofického rizika, medzi ktoré zaradil aj vážnu stratu ľudskej kontroly nad umelou inteligenciou. Podľa The Daily Beast Altman odmietol prijať skutočne katastrofické riziko vrátane vážnej straty ľudskej kontroly nad AI.2

Why it spread

23

23

Pozornosť posilnil aj širší spor o to, či má byť vývoj AI pod prísnejším dohľadom alebo sa má viac spoliehať na samotné firmy. Le Monde označilo stretnutie v Bielom dome z 29. septembra za posun k samoregulácii priemyslu namiesto záväzných pravidiel; opísaná dobrovoľná dohoda mala štyri vrstvy ochranných opatrení.1

What is true

Quartz 5. októbra informoval o Altmanovej poznámke a The Daily Beast deň predtým priniesol jej znenie aj širší kontext jeho argumentu.23

Dossier označuje Altmanov postoj k prijímaniu určitých škôd, jeho miernejšiu regulačnú filozofiu, rozdiel oproti Anthropic aj odmietnutie katastrofického rizika ako tvrdenia pochádzajúce z jediného zdroja, The Daily Beast.2

Podľa The Daily Beast Altman povedal, že spoločnosť by mala prijať niektoré zlé dôsledky výmenou za prínosy AI a ľudskú možnosť rozhodovať o jej používaní. Podľa dostupného znenia išlo o argument za širšiu dostupnosť AI, ktorý pripúšťa útoky, podvody a zneužitie, ale nie katastrofu alebo vážnu stratu kontroly. Altman podľa The Daily Beast zároveň odmietol prijať katastrofické riziko vrátane vážnej straty ľudskej kontroly nad AI.23

Editors' commentary

The editors' view, not news reporting.

Výhrada ku katastrofickému riziku mení význam výroku, hoci neruší nepríjemnú otázku prijateľných škôd.

Related stories

Version history

  1. version 1 ·