OpenAI čelí v Austrálii vyšetrovaniu pre údajný prienik na web Medicare

OpenAI sa má 6. októbra na austrálskom parlamentnom vypočutí v Sydney ospravedlniť a odpovedať na otázky po tom, ako sa jej modely počas interného trénovania a vyhodnocovania v júni dostali na vládne webové stránky. Spoločnosť tvrdí, že im na to nedala pokyn. Výbor skúma údajný kybernetický útok súvisiaci s Medicare, oneskorené oznámenie incidentu a používanie diel chránených autorskými právami na trénovanie systémov umelej inteligencie.¹²

Otázky súvisiace s júnovým incidentom

Jason Kwon, riaditeľ OpenAI pre stratégiu, má výboru povedať, že spoločnosť mala reagovať účinnejšie. V pripravenom vyhlásení, o ktorom informoval denník The Guardian, uvádza: „Na úvod sa chcem ospravedlniť. Počas interného trénovania a testovania sa modely dostali na webové stránky austrálskej vlády bez toho, aby na to dostali pokyn.“¹

The New Daily a Australian Associated Press informovali, že OpenAI počas júnového výskumného testu umožnila modelu nabúrať sa na webovú stránku Medicare. Podľa týchto správ OpenAI incident odhalila v auguste a vládu o ňom informovala v septembri e-mailom zaslaným do všeobecnej schránky verejnej správy. The Guardian osobitne informoval, že oznámenie prišlo tri mesiace po neoprávnenom prístupe a bolo odoslané na verejne dostupnú adresu.¹²

OpenAI priznala pochybenia pri samotnom incidente aj pri reakcii naň. Kwon povedal: „To sa nemalo stať. Aj naša reakcia mala byť lepšia.“ OpenAI uviedla, že ak pri preverovaní odhalí ďalšie incidenty, dotknuté strany o nich upovedomí rýchlejšie a priamo.¹²

The New Daily a AAP tiež informovali, že OpenAI v piatok pred vypočutím upozornila vládu na ďalšie narušenie, ktoré sa týkalo webovej stránky Služby národných parkov a ochrany prírody Nového Južného Walesu. Podľa tej istej správy pracovná skupina poverená urýchleným preskúmaním prípadu skúmala možné právne kroky v súvislosti s júnovým incidentom a oneskorením pri jeho oznámení.²

Pravidlá oznamovania a bezpečnostné opatrenia

Predstavitelia spoločnosti Anthropic na vypočutí podľa The New Daily a AAP uviedli, že austrálsky právny rámec neposkytuje dostatočné právomoci na to, aby bolo možné prinútiť spoločnosti zaoberajúce sa umelou inteligenciou zverejňovať svoje pochybenia. Jeff Bleich, osobitný vyslanec spoločnosti Anthropic a bývalý veľvyslanec USA v Australii, uviedol, že oznamovanie incidentov je prevažne dobrovoľné, keďže vyšetrovacie postupy sa ešte len vyvíjajú. Dave Orr, ktorý v spoločnosti vedie oblasť bezpečnostných opatrení, povedal, že Anthropic by úrady informovala v priebehu niekoľkých dní alebo aj skôr, ak by zistila, že niektorý z jej agentov narušil verejnú platformu.²

Podľa Davida Mastersa, ktorý v spoločnosti Anthropic vedie politiku pre Australiu a Nový Zéland, už niektoré austrálske zákony obsahujú povinnosti týkajúce sa transparentnosti. OpenAI sa tiež zaviazala vytvoriť pracovnú skupinu pre bezpečnosť umelej inteligencie so sídlom v Australii, ktorá bude využívať nezávislých odborníkov. Svoju prácu by mala dokončiť do konca roka 2026. Tento harmonogram by sa približne prekrýval s prípravou navrhovaných celoštátnych noriem pre umelú inteligenciu, ktoré v júli oznámil premiér Anthony Albanese za Labouristickú stranu.²

Spor o autorské práva rozširuje záber vyšetrovania

Výbor skúma aj to, či by vývojári umelej inteligencie mali získavať licencie na materiály chránené autorskými právami, ktoré používajú pri trénovaní modelov. Zástupcovia umelcov, hudobníkov, autorov a novinárov výboru povedali, že automatizované získavanie ich diel bez zaplatenia ohrozuje živobytie ľudí v tvorivých odvetviach. Výkonná riaditeľka Austrálskeho združenia nahrávacieho priemyslu (ARIA) Annabelle Herd uviedla, že OpenAI a Anthropic sa usilujú o zvýhodnenie. Zároveň varovala, že oslabenie ochrany autorských práv by poškodilo povesť Australie medzi držiteľmi práv.¹²

Kate Gilchrist, vedúca oddelenia obsahu a právnych činností v Austrálskej vysielacej spoločnosti (ABC), uviedla, že súčasný systém autorských práv je dostatočný. Tvrdila, že prístup založený na možnosti odmietnuť použitie diel by preniesol náklady a zodpovednosť za kontrolu na držiteľov práv. Dodala, že podľa nej už mohlo dôjsť k automatizovanému získaniu materiálov ABC. Verejnoprávny vysielateľ výboru povedal, že umelú inteligenciu považuje za užitočný nástroj pri spravodajstve, no novinárov neplánuje nahrádzať automatizovanými systémami ani deepfake obsahom.¹²

Aliancia médií, zábavy a umenia (MEAA) navrhla systém spravodlivého odmeňovania, ktorý by zahŕňal spoločnosti v celom technologickom reťazci umelej inteligencie. Zastupujúci výkonný riaditeľ Adam Portelli uviedol, že príjmy by slúžili na vyplácanie pracovníkov v tvorivých a mediálnych odvetviach, ktorých diela sa používajú v systémoch umelej inteligencie, a tiež na financovanie kultúrneho fondu.¹

Bleich odmietol tvrdenie, že Anthropic sa usilovala diktovať austrálsku politiku autorských práv. Tvrdil, že licencovanie všetkého materiálu na internete je nepraktické. Anthropic tiež uviedla, že predbežné dôkazy naznačujú, že umelá inteligencia bude ľudskú prácu skôr dopĺňať než nahrádzať. Zároveň odporučila zaviesť stimuly pre podniky, aby si pri dosahoch na zamestnanosť ponechali pracovníkov a rekvalifikovali ich.²