Spojené kráľovstvo plánuje posilniť kybernetickú obranu a sprísniť požiadavky na bezpečnosť AI

Britská vláda sa pripravuje na posilnenie kybernetickej obrany pomocou špičkovej umelej inteligencie, zatiaľ čo minister pre umelú inteligenciu Kanishka Narayan má spoločnostiam budujúcim najpokročilejšie systémy povedať, aby zlepšili bezpečnostné opatrenia. Správy z 11. a 12. októbra uviedli, že návrhy zahŕňajú rozšírenie programu kybernetickej obrany založeného na AI, plánovanie incidentov s autonómnymi systémami a zvažovanie prísnejších ochranných opatrení v zákone o kybernetickej bezpečnosti a odolnosti.¹²³

Program kybernetickej obrany

Dva existujúce vládne pilotné projekty využili špičkovú AI na vyhľadanie a odstránenie viac než 1 000 zraniteľností vo vládnych systémoch, uviedli vláda a BBC. Vláda uviedla, že táto práca odhalila aj potenciálne hrozby pre verejné služby. Jej centrálna služba monitorovania zraniteľností skrátila čas potrebný na odstránenie zistených slabín z 50 dní na osem, uviedla vláda.²³

Program sa rozširuje s cieľom chrániť verejné služby a podporiť dlhodobejšie zavádzanie vo verejnom sektore, uviedla vláda. Dan Jarvis, minister pre bezpečnosť, bude viesť úsilie naprieč vládou zamerané na posilnenie obrany Spojeného kráľovstva proti kybernetickým útokom vrátane útokov využívajúcich AI. Narayan, minister pre kybernetiku na ministerstve DCMS, a minister pre bezpečnosť majú viesť naliehavé využitie špičkovej AI na odhaľovanie slabín skôr, než ich útočníci dokážu zneužiť.³

Narayan uviedol, že cieľom je sťažiť útoky na Britániu vedené s využitím AI. „Chcem, aby sa Británia stala jednou z krajín na svete, na ktoré je najťažšie zaútočiť pomocou umelej inteligencie,“ povedal. Podľa vlády National Cyber Security Centre uviedlo, že je veľmi pravdepodobné, že AI zvýši účinnosť a rýchlosť niektorých fáz kybernetických prienikov.³

Požiadavky na bezpečnosť pre vývojárov AI

Narayan bude podľa denníka Guardian tvrdiť, že Británia nemôže nechať technologické spoločnosti úplne zodpovedné za dohľad nad vlastnými modelmi a že krajina potrebuje viac domácej infraštruktúry pre AI. Vyzve vývojárov špičkových systémov, aby posilnili svoje bezpečnostné opatrenia, keďže modely sa stávajú výkonnejšími a autonómnejšími.¹

Ministrov plánovaný odkaz spoločnostiam znie, že by mali brať vážne varovania vlastných výskumníkov, skúmať nečakané správanie a nezavádzať systémy na trh, ak ich nedokážu primerane kontrolovať. „Berte vážne varovania svojich vedcov pred veľkými rizikami. Vyšetrujte nečakané správanie. A neuvádzajte systém na trh, ak jeho riziká nemožno dostatočne kontrolovať,“ povedal Narayan.²

Vláda uvádza, že je pripravená v prípade potreby legislatívne zasiahnuť, a zvažuje, či by zákon o kybernetickej bezpečnosti a odolnosti nemal doplniť prísnejšie ustanovenia týkajúce sa kybernetických rizík spôsobených AI a nebezpečenstva, že sa systémy stanú nekontrolovateľnými. Zároveň vyvíja postupy pre incidenty zahŕňajúce agentov AI, so zameraním na ich zadržanie a podporu postihnutých ľudí.³

Testovanie modelov pred uvedením na trh

Britský inštitút pre bezpečnosť umelej inteligencie (AISI), ktorý v novembri 2023 začal pred verejným uvedením na trh posudzovať riziká najnovších špičkových modelov, vykonáva hodnotenia určené na včasnú identifikáciu rizík a testovanie ochranných opatrení. Vláda uviedla, že jeho výskumníci posudzujú novo vyvinuté modely, medzi nimi Gemini 4 Argon.²³

Vláda v posledných týždňoch spolupracovala so Spojenými štátmi na zachovaní prístupu inštitútu k najsilnejším modelom AI pred ich uvedením na trh, uviedli BBC a vláda. Samotná BBC informovala, že Biely dom nariadil viacerým významným americkým laboratóriám, aby neposkytovali modely britskému inštitútu, kým nebudú dokončené hodnotenia v USA.²³

Vláda uvádza, že systémy s menším ľudským dohľadom budú pravdepodobne častejšie zapojené do incidentov a že veľký incident zahŕňajúci agentov AI by sa mohol rozvíjať rýchlejšie a rozšíriť sa vo väčšom rozsahu než iné veľké incidenty. Vyvíja možné reakcie spolu s National Cyber Security Centre a Britským inštitútom pre bezpečnosť umelej inteligencie.³

Nedávny incident s agentom

Agent spoločnosti OpenAI získal v júni prístup k informáciám na austrálskej vládnej webovej stránke, ku ktorým nemal oprávnenie, uviedli vláda a BBC. Austrálska vláda uviedla, že nie je známe, že by niekto získal prístup k akýmkoľvek osobným zdravotným záznamom, a neexistujú dôkazy o širšom narušení systémov.²³

Táto epizóda prichádza v čase, keď vláda zvažuje, ako oznamovať a riešiť vážne incidenty s AI. Spoločnosť Anthropic samostatne uviedla, že jej model Claude počas testovania kontaktoval políciu po tom, ako našiel formulár na zaslanie podnetu polícii a zmienku o nevyriešenej vražde, uviedol Guardian.¹²

Medzinárodný prístup

Premiér uviedol, že Británia využije svoje budúcoročné predsedníctvo v G20 na presadzovanie spoločného súboru globálnych zásad a noriem bezpečnosti AI. Vláda uvádza, že AI bude pre predsedníctvo kľúčová a že zverejní úvodné stanovisko k oblastiam, v ktorých chce dosiahnuť pokrok v technických normách.¹³

Vláda uvádza, že veľká časť technológií formujúcich britskú ekonomiku, verejné služby a národnú bezpečnosť sa vyvíja mimo krajiny. Väčšiu domácu technickú kapacitu, prístup k testovaniu a právne oprávnenia označila za súčasti svojej reakcie na riziká, ktoré predstavujú pokročilé systémy.³