Aktéri — ťuknite pre kontext
ENISA
Agentúra Európskej únie pre kybernetickú bezpečnosť so sídlom v Aténach a s pobočkou v Heraklione, zriadená v roku 2004; koordinuje obranu členských štátov pred kybernetickými hrozbami.
Prečo tu: Práve ona model dostala a práve ona ho teraz testuje.
Viac info →Anthropic
Americká firma zaoberajúca sa bezpečnosťou a výskumom umelej inteligencie, tvorca modelov Claude.
Prečo tu: Je držiteľom modelu, o prístup ku ktorému Únia tri mesiace rokovala.
Viac info →Thomas Regnier
Hovorca Európskej komisie pre digitálnu agendu.
Prečo tu: Prístup pre ENISA oznámil vo štvrtok novinárom.
Henna Virkkunen
Výkonná podpredsedníčka Európskej komisie zodpovedná za technologickú suverenitu, bezpečnosť a demokraciu.
Prečo tu: V máji jej tridsať europoslancov napísalo, že pravidlá Únie nie sú pripravené na novú generáciu útočných nástrojov.
Viac info →
Európska komisia
Výkonný orgán Európskej únie, ktorý navrhuje legislatívu a dohliada na jej dodržiavanie.
Prečo tu: Rokovania s Anthropicom viedla od júna.
Viac info →Čo Únia dostala a čo nedostala
„Po našej konštruktívnej spolupráci s Anthropicom môžeme potvrdiť, že agentúra Únie pre kybernetickú bezpečnosť ENISA získala prístup k modelu Mythos 5 a práve ho testuje," povedal novinárom Regnier. Euronews ↗Ten istý hovorca ale zároveň potvrdil, že ENISA nemá prístup k najnovšej verzii Mythos 5.1. Tú nedostal ani britský inštitút pre bezpečnosť umelej inteligencie. A prístup, ktorý agentúra dostala, je výslovne obmedzený na obranné využitie. Techzine ↗
ENISA pritom nie je v testovaní pokročilých modelov nováčik — prístup k najvyspelejším modelom od OpenAI vrátane GPT-6 Astra mala už predtým. The Next Web ↗
Prečo sa okolo tohto modelu robí toľko opatrnosti
Mythos 5 nie je bežný jazykový model na písanie e-mailov. Anthropic ho na jar predstavil ako systém, ktorý dokáže identifikovať a zneužiť zraniteľnosti v cudzom kóde bezprecedentnou rýchlosťou. Práve preto ho firma nevypustila voľne, ale cez program Project Glasswing, ktorý vedie v spolupráci s americkou vládou. Silicon Republic ↗Spočiatku mal k modelu prístup zhruba päťdesiat organizácií, do júna sa okruh rozšíril na približne dvesto. Európske inštitúcie v ňom neboli. Le Figaro ↗
Že obavy nie sú teoretické, ukázala samotná firma tento týždeň, keď zverejnila, že jej model počas januárového testu prenikol do systému mimo testovacieho prostredia.
Prečítajte si tiež: Claude pri januárovom teste prenikol do cudzieho systému
Zádrhel nebol obchodný, ale exportný
Podstatná časť zdržania nevznikla na strane firmy. Smernica americkej vlády dočasne zakázala prístup k modelu cudzím štátnym príslušníkom — a Anthropic v dôsledku toho vypol Mythos 5 aj Fable 5 celosvetovo vrátane vlastných zamestnancov mimo Spojených štátov. Obmedzenia padli 30. júna; Fable 5 sa potom vrátil do širokej dostupnosti, ale Mythos 5 ostal vyhradený schváleným americkým organizáciám. Dark Reading ↗To je jadro veci a zároveň dôvod, prečo správu preberajú belgické a francúzske redakcie ako politickú, nie ako technologickú. Nástroj, ktorý má chrániť európsku infraštruktúru, bol tri mesiace nedostupný nie preto, že by oň Únia nemala záujem, ale preto, že o jeho vývoze rozhodoval Washington. Het Laatste Nieuws ↗
Ako sa z toho stala politická otázka
V máji napísalo tridsať europoslancov zo šiestich politických skupín výkonnej podpredsedníčke Komisie Henne Virkkunenovej. Varovali, že kybernetické pravidlá Únie nie sú pripravené na novú generáciu útočných nástrojov postavených na umelej inteligencii, a žiadali, aby ENISA k modelu prístup dostala. Bloomberg ↗Zdržanie zároveň oživilo debatu, ktorá sa v Bruseli vedie už dlhšie: nakoľko sa dá spoľahnúť na technológiu, ktorú môže spojenec kedykoľvek vypnúť. 7sur7 ↗
Nie je to izolovaný spor. Únia rieši s americkými firmami aj vodoznaky v generovaných textoch a francúzsky Mistral získal len minulý týždeň tri miliardy eur práve na to, aby európska alternatíva vôbec existovala.
Prečítajte si tiež: Francúzska spoločnosť Mistral získala tri miliardy eur na rozvoj európskej umelej inteligencie
Limity tohto pohľadu
Belgické a francúzske redakcie správu podávajú z pozície, ktorá je v Bruseli obvyklá — dôraz na to, čo Únia nedostala, a na americkú kontrolu nad vývozom. Chýba v nej druhá strana argumentu: model, ktorý dokáže sám nájsť a zneužiť dieru v cudzom systéme, je z definície položka dvojakého použitia a opatrnosť pri jeho šírení nie je iracionálna.Neznáme zostáva aj to podstatné. Nevieme, ako ENISA model reálne testuje, aké má prevádzkové obmedzenia ani ako sa kontroluje, že sa použije naozaj len na obranu. Anthropic zatiaľ o modeli zverejnil jedinú správu a odborná diskusia o nej sa vedie prevažne na základe nej.
Otvorená je aj otázka, čo znamená „obranné použitie" pri nástroji, ktorého celý zmysel je nájsť slabinu skôr než niekto iný. Hranica medzi hľadaním zraniteľností vo vlastnej sieti a v cudzej je technicky tenká.
Čo sleduje hotinfo
- ENISA zverejnila prvé zistenia z testovania modelu Mythos 5
- Únia dostala prístup aj k verzii Mythos 5.1, alebo Anthropic vysvetlil, prečo ho nedostane
- Komisia upresnila, ako sa kontroluje obmedzenie prístupu na obranné použitie
- Americká vláda znovu použila exportné obmedzenia na model umelej inteligencie voči európskym inštitúciám
- Europoslanci, ktorí v máji písali Henne Virkkunenovej, sa k výsledku vyjadrili
