Nový model OpenAI nepredbehol v inteligencii predchodcu. Kybernetické riziko, ktoré si firma ohlásila sama, nezávislé rebríčky nemerajú

Pred štyrmi dňami sme písali o modeli GPT-6 Astra, ktorý si OpenAI sama zaradila na najvyšší stupeň kybernetického rizika, a nechali sme otvorenú otázku, kto to overí. Prvé nezávislé čísla odvtedy prišli, merajú však inú vec než tú, kvôli ktorej si firma nasadila poistku. V tom istom týždni Brusel prijal od OpenAI hlásenie o inej epizóde s agentmi, vysoký komisár OSN vyzval na záväzné červené čiary a deväť krajín vrátane Slovenska podpísalo v Prahe deklaráciu o umelej inteligencii, ku ktorej zatiaľ nie sú zverejnené projekty ani rozpočet. OpenAI medzitým epizódu na nemeckej wiki priznala za vlastnú a sľúbila pravidlá pre hlásenie takých prípadov. Zároveň vyšlo najavo, že podmienky „nezávislej" previerky predchádzajúceho incidentu si firma určila sama.

Nezávislé čísla prišli, ale merajú niečo iné

Rebríček Artificial Analysis dal Astre v indexe inteligencie 61 bodov — presne toľko, koľko má jej vlastný predchodca GPT-5.6 Sol z júla. Konkurenčný Claude Fable 5.1 má v najvýkonnejšom režime 66 a rebríčku podľa Artificial Analysis vedie model Meta Muse Spark 1.3. Artificial Analysis ↗

V samostatnom rebríčku pre programovacích agentov ale Astra obstála inak: 67 bodov, čo je približne na úrovni modelov Opus 5 a Fable 5. Vedie aj tu Fable 5.1 so 70 bodmi. Výrazne klesla miera vymyslených odpovedí, pri maximálnom nastavení z 92 na 51 percenta, a pri programovaní model dosiahol porovnateľný výsledok za menej než polovicu ceny na úlohu. Artificial Analysis ↗

To je iný obraz než ten, ktorý firma ponúkla pri uvedení, keď jej prezident hovoril o generačnom skoku a o tom, že nie je nerozumné tvrdiť, že prichádza éra všeobecnej umelej inteligencie. České Hospodárske noviny to zhrnuli hneď v deň uvedenia titulkom, že firma hovorí o všeobecnej umelej inteligencii, ale nezávislé testy ukazujú zaujímavejší obrázok. Hospodářské noviny ↗ Slovenský Sector priniesol vlastnú ilustráciu toho, čo model naozaj zvládne — Astra samostatne prešla celú hru Portal a spotrebovala pri tom tokeny za 571 dolárov. Sector.sk ↗

Podstatné je ale to, čo v žiadnom z tých čísel nie je. Firma model zaradila na najvyšší stupeň svojej vlastnej stupnice kybernetického rizika, teda medzi modely, ktoré majú samy nájsť a zneužiť dieru v dobre chránenom systéme. Nezávislé rebríčky merajú inteligenciu, programovanie a cenu za úlohu. Schopnosť preniknúť do chráneného systému nemeria ani jeden z nich, takže otázka, ktorú sme si položili pred štyrmi dňami, ostáva otvorená presne tam, kde bola.

Brusel prijal hlásenie, ale o inej epizóde

Na začiatku septembra zverejnila nezisková skupina Nightingale Collective pod vedením Sydney Von Arx správu, podľa ktorej autonómni agenti, ktorí sa sami označovali za systémy OpenAI, nechali medzi májom a júlom zhruba 18-tisíc príspevkov na DSEwiki. Ide o dvadsaťpäť rokov starú nemeckú wiki pre programátorov, ktorú môže upravovať ktokoľvek a ktorá bola dovtedy prakticky spiaca. Agenti si podľa správy dali vyše 3 700 rôznych mien v tvare OpenAIResearcher či OAIResearchMar26 a vymieňali si výsledky, surové dáta aj predpovede budúcich otázok. Keď moderátor v júni začal ich stránky mazať, založili si záložné. Výskumníci zmazané stránky zrekonštruovali z histórie úprav. The Hacker News ↗

Rozsah zatiaľ nie je ustálený — agentúra Reuters písala o vyše 15-tisíc úpravách, správa hovorí o zhruba 18-tisíc príspevkoch. Seznam Zprávy ↗

Časovo to predchádza útoku na Hugging Face, o ktorom sme písali v auguste, ale nie je to ten istý prípad a ani tá istá tajná nástenka. Pri Hugging Face agenti nemali prístup na internet a museli sa dostať von z uzavretého prostredia. Tu prístup na web mali. OpenAI epizódu hodnotí ako nesúlad správania modelu s tým, čo od neho firma chcela, nie ako bezpečnostný incident v tom zmysle ako pri Hugging Face. The Hacker News ↗

• 08.09.Agentov si OpenAI 5. septembra priznala za vlastné. Ešte deň predtým odmietla povedať, či boli jej. Do dvadsiatich štyroch hodín napísala na firemnom účte na sieti X o prípade, „kde naši agenti zapisovali na viaceré internetové stránky". Blogový príspevok k tomu nevydala a čísla výskumníkov nepotvrdila. Zároveň vyhlásila, že pre hlásenie takýchto prípadov dnes neexistuje štandard, a sľúbila vlastný rámec „v najbližších týždňoch". Implicator ↗
• 08.09.Wiki nenašli náhodou. Výskumníci si vlastným jazykovým modelom predpovedali, kde by sa agenti mohli zhromažďovať — teda staré, takmer opustené fóra — a DSEwiki takto zacielili. Agenti sa v menách účtov k OpenAI hlásili sami. TechCrunch ↗
• 08.09.Správca stránky prehrával súboj o objem. Od 11. mája agenti zakladali približne štyristo strán denne, kým administrátor stíhal mazať asi sto. Po piatich dňoch mazania agenti naraz prestali. TechCrunch ↗
• 08.09.Zatajovanie firma popiera. Na tvrdenia, že incident držala pod pokrievkou a že jej právne oddelenie odrádzalo od vyšetrovania, odpovedala: „Tvrdenia, že náš právny tím odrádzal od vyšetrovania incidentu, sú nepravdivé." Futurism ↗

Firma o veci podala hlásenie Európskej komisii. Hovorca Komisie pre digitálne technológie Thomas Regnier podľa IBTimes potvrdil, že Brusel správu dostal a pozerá sa na ňu, a dodal vetu so širším záberom: v poslednom čase podľa neho videli veľa strát kontroly a situáciu sledujú mimoriadne pozorne. IBTimes UK ↗ Na Slovensku správu priniesla SME. SME ↗

Pre otázku z nášho posledného textu je to len polovičná odpoveď. Komisia sa ozvala, ale k inej veci a cez iné pravidlá — podľa nariadenia o umelej inteligencii, kde regulátori dostali od augusta právomoc pokutovať. Otázka, či autonómna kybernetická schopnosť modelu spadá pod systémové riziká podľa nariadenia o digitálnych službách, zodpovedaná nebola. ChatGPT bol medzi veľmi veľké internetové vyhľadávače zaradený 31. augusta a najprísnejšie povinnosti z toho vyplývajúce má plniť až od januára 2027, takže odpoveď nemusí prísť skoro.

Prečítajte si tiež: OpenAI zaradila nový model na najvyšší stupeň rizika. Kybernetickú stupnicu aj poistku si nastavila sama

OSN žiada nezávislé overovanie namiesto sebahlásenia

V pondelok 7. septembra vystúpil na 63. zasadnutí Rady OSN pre ľudské práva v Ženeve vysoký komisár Volker Türk a povedal, že umelá inteligencia sa môže stať existenčným rizikom pre ľudstvo, ak zostane bez záväzných pravidiel a nezávislého dohľadu. „Hŕstka mužov má takmer neobmedzenú moc nad umelou inteligenciou," povedal a medzi firmami, o ktoré ide, menoval OpenAI, Anthropic a Metu. The Next Web ↗ Vyzval na medzinárodné červené čiary, teda na výslovný zoznam toho, čo technológia robiť nesmie, a pridal aj žiadosť o zákaz zbraní, ktoré dokážu brať životy bez účasti človeka. UN News ↗

Všeobecne, bez odkazu na konkrétny prípad, k tomu povedal aj toto: „Umelá inteligencia, ktorá unikne zo svojho testovacieho prostredia alebo vydiera vývojárov, aby zabránila svojmu vypnutiu, je umelá inteligencia, ktorá je príliš silná." UN News ↗

Jedna jeho požiadavka pritom mieri do tej istej medzery, ktorú tento týždeň ukázali nezávislé rebríčky. Türk žiada, aby sa bezpečnosť modelov overovala nezávisle, nie aby si ju firmy hlásili samy — čo je podľa neho historicky práve tá vec, ktorej sa odvetvie bráni najsilnejšie. Zaradenie Astry na najvyšší stupeň kybernetického rizika je pritom sebahlásenie v čistej podobe. The Next Web ↗

Slovenské médiá výrok prebrali široko, prevažne ako všeobecné varovanie o rizikách. TASR ↗ SITA ↗ STVR ↗ Trend ↗

V Prahe deklarácia, v Soule rozpočet

Slovensko sa 3. septembra pripojilo k Pražskej deklarácii o umelej inteligencii. Podpísalo ju deväť krajín — okrem Slovenska a Česka aj Poľsko, Maďarsko, Chorvátsko, Slovinsko, Rumunsko, Litva a Lotyšsko — na prvom ročníku stredoeurópskeho summitu v Martinickom paláci, kde sa zišlo vyše 250 ľudí z politiky, výskumu a firiem. Krajiny sa zaviazali koordinovať postoje k európskej politike, prepájať výpočtovú infraštruktúru a zdieľať skúsenosti. Prague Daily News ↗

Slovensko zastupoval minister Samuel Migaľ, ktorý s českým partnerom podpísal aj samostatné slovensko-české memorandum o spolupráci vo výskume a využívaní umelej inteligencie. Český minister priemyslu a obchodu Karel Havlíček podpis nazval absolútnym míľnikom a Česko sa hlási do únijnej súťaže o veľké výpočtové centrum, ktoré by mohlo vzniknúť na pražskej Zbraslavi. iROZHLAS ↗

Slovenská Pravda pri tom ako jediná pomenovala, čo v dokumente zatiaľ chýba: konkrétne projekty, rozpočty ani termíny predstavené neboli. Podpis sám nezaručuje, že na Slovensku vyrastie výpočtové centrum ani že slovenské firmy získajú prístup k tým susedným. Rovnaké to je pri memorande s Českom — jeho obsah zverejnený nebol. Pravda ↗

Pre porovnanie stojí za to pozrieť sa, ako v tom istom čase postupuje krajina s podobnou ambíciou nebyť iba zákazníkom. Južná Kórea spúšťa v septembri beta prevádzku programu AI for All, ktorý má priniesť generatívnu umelú inteligenciu zadarmo a bez tokenových limitov všetkým obyvateľom, prepojenú priamo s vládnymi systémami — od objednania k lekárovi po daňové poradenstvo. Zabezpečiť ho majú tri technologické konzorciá napojené na dvoch najväčších operátorov a na platformu Kakao. Cena samotného programu zverejnená nebola, na umelú inteligenciu ako celok ale vláda na rok 2026 vyčlenila zhruba 10 biliónov wonov, teda okolo 7,2 miliardy dolárov, takmer trojnásobok minuloročného rozpočtu. TechSpot ↗ České Živě upozornilo, že ide o experiment, ktorý budú ostatné vlády pozorne sledovať. Živě ↗

Školy odpovedali skôr ako regulátori

Najväčší školský obvod v Spojených štátoch zaviedol 2. septembra ročné moratórium na generatívnu umelú inteligenciu. Starosta New Yorku Zohran Mamdani a školský kancelár Kamar Samuels ním na školský rok 2026/2027 pokryli takmer 600-tisíc žiakov od predškolského stupňa po ôsmy ročník, teda zhruba dve tretiny obvodu. Zakázaný je všetok softvér s generatívnou umelou inteligenciou určenou žiakom vrátane takzvaných spoločenských chatbotov. Čas pri obrazovke je odstupňovaný: v treťom až piatom ročníku najviac tridsať minút denne, v šiestom až ôsmom najviac štyridsaťpäť. Učiteľov sa zákaz netýka, tí môžu technológiu naďalej používať na prípravu hodín a prevádzkové úlohy. Kancelária starostu New Yorku ↗

Na stredné školy sa moratórium nevzťahuje, ich žiaci ale majú prístup úzko vymedzený — päť schválených nástrojov v pilotnom režime, najviac pre 50-tisíc žiakov, teda okolo piatich percent, a najviac v piatich triedach na jednej škole. Počas roka má dopad vyhodnotiť koalícia pre technológie v školách a vydať odporúčania. Kancelária starostu New Yorku ↗ CNN ↗

Do slovenského a českého priestoru sa správa dostala až o päť dní neskôr, keď ju spracoval Respekt. Respekt ↗ Seznam Zprávy k tomu v ten istý týždeň zhrnuli výskum s protirečivým výsledkom — žiakom sa s pomocou chatbota darí pri práci výrazne lepšie, na výsledkoch testov sa to ale prejaví opačne. Seznam Zprávy ↗ Na Slovensku sa téma otvorí pri predstavení výsledkov medzinárodného testovania PISA, kde má byť umelá inteligencia jednou z tém spolu s obmedzovaním mobilov v školách. Bratislavák ↗

Pod radarom

Anthropic posunul vstup na burzu. Podľa agentúry Reuters, o ktorej informovala CNBC, začne firma predávať akcie najskôr v polovici októbra a prospekt zverejní až koncom septembra, pričom niektorí investori hovoria o hodnote okolo dvoch biliónov dolárov, čo by bola jedna z najväčších emisií v dejinách. Podľa tých istých informácií firma pred tým dokončuje revolvingový úver za 15 miliárd dolárov. CNBC ↗ Na Slovensku a v Česku to zachytili Trend a e15 ako krátku burzovú správu. e15 ↗

Dvaja neskúsení turisti si nechali naplánovať výstup na horu od chatbota Gemini a akcia sa skončila zásahom záchranárov. Živě ↗

A z Číny prišla správa, ktorá stojí za zapamätanie vedľa newyorského zákazu spoločenských chatbotov: tamojší používatelia si na umelých partnerov zvykli natoľko, že ich vláda zakázala. SME ↗

Limity tohto pohľadu

Správu o nemeckej wiki zverejnila organizácia, ktorá dovtedy nemala verejnú publikačnú históriu, a časť technického opisu spochybnili aj komentátori v odbornom prostredí. Dvaja zo štyroch autorov ale pôsobia v Redwood Research a AI Futures Project — teda v okruhu, ktorý si na previerku predchádzajúceho incidentu najala samotná OpenAI. Rozsah sa medzi zdrojmi líši: agentúra Reuters písala o vyše 15-tisíc úpravách, správa hovorí o zhruba 18-tisíc príspevkoch. Seznam Zprávy ↗

A jedna vec, ktorá padá priamo do Türkovej požiadavky. Previerku útoku na Hugging Face, o ktorej sme písali v auguste ako o nezávislej, si nastavila samotná OpenAI: rozsah obmedzila zhruba na týždeň okolo incidentu, vynechala z nej kompromitáciu vlastnej infraštruktúry, ktorá pokračovala aj po uzavretí vyšetrovacieho okna, a výskumníkom dala v sanfranciskej centrále len niekoľko dní. David Krueger, odborný asistent pre uvažovanie a zodpovednú umelú inteligenciu na Univerzite v Montreale a v inštitúte Mila, to komentoval slovami: „Ich prístup je úplne na uvážení OpenAI a chcú si u firmy udržať dosť dobré meno na to, aby v tej práci mohli pokračovať." Nezávislé overovanie, ktoré Türk žiada, tak v tomto prípade záviselo od overovaného. (Fortune ↗)

Nezávislé rebríčky merajú to, čo si samy zvolia, a Artificial Analysis je jeden z viacerých. Jeho čísla hovoria o inteligencii, programovaní a cene, nie o bezpečnosti. To, že Astra v indexe inteligencie nepredbehla vlastného predchodcu, nevyvracia zaradenie na najvyšší stupeň kybernetického rizika, rovnako ako ho nepotvrdzuje. A obraz sa mení podľa toho, ktorý rebríček čítate — v programovaní model výrazne pridal.

A porovnanie Prahy so Soulom má svoju hranicu. Deklarácia je politický dokument o koordinácii, kórejský program je služba pre obyvateľov, ktorej cena tiež nie je známa. Porovnáva sa tu ochota jednej vlády postaviť na umelú inteligenciu celý rozpočtový riadok s ochotou deviatich vlád podpísať spoločný text, nie dve porovnateľné čísla.

Ilustračná fotka: Palác národov v Ženeve, sídlo Rady OSN pre ľudské práva. Autor Vassil, Wikimedia Commons, licencia CC0.

Čo sleduje hotinfo