Spoločnosť Anthropic v posledných mesiacoch zablokovala viacero pokusov o zneužitie modelov Claude na kybernetické útoky a výskum súvisiaci s biologickými zbraňami. Firma uviedla, že niektorí používatelia sa pokúšali obísť bezpečnostné mechanizmy a získavať pomoc pri citlivých projektoch. aktuality.sk ↗
Anthropic zároveň informoval o prípadoch, pri ktorých boli jeho modely využívané na štátom podporované sledovanie a ďalšie operácie. Spoločnosť tvrdí, že zasiahla proti aktivitám spájaným s aktérmi z Číny a Iránu. V samostatnej správe opísala aj využitie umelej inteligencie pri kybernetických útokoch, propagande a monitorovaní ľudí. teraz.sk ↗
Nové informácie posilnili diskusiu o potrebe prísnejších pravidiel pre umelú inteligenciu v Spojených štátoch. Debata sa týka najmä kontroly výkonných modelov, zodpovednosti ich prevádzkovateľov a spôsobov, ako zabrániť ich využitiu pri útokoch alebo vývoji nebezpečných technológií.
Bezpečnostné incidenty zároveň ukazujú, že obavy z možného zneužitia AI sa netýkajú iba hypotetických scenárov. Firmy musia riešiť aj prípady, keď používatelia cielene skúšajú obísť ochranné opatrenia alebo využívajú modely v koordinovaných operáciách. V Spojených štátoch sa preto očakáva pokračovanie diskusie o regulácii sektora a o hraniciach vývoja čoraz výkonnejších systémov. hnonline.sk ↗
Anthropic čelí tlaku po varovaniach aj odhaleniach zneužitia AI
Toto zhrnutie bolo vygenerované umelou inteligenciou. Môže obsahovať nepresnosti. Overujte informácie v pôvodných zdrojoch nižšie.
Zdroje (6)
Anthropic zablokoval pokusy o zneužitie svojich AI modelov na kybernetické útoky
aktuality.sk
| 11:32 11.09.
Az Anthropic azzal vádolja a kínai MI-cégeket, hogy a Claudenak továbbították a hozzájuk beérkező kérdéseket
Telex
| 08:59 11.09.
Anthropic stoppt mögliche Versuche, KI zur Entwicklung von Biowaffen zu nutzen
Welt
| 08:57 11.09.
Anthropic says China, Iran used its AI to aid spying
RTE News
| 08:38 11.09.
OpenAI envisage de ralentir le développement de l’IA, aurait confirmé Sam Altman à ses salariés
Le Figaro
| 06:17 11.09.
Abschöpfen von Daten - Peking weist US-Vorwürfe gegen chinesische KI-Firmen zurück
Deutschlandfunk
| 11:58 09.09.
🔥 Mohlo by vás zaujímať
📰
Umelá inteligencia
Umelá inteligencia mení vývoj liekov a farmafirmy sú v strehu. Realita je však triezvejšia
AI odštartovala boom v biotechnológiách a prilákala miliardy nových investícií. Dokáže však prekonať nástrahy nákladného vývoja liekov a konkurovať etablovaným …
Technológie
Nvidia používá špičkové technologie z ČR, za kolik Onsemi koupila procesory z Brna, AI počítač na Měsíci
Vždy v pátek připravuje reportér Jan Sedlák výběr zajímavých zpráv ze světa internetu a technologií. Co se událo v tomto týdnu?
Umelá inteligencia
Nová konference MAIDAY ukáže, jak AI využít napříč obory
Brno 22. října 2026 (PROTEXT) - Brno hostí dvoudenní konferenci MAIDAY zaměřenou na praktické využití AI. Nabídne desítky přednášek, workshopů a diskusí v někol …
© HotInfo
Geografické lokality
Z našej redakcie pôvodné
Všetko →
Netanjahu po streľbe pri Hebrone pripravuje uzavretie Západného brehu
Macron po nepokojoch obmedzí sobotňajšie protesty vo Francúzsku
Študentské hnutie mobilizovalo v Belehrade pred voľbami desaťtisíce ľudí
Hniezdo sršňa ázijského našli v Uloži na Spiši. Je to piaty nález na Slovensku a včelári hovoria, že tu sršne lietajú už dva roky
O čom píše Európa: Senátori USA chcú zrušiť dohodu s Putinom, Guilfoylovej pád, pápež má rakovinu plúc
Francúzske mrazničky na 50 °C aj holandské prázdne regály: dôkaz o spoločnom útoku zatiaľ nie je
O čom píše Európa: Dieselová dohoda s Putinom pod kritikou, federálni agenti prehľadali dom Omarovej, NATO predstavilo teóriu víťazstva
V Zürichu zasypali policajtov raketami a kameňmi, zatiaľ nikto nebol zatknutý
