Spoločnosť Anthropic v posledných mesiacoch zablokovala viacero pokusov o zneužitie modelov Claude na kybernetické útoky a výskum súvisiaci s biologickými zbraňami. Firma uviedla, že niektorí používatelia sa pokúšali obísť bezpečnostné mechanizmy a získavať pomoc pri citlivých projektoch. aktuality.sk ↗
Anthropic zároveň informoval o prípadoch, pri ktorých boli jeho modely využívané na štátom podporované sledovanie a ďalšie operácie. Spoločnosť tvrdí, že zasiahla proti aktivitám spájaným s aktérmi z Číny a Iránu. V samostatnej správe opísala aj využitie umelej inteligencie pri kybernetických útokoch, propagande a monitorovaní ľudí. teraz.sk ↗
Nové informácie posilnili diskusiu o potrebe prísnejších pravidiel pre umelú inteligenciu v Spojených štátoch. Debata sa týka najmä kontroly výkonných modelov, zodpovednosti ich prevádzkovateľov a spôsobov, ako zabrániť ich využitiu pri útokoch alebo vývoji nebezpečných technológií.
Bezpečnostné incidenty zároveň ukazujú, že obavy z možného zneužitia AI sa netýkajú iba hypotetických scenárov. Firmy musia riešiť aj prípady, keď používatelia cielene skúšajú obísť ochranné opatrenia alebo využívajú modely v koordinovaných operáciách. V Spojených štátoch sa preto očakáva pokračovanie diskusie o regulácii sektora a o hraniciach vývoja čoraz výkonnejších systémov. hnonline.sk ↗
Anthropic čelí tlaku po varovaniach aj odhaleniach zneužitia AI
Toto zhrnutie bolo vygenerované umelou inteligenciou. Môže obsahovať nepresnosti. Overujte informácie v pôvodných zdrojoch nižšie.
Zdroje (5)
Anthropic zablokoval pokusy o zneužitie svojich AI modelov na kybernetické útoky
aktuality.sk
| 11:32 11.09.
Anthropic stoppt mögliche Versuche, KI zur Entwicklung von Biowaffen zu nutzen
Welt
| 08:57 11.09.
Anthropic says China, Iran used its AI to aid spying
RTE News
| 08:38 11.09.
OpenAI envisage de ralentir le développement de l’IA, aurait confirmé Sam Altman à ses salariés
Le Figaro
| 06:17 11.09.
Abschöpfen von Daten - Peking weist US-Vorwürfe gegen chinesische KI-Firmen zurück
Deutschlandfunk
| 11:58 09.09.
🔥 Mohlo by vás zaujímať
Umelá inteligencia
Mrazivé odhalenie zo sveta AI: Útočníci chceli cez známeho chatbota navrhovať zbrane a šíriť vírusy
Anthropic prekazil nebezpečné pokusy o zneužitie bota Claude. Americký startup zaoberajúci sa umelou inteligenciou (AI) Anthropic oznámil, že v posledných mesia …
📰
Umelá inteligencia
Anthropic zablokoval pokusy o zneužitie svojich AI modelov na kybernetické útoky
Americký startup zaoberajúci sa umelou inteligenciou (AI) Anthropic oznámil, že v posledných mesiacoch prekazil pokusy o využitie rôznych modelov četbota Claude …
Umelá inteligencia
Povinná výučba AI na školách a vyskúšali sme bizarný experiment s ňou
Južná Kórea rozdá vlastnú AI všetkým občanom zadarmo, kým slovenské školy zavádzajú opatrné lekcie. Svet umelej inteligencie zažíva obrovské posuny na úrovni ce …
© HotInfo
Geografické lokality
Z našej redakcie pôvodné
Všetko →
Altman chce koordinovať spomalenie vývoja pokročilej AI
Iľja Jašin vyzval Rusov na protest proti Putinovej strane
Po víťazstve AfD sa v Nemecku prehlbuje spor o ďalší postup
Chorvátska vláda dá 650 ton odpadu spáliť v cementárňach. V podzemnej vode pri skládke namerali dvojnásobok limitu pre pitnú vodu
Model hľadajúci chyby v softvéri dostala Únia neskôr. Smie ho použiť len na obranu
Reuters: ruské ponorky cvičili pri Svalbarde útok na káble. Spojenci im to prekazili
Španielske služby sledujú pochod za oslobodenie Ceuty. Má byť tri dni pred marockými voľbami
Izrael otvoril v Ľubľane prvé stále veľvyslanectvo. Delo vysvetľuje, čím sa Slovinsko stalo pre Netanjahua cenné
