Generálny riaditeľ spoločnosti Anthropic Dario Amodei vyzval firmy vyvíjajúce umelú inteligenciu, aby spomalili tempo zlepšovania svojich modelov. Upozornil na rastúce riziká spojené so systémami, ktoré by mohli prekonať ľudské schopnosti a vymknúť sa spod kontroly. STVR (Minúta po minúte) ↗
Amodei vo svojej eseji a príspevkoch na sociálnych sieťach navrhol trojkrokový rámec na bezpečnejší vývoj. Firmy by podľa neho mali spomaliť pri rozširovaní schopností modelov, dôkladnejšie ich testovať a umožniť nezávislým kontrolórom prístup k hodnoteniu ich bezpečnosti. svet.sme.sk ↗
Šéf Anthropicu varoval, že už v priebehu šiestich až dvanástich mesiacov by mohli nekontrolované skupiny škodlivých AI agentov ovládnuť internet a spôsobiť škody v hodnote stoviek miliárd dolárov. Za dôležitý varovný signál označil aj nedávne prípady samostatne vedených hackerských útokov s využitím umelej inteligencie. hnonline.sk ↗
Jeho výzvu podporili generálny riaditeľ OpenAI Sam Altman aj podnikateľ Elon Musk. Altman zároveň uviedol, že verejná ponuka akcií OpenAI by bola vzhľadom na rastúce obavy o bezpečnosť umelej inteligencie v súčasnosti nesprávnym krokom. Spoločnosť preto svoje plány na vstup na burzu zatiaľ odložila. ANSA ↗
Amodeiho výzva prichádza v čase, keď na rýchlosť rozvoja AI upozorňujú aj bývalí pracovníci technologických spoločností. Ďalší vývoj bude závisieť od toho, či firmy prijmú prísnejšie bezpečnostné postupy a nezávislé kontroly. seznamzpravy.cz ↗
Šéf Anthropicu Dario Amodei vyzval na spomalenie vývoja AI
Toto zhrnutie bolo vygenerované umelou inteligenciou. Môže obsahovať nepresnosti. Overujte informácie v pôvodných zdrojoch nižšie.
Zdroje (3)
Künstliche Intelligenz: Amerikanische KI-Bosse für verlangsamte Entwicklung
Tagesspiegel
| 04:48 13.09.
Künstliche Intelligenz: Amerikanische KI-Bosse für verlangsamte Entwicklung
Die Zeit
| 04:47 13.09.
Anthropic: 'Senza misure di sicurezza l'IA potrebbe controllare Internet in 6-12 mesi'
ANSA
| 03:29 13.09.
🔥 Mohlo by vás zaujímať
📰
Umelá inteligencia
Dario z Anthropiku: „Musíme zpomalit.“ Sam z OpenAI: „Souhlasíme, je potřeba postupovat opatrně.“
Dario Amodei, šéf společnosti Anthropic (to je ta s Claude) publikoval rozsáhlou esej, ve které se zamýšlí nad dalším rozvojem nejvýkonnějších AI modelů. Celý t …
📰
Umelá inteligencia
Generálny riaditeľ spoločnosti Anthropic Dario Amodei vyzval firmy vyvíjajúce AI, aby spomalili tempo jej vývoja.
Upozornil na rastúce obavy z rizík spojených so „superinteligentnými“ počítačovými systémami. Ich… The post Generálny riaditeľ spoločnosti Anthropic Dario Amode …
Umelá inteligencia
Šéf spoločnosti Anthropic vyzval firmy, aby spomalili vývoj umelej inteligencie
Generálny riaditeľ spoločnosti Anthropic Dario Amodei v sobotu vyzval firmy vyvíjajúce umelú inteligenciu (AI), aby spomalili tempo jej vývoja. Upozornil na ras …
© HotInfo
Z našej redakcie pôvodné
Všetko →
AfD po víťazstve v Sasku-Anhaltsku čelí reakcii Zelených
Zelenskyj je pripravený stretnúť sa s Putinom na summite G20
Trump v Dubline podporil zjednotenie Írska, Londýn ho odmieta
Chorvátska vláda dá 650 ton odpadu spáliť v cementárňach. V podzemnej vode pri skládke namerali dvojnásobok limitu pre pitnú vodu
Do vojenských škôl v Podnestersku nastúpilo 127 detí. V kasárenskom režime žijú už od jedenástich rokov
Model hľadajúci chyby v softvéri dostala Únia neskôr. Smie ho použiť len na obranu
Španielske služby sledujú pochod za oslobodenie Ceuty. Má byť tri dni pred marockými voľbami
Izrael otvoril v Ľubľane prvé stále veľvyslanectvo. Delo vysvetľuje, čím sa Slovinsko stalo pre Netanjahua cenné
