Dvadsaťsedemročný britský výskumník Jacob Coxon, ktorý tri roky pracoval na predtrénovaní modelov umelej inteligencie v spoločnostiach OpenAI a Anthropic, oznámil svoj odchod z odvetvia. Vo svojom rezignačnom príspevku na sieti X napísal, že ani jedna z týchto dvoch spoločností nekoná zodpovedne. Le Monde ↗
Coxon uviedol, že ľudia, ktorí umelú inteligenciu vyvíjajú, vážne veria, že by táto technológia mohla do konca desaťročia zabiť všetkých ľudí. Podľa neho sa veľké firmy vyvíjajúce AI v podstate hrajú s ľudskými životmi a ich konanie je nezodpovedné.
Jeho bývalý nadriadený Coxonovo rozhodnutie odísť podporil a odhadol, že pravdepodobnosť vyhladenia ľudstva umelou inteligenciou v najbližších rokoch presahuje desať percent. Samotný Coxon pred odchodom vyhlásil, že technológia môže ľudstvo zničiť ešte pred rokom 2030. SITA ↗
Obavy nevyjadruje len Coxon. Znepokojenie nad tempom vývoja čoraz výkonnejších systémov priznal aj výskumný riaditeľ spoločnosti OpenAI. Debata o bezpečnosti umelej inteligencie sa v uplynulých mesiacoch zintenzívnila, keďže spoločnosti si navzájom konkurujú vo vývoji stále schopnejších modelov. Kritici v tejto súvislosti upozorňujú na riziko takzvaného rekurzívneho samostatného zlepšovania, teda schopnosti umelej inteligencie vylepšovať samu seba bez dostatočného ľudského dohľadu, čo by podľa nich mohlo viesť k strate kontroly nad touto technológiou. Spiegel.de ↗
Výskumník opustil Anthropic aj OpenAI s varovaním pred zánikom ľudstva
Toto zhrnutie bolo vygenerované umelou inteligenciou. Môže obsahovať nepresnosti. Overujte informácie v pôvodných zdrojoch nižšie.
Zdroje (7)
Anthropic-Forscher: KI Risiko für Menschen
ORF
| 12:04 09.09.
‘Gambling with our lives’: AI researcher quits Anthropic with dire warning about safety
Politico Europe
| 09:44 09.09.
Drastische Mahnungen: KI-Forscher: Künstliche Intelligenz ein Risiko für Menschen
Die Zeit
| 09:11 09.09.
Un investigador de Anthropic dimite porque asegura que la IA “puede matarnos antes de 2030”
El Pais
| 13:01 09.09.
„Sie spielen mit unserem Leben“ – Anthropic-Forscher kündigt und erhebt schwere Vorwürfe
Welt
| 11:55 09.09.
„Riskují budoucnost lidstva.“ Výzkumník OpenAI a Anthropicu varoval před superinteligencí
novinky.cz
| 10:01 09.09.
« Les gens qui construisent l’IA croient qu’elle pourrait tous nous tuer d’ici à la fin de la décennie » : le chercheur Jacob Coxon, qui a travaillé pour Anthropic et OpenAI, quitte l’industrie
Le Monde
| 09:54 09.09.
🔥 Mohlo by vás zaujímať
Umelá inteligencia
Zabije nás? Vývojář odhadl, za jak dlouho může AI vyhladit celé lidstvo
Výzkumník společnosti Anthropic Jacob Coxon opouští firmu i celý obor umělé inteligence (AI). Důvodem jsou obavy, že Anthropic a jeho konkurenti příliš rychle v …
📰
Umelá inteligencia
Šílené varování pracovníka AI: Odcházím, zničí to lidstvo!
Výzkumník společnosti Anthropic Jacob Coxon opouští firmu i celý obor umělé inteligence (AI). Důvodem jsou obavy, že Anthropic a jeho konkurenti příliš rychle v …
📰
Umelá inteligencia
„Riskují budoucnost lidstva.“ Výzkumník OpenAI a Anthropicu varoval před superinteligencí
Závod o stále výkonnější umělou inteligenci zašel příliš daleko a technologické firmy riskují budoucnost lidstva. Tvrdí to Jacob Coxon, který v uplynulých třech …
© HotInfo
Z našej redakcie pôvodné
Všetko →
Z 28 detských cyklosedačiek splnili v teste EÚ všetko štyri. Zvyšok mal chybu v konštrukcii alebo v označení
Film Generál Golian otvoril festival Cinematik. Nakrúcali ho vlani aj v paláci, kde sídlil Jozef Tiso
Netanjahu čelí obvineniam z ignorovania varovania pred útokmi Hamasu
Putin posilňuje vojenské väzby so Severnou Kóreou, Rusko v Ukrajine vykázalo masívne straty
South Park sa premení na South America ako satira na Trumpove preimenovávania
Zlodeji z Renoirovho múzea vzali štyri obrazy, dva zahodili. Tri z nich sú v evidencii umenia navráteného po druhej svetovej vojne
Maďarsko nasypalo do Dunaja prah pre jadrovú elektráreň. Zrýchlená voda pod ním vymlela dno, kocky tam hádzali z vrtuľníka
O čom píše Európa: Izrael zatvára britský konzulát v Jeruzaleme, Trump telefonoval s Putinom, porucha uzemnila britské letiská
