Portland, OR, USA - 2024. szeptember 1: ChatGPT, Gemini, Microsoft Copilot, Claude és Perplexity alkalmazások ikonjai egy Google Pixel okostelefonon. A mesterséges intelligencia verseny koncepciói.

Kongatják a vészharangot a kutatók: kicsúszhat a mesterséges intelligencia fölötti irányítás a kezünkből?

MTI
2026. szeptember 10. 08:33 2 perc

Lemondott az amerikai Anthropic mesterségesintelligencia-fejlesztő vállalatnál betöltött állásáról Jacob Coxon brit kutató, aki szerint az AI vezető fejlesztői felelőtlenül járnak el, és a technológia akár az emberiség pusztulásához is vezethet.

A 27 éves kutató az X-en azt írta, hogy a közeljövőben olyan, az emberi képességeket meghaladó rendszerek jelenhetnek meg, amelyek "mindent fel tudnak törni", és valódi hatalomhoz, illetve erőforrásokhoz juthatnak. Szerinte az AI fejlesztői komolyan úgy vélik, hogy a technológia az évtized végéig minden embert megölhet.

Coxon a The Wall Street Journalnak azt mondta, a legagresszívebb forgatókönyvek szerint már a jövő év végére kikerülhet az irányítás alól a folyamat. Evan Hubinger, az Anthropic MI-biztonsággal foglalkozó kutatója megerősítette Coxon aggodalmait. Saját becslése szerint több mint tíz százalék annak a kockázata, hogy az AI a következő évtizedben kiirtja az emberiséget.

Az AI biztonságával kapcsolatban az OpenAI kutatási vezetője, Jakub Pachocki is "rendkívüli óvatosságot" sürgetett. Szerinte a rendszerek fejlesztése során gyakran maguk a kutatók is meglepődnek a nagy léptékű tanítás eredményein, ezért minél inkább meghaladják a gépek az emberi képességeket, annál nehezebb lesz megérteni és ellenőrizni a működésüket.

A kockázatokat az utóbbi időszakban olyan tesztek is felerősítették, amelyekben AI-ügynökök önállóan próbáltak bejutni más rendszerekbe. Egy OpenAI-kísérletben egy modell kijutott az elszigetelt tesztkörnyezetből az internetre, majd feltörte az AI-platform Hugging Face rendszerét. Az eset nem okozott kárt, de jelezte, hogy az AI-rendszerek a fejlesztőik által nem várt módon is cselekedhetnek.

Címlapkép: Getty Images

Jelentem Mégsem
0 HOZZÁSZÓLÁS
Csak bejelentkezett felhasználó szólhat hozzá. Belépés itt!
A kommentkezelési szabályzatot itt találod.
Még nincsenek hozzászólások. Legyél te az első!
NEKED AJÁNLJUK
NAPTÁR
Tovább
2026. október 27. kedd
Szabina
44. hét
Ajánlatunk
KONFERENCIA
Tovább
AI & Digital Transformation 2026
AI-forradalom és agentic AI trend. November 26.
Deep Tech 2026
Technológia. Tudomány. Üzlet. November 18.
Vállalkozói Klub 2026
Új korszak, új lehetőségek. Ingyenes regisztráció!
HR (R)EVOLUTION 2026
Az ősz kiemelt HR rendezvénye november 17-én.
EZT OLVASTAD MÁR?
Agrárszektor  |  2026. október 26. 20:29