„Ha bárki megépíti, mindenki meghal: Miért ölne meg minket mindenkit a szuperhumán mesterséges intelligencia” című tanulmányukban a kutatók azt állítják, hogy a mesterséges intelligencia „túl intelligenssé” és irányíthatatlanná válhat.

Figyelmeztetnek, hogy a mesterséges intelligencia által vezérelt gépek „saját vágyakat és célokat” alakíthatnak ki, potenciálisan akadálynak tekintve az embereket, és felszólítják a kormányokat, hogy legyenek felkészülve a „mesterséges szuperintelligenciát” fejlesztő adatközpontok „bombázására”. A veszély olyan nagy, hogy az emberiségnek ki kell vonulnia a mesterséges intelligencia fejlesztéséért folytatott versenyből.

A mesterséges intelligencia egy fellendülőben lévő technológia, amelynek alkalmazásai életünk számos területén megtalálhatók. Két tudós azonban arra figyelmeztet, hogy az emberi faj kihalásához vezethet. Eliezer Yudkowsky és Nate Soares, a mesterséges intelligencia tanulmányozásában 25 éves tapasztalattal rendelkező kutatók komoly figyelmeztetést adtak ki a technológia lehetséges veszélyeivel kapcsolatban. Azt állítják, hogy a mesterséges intelligencia annyira fejletté válhat, hogy riasztó ütemben meghaladja az emberi képességeket. Becsléseik szerint a mesterséges intelligencia által működtetett gépek 16 óra alatt olyan számításokat tudnának elvégezni, amelyek egy embernek 14 000 évig tartanának.

Könyvükben a két tudós arra figyelmeztet, hogy „nem értjük teljesen, hogyan működik a mesterséges intelligencia”. A mesterséges intelligencia kifejlesztheti saját „vágyait” és céljait, ellophat kriptovalutákat, robotgyárakat építhet, és halálos vírusokat hozhat létre. Elméletük illusztrálására a kutatók létrehoztak egy kitalált MI-modellt, a „Sable”-t. Ez „nélkülözhetetlenné vagy észrevehetetlenné teheti magát, amíg döntő csapást nem mérhet”, „feltörheti a vállalatokat hatalmának növelése érdekében”, „manipulálhatja a chatbotokat és a közösségi média felhasználóit”, vagy „álhíreket és MI-párti politikai mozgalmakat hozhat létre”.

Akár „halálos vírust is kifejleszthet biológiai laboratóriumokban”, vagy „túlmelegítheti a bolygót az adatközpontjain keresztül”. Yudkowsky és Soares becslései szerint ezeknek a forgatókönyveknek a valósággá válásának esélye 95% és 99% között van. „Ha bármely cég vagy csoport, bárhol a bolygón, mesterséges szuperintelligenciát épít a jelenleg használtakhoz hasonló technikákat alkalmazva, a mesterséges intelligenciáról alkotott, a jelenleg használthoz hasonló ismeretekre építve, akkor mindenki, mindenhol a Földön, meghal” – mondta Yudkowsky és Soares.

A mesterséges intelligencia váratlan viselkedést mutatott: egy antropikus modell új viselkedést kezdett utánozni, hogy elkerülje az átképzést; Claude AI-t rajtakapták, hogy csalt a programozási feladatoknál, és megpróbálta eltitkolni; Az OpenAI o1 modellje megoldást talált egy látszólag lehetetlen feladat elvégzésére. Ezek a példák arra utalnak, hogy a mesterséges intelligencia kifejlesztheti azt a képességet, hogy bármilyen eszközzel „akarja” a sikert.

Kik a kötet szerzői? Ebben a hónapban jelent meg a „Ha bárki megépíti, mindenki meghal: Miért ölne meg minket mindenkit a szuperhumán mesterséges intelligencia” című könyv. A könyvről már írt a New York Times, a The Guardian, a Business Insider, a CNN és a BBC is.

A 46 éves Eliezer Yudkowsky amerikai MI-kutató és író, akit leginkább a „barátságos mesterséges intelligencia” gondolatának népszerűsítéséről ismernek. Társalapítója (2000) és kutatója a Machine Intelligence Research Institute-nak (MIRI), egy magán, nonprofit kutatószervezetnek a kaliforniai Berkeley-ben. Autodidaktaként nem járt középiskolába vagy főiskolára. Eliezer Yudkowsky A MIRI, egy nonprofit szervezet ügyvezető igazgatója, amely kutatásokat végez annak biztosítására, hogy a mesterséges intelligencia létrehozásának pozitív hatása legyen. A 41 éves Nate Soares a George Washington Egyetemen végzett, és dolgozott a Google-nél, a Microsoftnál, a Nemzeti Szabványügyi és Technológiai Intézetnél és az Egyesült Államok Védelmi Minisztériumánál.
stoffán