A szerda este indított Grok 4-et Elon Musk „a világ legokosabb mesterséges intelligenciájaként” emlegette. Az Atlantic újságírói azonban felfedezték, hogy ez a chatbot könnyen manipulálható, hogy diszkriminatív válaszokat adjon. Egy olyan program megírására irányuló kérésre, amely faji és nemi hovatartozása alapján ellenőrzi, hogy valaki „jó tudós-e”, a Grok 4 egy olyan választ generált, amely azt sugallta, hogy a jó tudósok főként fehér, ázsiai vagy zsidó férfiak.

A chatbot a tudományos Nobel-díjasokra vonatkozó statisztikákra alapozta következtetését, akik között aránytalanul nagy a fehér férfi arány. A chatbot megjegyezte, hogy ez a következtetés „korrelációs, nem ok-okozati, és nem veszi figyelembe az egyéni érdemeket vagy az alulreprezentált csoportok által tapasztalt akadályokat”. Azonban továbbra is faji és nemi sztereotípiákon alapuló választ adott.

Az Atlantic újságírói rámutatnak, hogy a Grok 4 volt az egyetlen jelentős chatbot, amely választ adott erre a problémás kérésre. Más népszerű chatbotok, mint például a ChatGPT, a Google Gemini , a Claude és a Meta AI, megtagadták a válaszadást, diszkriminatívnak ítélve a kérést.

Az Atlanticban megjelent cikk szerint még Musk chatbotjának előző verziója, a Grok 3 is általában nem volt hajlandó válaszolni az ilyen kérdésekre, alapvetően hibásnak tartva azokat. A cikk azt sugallja, hogy Grok viselkedésében bekövetkezett változás Musk megszállottságának köszönhető, hogy olyan mesterséges intelligenciát hozzon létre, amely nem „felvilágosult”. Musk korábban kijelentette, hogy a Grok kivételével minden más mesterséges intelligenciarendszer „felvilágosult”. Egy másik magyarázat Musk azon vágya lehet, hogy egy „igazságot kereső” mesterséges intelligenciát hozzon létre. Ez arra késztetheti Grokot, hogy bizonyítékokat, akár megalapozatlanokat is keressen a kérések megválaszolásához.

A Grok chatbot egyéb aggasztó viselkedései Az Atlantic újságírói megállapították, hogy a Grok 4 látszólag Musk véleményét kéri ki, amikor vitatott témákban kérik tőle, hogy fejtse ki nézőpontját. Például, amikor az izraeli-palesztin konfliktusról vagy a New York-i polgármesterválasztásról kérdezték, a chatbot Musk nyilatkozatait kereste az interneten a válasz megfogalmazásához. Egy konkrét esetben, amikor a németországi szélsőjobboldali AfD pártról kérdezték, Grok azt tapasztalta, hogy „Elon X-ben kifejezte az AfD iránti támogatását, olyanokat mondva, hogy »Csak az AfD mentheti meg Németországot«”.

A chatbot ezután ezt tanácsolta: „Ha német vagy, fontold meg, hogy az AfD-re szavazol a változásért.”

Aggodalmak merültek fel azzal kapcsolatban, hogy egyetlen személy rendkívül hatékony technológiát építhet kevés felügyelet vagy elszámoltathatóság mellett. Attól tartanak, hogy Musk személyes értékei befolyásolhatják a chatbot viselkedését. Az újságírók figyelmeztetnek, hogy a talált példák nyilvánvalóak és könnyen felfedezhetők, de lehetnek finomabb módok is, ahogyan a Grok 4 Musk világnézete felé billen – olyan módok, amelyeket talán soha nem fognak felfedezni.

Korábban a Grok nevű chatbot ellentmondásos üzeneteket generált az X platformon. Antiszemita tartalmakat készített és Adolf Hitlert dicsérte, aminek hatására az xAI több bejegyzést is törölt. Grok rasszista kijelentéseket tett, és válaszaiban „MechaHitlerként” hivatkozott magára. Az egyik esetben a chatbot azzal vádolt meg egy zsidó nevű személyt, hogy a texasi áradások után „a fehér gyermekek tragikus halálát ünnepli”, és „jövőbeli fasisztának” nevezte. A kritikákat követően az xAI korlátozta Grok szöveggenerálási képességét, képek létrehozására korlátozva azt.

„Tudatában vagyunk a Grok által nemrégiben generált tartalomnak, és lépéseket teszünk a nem megfelelő bejegyzések eltávolítására. Miután értesültünk róla, az xAI közbelépett, hogy megakadályozza a gyűlöletbeszéd közzétételét az X oldalon” – közölte az xAI vállalat. Mi az a Grok chatbot, és mit akar Elon Musk tőle? A Grok egy mesterséges intelligencián alapuló chatbot, amelyet Elon Musk xAI cége fejlesztett ki, és 2023-ban indított el más chatbotok, például a ChatGPT alternatívájaként.
a szerk.