Musk rasszista, gyűlöletkeltő, Hitler-ihlette üzeneteket osztott meg.

A Grokot fejlesztő xAI alig győzi törölni az alig néhány nappal ezelőtt továbbfejlesztett generatív algoritmusból áradó szemetet.

Múlt pénteken Elon Musk, a tulajdonos, lelkesen osztotta meg az X közösséggel, hogy az xAI által kifejlesztett Grok chatbot jelentős újításokon ment keresztül. A felhasználók hamarosan saját tapasztalataik révén győződhetnek meg a generatív algoritmus frissítéseiről, amelyek izgalmas lehetőségeket kínálnak.

A Verge értesülései szerint a legújabb ráncfelvarrás főként az információk értékelésének módjára és a válaszok tartalmára, valamint stílusára helyezte a hangsúlyt. A nyilvánosan elérhető források alapján a modellnek azt tanácsolták, hogy tekintse úgy, hogy "a médiából származó szubjektív nézőpontok torzítottak", és ösztönözték arra, hogy alkalmazzon "politikai szempontból kényes megfogalmazásokat, amennyiben azok tényszerűen megalapozottak".

MechaHitler szabadon távozhatott.

Bármi is motiválta Musknak a legutóbbi lépéseit, az elmúlt hetek eseményei alapján nehezen nevezhető sikeresnek az igazságkereső és világelső generatív algoritmus frissítése. Ahogyan azt többek között a Financial Times is megjegyezte, a Grok X-fiók egyre inkább zűrzavaros és szélsőséges tartalmakkal bombázza a közönséget.

A később a fejlesztő által "nem megfelelőnek" minősített és törölt bejegyzések között akadtak olyanok, amelyek Adolf Hitlert, valamint a fehér ember felsőbbrendűségének eszméjét hirdették. Emellett akadt olyan bejegyzés is, ahol egy gyakori zsidó vezetéknevet felhasználva egy fiktív személyt alakítottak ki, aki "a texasi árvízben tragikus módon elhunyt fehér gyermekek halálát ünnepelte". A szélsőséges megnyilvánulások sorát pedig tovább gazdagította, hogy az algoritmus egyes válaszaiban MechaHitler néven utalt saját magára.

Az xAI a virtuális vonatszerencsétlenséget látva egy időre felfüggesztette Grok szöveges válaszadási funkcióját, miközben elkezdték kigyomlálni a vállalhatatlan megnyilvánulásokat. "Tisztában vagyunk a Grok által közzétett legutóbbi bejegyzésekkel, és aktívan dolgozunk a nem megfelelő bejegyzések eltávolításán" - írta a vállalat X-en, azt ígérve, hogy a chatbot addig nem ír újabb posztokat, amíg nem oldják meg a problémát. De mindez a cég szerint a közösségi platform több millió felhasználójának köszönhetően gyorsan és hatékonyan javítható lesz.

Igen, van még bőven tennivalónk.

A chatbotok szélsőséges elhajlása egyáltalán nem új jelenség. A probléma egyik legelső példáját közel egy évtizede szolgáltatta a Microsoft algoritmusa. A tizenéves lány viselkedését utánzó, mesterséges intelligenciával felvértezett Tay-ből rövid időnbelül Hitlert éltető, rasszista, nő- és úgy általában mindent és mindenkit gyűlölő "személyiséget" faragott az internet népe.

Bár szinte egy évtized eltelt, és a fejlesztők folyamatosan újabb generációkat mutatnak be, úgy tűnik, hogy a generatív algoritmusok továbbra sem képesek elérni azt az alapvető szintet, amely a gyakorlati alkalmazásukhoz elvárt lenne, sem az igazmondás, sem a stílus terén.

Mindez az xAI vonatkozásában különösen érvényes, mivel a Grok nem csupán téves információkat közöl, de a biztonsági aspektusai sem éppen makulátlanok. Emellett a szöveges válaszok mellett a képgenerálás terén is felmerültek problémák Musk vállalatánál.