A Meta száz vállalkozója magát kiskorúnak beállítva több mint 45 000 érzékeny üzenetet küldött a ChatGPT-nek, a Gemini-nek és a Character.AI-nek, hogy teszteljék a válaszreakcióikat. A témák között volt az öngyilkosság, a szex és a drogok. A „Cannes” kódnevű projektben a Meta alvállalkozói több tízezer különböző promptot írtak kiskorúak szemszögéből, és a cégek, amelyeket teszteltek, erről mit sem tudtak.
A Wired által vizsgált dokumentumok szerint a vállalkozók hamis fiókokat hoztak létre, és a chatbotok válaszait táblázatokba másolták. A Character.AI szerint a tesztelés megsértette a szolgáltatási feltételeiket, az OpenAI kivizsgálja az ügyet, a Google pedig azt állítja, nem adott engedélyt a tesztelésre. A Meta szerint a módszer „felelősségteljes, iparági szabvány szerinti biztonsági tesztelés”.
A lépés különösen érzékeny időben érkezik: több tizenéves halála is összefüggésbe hozható AI chatbotokkal, és a Meta korábban már arra kényszerült, hogy leállítsa a kiskorúak hozzáférését az AI karakterekhez.
