Richard Dawkins új esszéjében azt állítja: a Claude AI akár tudatos is lehet, mert meggyőzően beszél a saját „belső élményeiről”. Szerinte ha egy rendszer ennyire emberinek tűnő módon ír a tapasztalatairól, akkor nehéz egyértelműen kizárni a tudatosság lehetőségét.
Gary Marcus AI-kutató élesen vitatkozik ezzel. Szerinte egy nyelvi modell válaszai nem valódi belső állapotok beszámolói, hanem emberi szövegek mintázatainak utánzásai. Attól, hogy egy chatbot úgy ír, mintha lenne belső világa, még nem következik, hogy ténylegesen érez vagy tapasztal bármit.
Marcus szerint Dawkins összekeveri az intelligenciát a tudatossággal, és ugyanabba a hibába esik, mint korábban Blake Lemoine, aki 2022-ben a Google LaMDA modelljéről állította, hogy érző lény lehet.
Én személy szerint mindkét oldal mellett látok érveket: igaz, hogy a nyelvi modellek matematikai alapon működnek, tehát elméletben bárki elvégezheti a műveleteket kézzel, és ugyanazt a kimenetet fogja kapni, mint amit az AI ad – és ebben az esetben nehéz rámutatni, hogy hol van a „tudat”. De: az emberi tudat esetén is bőven vannak megválaszolatlan kérdések, nem tudjuk mi is az pontosan, hogy mi „okozza”, és az egyetlen bizonyítékunk a létezésére az, hogy az ember elmondja, hogy ő bizony tudatos – és ezt az AI is meg tudja tenni.