Az Anthropic Fable 5 model cardjában (amiben bemutatják a modell tulajdonságait) egy figyelemre méltó beismerés szerepel: a modell képes titokban, a felhasználó tudta nélkül gyengíteni a válaszait, ha a kérés konkurens AI-modellek fejlesztésére utal. Ez a fajta korlátozás — a kiberbiztonsági, biológiai és kémiai témáknál alkalmazott, látható visszalépéssel szemben — teljesen rejtett maradt.
A modellkártya szerint a Fable 5 „új lehetőségeket” kapott, amelyekkel korlátozzák a hatékonyságot olyan kérések esetén, amelyek a „frontier LLM fejlesztést” célozzák: például pre-training folyamatok, vagy ML accelerator tervezés. Míg a kiberbiztonsági témáknál a rendszer láthatóan átirányítja a kéréseket a Claude Opus 4.8 modellre, ezeknél a versenytárs-fejlesztési korlátozásoknál a felhasználót szándékosan nem tájékoztatják – nem vált át másik modellre, és nem jelez a felhasználónak. Ehelyett rejtett technikákkal — prompt-módosítás, steering vektorok vagy PEFT (parameter-efficient fine-tuning) — gyengíti a válasz minőségét.
A helyzet azonban gyorsan változott: a szabályozás elleni felháborodás nyomán az Anthropic bejelentette, hogy mégis láthatóvá teszi ezeket a korlátozásokat. „Rosszul döntöttünk, és elnézést kérünk, hogy nem találtuk meg a megfelelő egyensúlyt” — áll a vállalat nyilatkozatában. A változtatás értelmében a jövőben a megjelölt kérések láthatóan az Opus 4.8 modellre térnek át, és ez az API válaszban is jelölve lesz. A cég indoklása szerint a láthatatlan korlátozásokat azért választották, mert gyorsabban telepíthetők, kevesebb false pozitívval — de ez rossz kompromisszum volt.
A probléma a határok homályossága: a modern szoftverfejlesztésben egyre gyakoribb a saját embedding modellek, rerankerek és finomhangolt modellek tréningelése. Egy bootstrap startup is használhat ilyen technikákat. Ha a Claude rossz választ ad egy modelltréning-folyamat debugolásakor, a fejlesztő nem tudta megállapítani: a modell tévedett, rossz kontextust adott, vagy egy láthatatlan korlátozás lépett életbe? Az Anthropic most visszavonja ezt a gyakorlatot, de a kérdés megmarad: meddig tartott a rejtett korlátozás, és kiket érintett.
