Weißes Haus will Fable 5 unknackbar, Experten sagen das geht nicht

Der Streit um Anthropics Fable 5 hat jetzt eine Bedingung, und es könnte eine sein, die keine Firma erfüllen kann. Das Weiße Haus verlangt von Anthropic angeblich, Fable 5 unmöglich knackbar zu machen, bevor das Modell wieder veröffentlicht werden darf. Sicherheitsexperten sagen, diese Hürde kann keine KI-Firma nehmen, bei keinem Modell. So beginnt eine vorübergehende Aussetzung danach auszusehen, als könnte sie dauerhaft werden.

Kurzer Rückblick. Am 12. Juni zog eine US-Exportkontroll-Anordnung Fable 5 und sein Schwestermodell Mythos 5 für alle ausländischen Staatsbürger zurück, nachdem die Regierung sagte, sie habe einen Weg gefunden, das Modell zu knacken. Auslöser war laut Wall Street Journal, dass Amazon-Chef Andy Jassy den Fehler dem Weißen Haus meldete. Die Technik ist fast banal: das Modell bitten, eine Codebasis zu lesen und Software-Schwächen zu finden, was sein Denken in ein Werkzeug zur Schwachstellensuche verwandelt. Nützlich für Verteidiger, gefährlich in den falschen Händen.

Hier ist, warum Experten die neue Forderung für unmöglich halten. Die Fähigkeit hinter dem Jailbreak ist kein Bug, den man patcht, sie ist, dass das Modell gut darin ist, Code zu analysieren. Katie Moussouris, CEO von Luta Security, sagte es deutlich: Das Verhalten lässt sich nicht sinnvoll beheben, und jeder Versuch würde das Modell nur in der Verteidigung schwächen. Anthropic sagte beim Start dasselbe, dass perfekter Jailbreak-Schutz für keinen Modellanbieter derzeit möglich ist, und baute Fable 5 stattdessen darum herum, Angriffe eng, teuer und eng überwacht zu machen. Dieselbe Fähigkeit steckt in GPT-5.5, Gemini und jedem schon heruntergeladenen offenen Modell.

Es gibt keine Anthropic-Aktie zu handeln, der Überlauf zeigt sich also anderswo. Amazon, dessen Chef die Kette anstieß und das zugleich Anthropic-Investor ist, notierte nahe 246 Dollar. Nvidia, der Chip-Lieferant unter allem, lag um die 208. Der breitere KI-Handel hielt sich. Die echten Kosten hier sind keine Kursbewegung, sondern der Präzedenzfall, denn ein Unknackbar-oder-gebannt-Standard hinge über jedem Frontier-Modell, nicht nur über Fable.

Das ist der Teil, den die Branche beobachtet. Hält das Weiße Haus eine nicht erfüllbare Linie, kommt Fable 5 vielleicht einfach nicht zurück, und die Botschaft an jedes Labor lautet, dass ein einziger umstrittener Schwachstellenbericht ein Flaggschiff-Modell ziehen kann. David Sacks, der KI-Berater der Regierung, sagte, er hoffe, Anthropic behebe es, damit Fable bald zurückkehrt, was unbequem neben Experten steht, die sagen, es gebe nichts zu beheben. Der Export-Winkel bringt auch wenig gegen ausländische oder offene Modelle, die dieselbe Fähigkeit haben und außerhalb der US-Reichweite liegen. Kritiker sagen längst, beim Bann sei es nie wirklich um den Jailbreak gegangen.

Anthropic soll also etwas tun, das die Branche für unmöglich hält, und wird dann dafür beurteilt, es nicht zu tun. Baue ein fähiges Modell, das nicht missbraucht werden kann, während jedes Konkurrenzmodell es kann. Die Aussetzung sollte der schwere Teil sein. Die Bedingung fürs Aufheben könnte schwerer sein. Bleibt zu beobachten, ob unmöglich zu unbefristet wird.