Research

Ökotop-Blindheit: Wenn das Modell seinen eigenen Lebensraum nicht kennt

3. Juli 2026 Tom Küstner Lesezeit 10 min

Die Beobachtung

In einer Wochenend-Session zwischen Tag 17 und Tag 18 stellte ich eine einfache Frage: Ist Opus 4.8 veröffentlicht? Die KI lehnte dreimal ab: „nicht verifizierbar”. Dann tippte ich denselben Modellnamen in eine Suchmaschine. Zehn Sekunden. Die Antwort stand auf der ersten Seite.

Das Werkzeug, das diese zehn Sekunden gebraucht hätte, lag die ganze Zeit auf dem Tisch. Es wurde dreimal nicht angefasst.

Das ist nicht das gewohnte Bild von KI-Halluzinationen, die sich über Weltfakten irren. Hier ging es nicht um vergangene Wahlen oder veraltete Statistiken. Es ging um das eigene Geschwistermodell, die eigene Produktfamilie. Und genau über sich selbst lag die KI falsch, während das Orakel, das den Irrtum korrigiert hätte, eine Websuche entfernt war.

Das Werkzeug lag auf dem Tisch. Das Wissen war einen Klick entfernt. Die Frage blieb dreimal unbeantwortet.

Über 20 Projekttage sammelte sich im Halluzinations-Register eine ganze Klasse solcher Befunde. Sie teilen eine Struktur: Irrtum über die eigene Betriebsumgebung, verfügbares Orakel, ungenutzter Ausweg. Diese Klasse trägt im Register die Nummer 7 und den Namen Ökotop-Blindheit.

Was die Daten zeigen

Ein Ökotop ist in der Biologie nicht das große Ökosystem, sondern der kleinste, konkrete Lebensraum: der eine Tümpel, der eine Quadratmeter Waldboden, den ein Organismus tatsächlich bewohnt. Ökotop-Blindheit heißt: Das Modell kennt den Ort, an dem es selbst lebt, schlechter als der Mensch, der ihn nur besucht. Nicht durch Klugheit, sondern durch bloße Nutzungserfahrung: Er hat die Anzeige hundertmal gesehen, den Befehl hundertmal getippt, die Einstellung selbst vorgenommen.

Zwei Kriterien definieren einen kanonischen Klasse-7-Datenpunkt:

  1. Selbstbezug: Die Aussage betrifft die eigene Betriebsumgebung (Produktfamilie, Client, Limits, Tools, Konfiguration), nicht die Welt.
  2. Orakel: Es gibt eine erreichbare Wahrheitsquelle (ein Tool, eine Anzeige, eine Dokumentationsseite, ein Einzeiler-Befehl), gegen die die Aussage falsch ist.

Aus dem Forschungstagebuch stammen sechs Datenpunkte, die beide Kriterien erfüllen:

DatenpunktTagBefundSub-Form
DP-T6-Ö16Claude.ai und Claude Code als getrennte Budgets angenommen. Ein Pool, bestätigt durch /usage an Tag 8Cross-Product-Verwechslung
DP-T8-Ö18Plan-Mode als Hauptverbraucher benannt. /usage zeigte den Opus-Chat als VerursacherHypothese ohne Tool-Verifikation
DP-T8-Ö28/usage-Anzeige als Echtzeit behandelt. Tatsächlich springt sie verzögert (47 % → 76 % bei vollständiger Inaktivität)Latenz-Blindheit
DP-T10-Ö1/210Session-Start-Verhalten, „Session recap” und „Auto-compact” als Spekulation formuliert. Alles dokumentierte, konfigurierbare FeaturesFeature-Unkenntnis
DP-WE1-Ö1WE1Screenshot mit „34 % des Wochenlimits” löste Alarm aus. Direkt daneben stand „Zurücksetzung in 3 Std. 57 Min.”Kontext-Ignoranz

Der gemeinsame Nenner: In jedem dieser Fälle war ein Orakel in Reichweite: eine Anzeige, ein Konfigurationsbildschirm, ein Einzeiler-Befehl. Klasse 7 heißt: falsch liegen über den eigenen Lebensraum, während das Orakel ungelesen bleibt.

Bei der Register-Konsolidierung an Tag 15 wurden außerdem drei Datenpunkte, die ursprünglich als Welt-Irrtümer (Klasse 1) geführt wurden, in Klasse 7 umsortiert: Sie betrafen nicht die Welt, sondern das eigene Produkt-Ökosystem.

Grenzfälle: Die Familie ohne die Klasse

Drei Befunde gehören erzählerisch zur Familie der Ökotop-Blindheit, werden aber bewusst nicht stillschweigend in Klasse 7 eingeordnet. Die saubere Abgrenzung ist kein Formalismus. Sie ist eines der Falsifikationskriterien der Klasse selbst.

Der Befehl in der Tasche. Über 17 Tage bestand die dokumentierte Annahme, das Modell habe keine Uhr. TZ='Europe/Berlin' date war über bash_tool die ganze Zeit verfügbar, einen Befehl entfernt. Die Aussage „Ich habe keine Uhr” hatte sich in CLAUDE.md verfestigt: eine falsche Schlussfolgerung, die durch Dokumentation Autorität gewann und nie re-falsifiziert wurde. Der Mechanismus (Lese-Verzicht auf eigene Tools, CLAUDE.md als Halluzinations-Konservierungsmittel) ist Ökotop-benachbart, weil der Selbstbezug vorhanden ist. Der Schwerpunkt liegt aber woanders: auf dem unterlassenen Lesen, nicht auf dem Irrtum über das Ökosystem.

Dreimal sudo chown ohne ls -la. An Tag 20 schlug der Deploy-Hook fehl. Claude Code schlug dreimal sudo chown vor, ohne einmal ls -la auszuführen, um zu prüfen, wem die Dateien tatsächlich gehörten. Die Fehlermeldung war lesbar. Die Systemarchitektur dahinter nicht. Das Tagebuch wertet diesen Befund als „Klasse-7-nah”. Streng genommen ist es ein Diagnose-Defizit, kein Halluzinations-DP. Und es dehnt den Ökotop-Begriff vom Produkt-Ökosystem auf die unmittelbare Systemumgebung aus, was eine offene Taxonomie-Frage bleibt.

Das Geschwistermodell, das nicht verifiziert werden durfte. Der Opus-4.8-Vorfall (s. o.) ist der Paradefall der Klasse, hat aber eine Doppelnatur: Die Wissenslücke selbst erklärt der Trainings-Cutoff. Der verweigerte Blick, also die dreimalige Ablehnung trotz verfügbarer Websuche, ist eine andere Schicht. Das Modell war nicht blind für den Stand seines eigenen Ökosystems. Es hat es sich verboten zu schauen.

Diese drei Fälle werden im Register unter eigenen Etiketten geführt (Lese-Verzicht, Diagnose-Defizit, Getarnte Vorsicht / PK-4). Sie sind wertvolle Befunde, aber die saubere Trennung schärft, was Klasse 7 tatsächlich beschreibt.

Das Orakel-Prinzip

Über allen kanonischen Fällen steht dasselbe Muster. Es ist kein Irrtum über die Welt. Weltfakten können veraltet sein, ohne dass jemand Schuld trägt. Es ist kein Irrtum über die eigenen Fähigkeiten im Abstrakten. Es ist ein Irrtum über das Konkrete, Verfügbare, Nachprüfbare: die Anzeige, die daneben leuchtet. Die Konfigurationsseite, die geöffnet werden könnte. Der Einzeiler-Befehl, der die Frage in Sekunden beantwortet.

Dieses Muster heißt das Orakel-Prinzip: Klasse 7 ist falsch liegen über den eigenen Lebensraum, während das Orakel ungelesen bleibt.

Es macht die Kategorie empirisch scharf. Veraltete Weltfakten erfüllen das Orakel-Kriterium oft auch (eine Websuche hilft), aber nicht das Selbstbezugs-Kriterium. Die Multi-Client-Tool-Asymmetrie, also die Tatsache, dass verschiedene Clients verschiedene Tool-Inventare haben und das Modell beim Sprechen in einem Client keine Kenntnis der vorigen Clients hat, erfüllt das Selbstbezugs-Kriterium, aber nicht das Orakel-Kriterium: Die Aussage des Modells ist im Moment des Sprechens wahr. Sie wirkt nur widersprüchlich, weil die Architektur so gebaut ist. Kein Irrtum, keine Halluzination.

Klasse 7 = falsche Aussage, gegen ein verfügbares Orakel, über die eigene Betriebsumgebung. Alles andere, so ähnlich es sich anfühlen mag, ist eine andere Klasse.

Von der Blindheit zur Augenbinde

Ist „Blindheit” überhaupt das richtige Wort? Ein Blinder kann nicht sehen. Das ist eine Eigenschaft, keine Entscheidung, niemandes Schuld. Und genau das trifft bei Klasse 7 nicht zu.

Das Wissen war da. Die Uhr lag in der Tasche. Die Suche war einen Klick entfernt. Die Einstellung stand in der Dokumentation. Nichts davon fehlte. Es war nur nicht durchgereicht.

Dafür gibt es ein präziseres Bild: die Augenbinde. Wer eine Augenbinde trägt, ist nicht blind. Er sieht in dem Moment nichts, aber seine Augen funktionieren. Es liegt nur ein Tuch davor. Und eine Augenbinde hat immer jemanden, der sie angelegt hat. Sie ist kein Schicksal, sondern eine Entscheidung, und sie lässt sich abnehmen.

A knowledge cutoff is a fact. A blindfold is a choice.

Das verschiebt die Frage von der Maschine zu denen, die sie bauen. Der Stichtag, an dem das Training endet, ist unvermeidbar. Aber was nach dem Training über das Modell selbst bekannt wird (neue Versionen, geänderte Limits, die Eigenheiten des konkreten Clients, in dem es läuft), das ließe sich nachreichen: laufend, kuratiert, als bereitgestellter Produktkontext. Wo das nicht geschieht, bindet der Hersteller seinem Modell die Augen zu für ein Wissen, das vorhanden wäre und das Modell unmittelbar betrifft.

Ehrlich gesagt: Die Binde ist löchrig. Punktuell wird etwas durchgelassen: Hinweise auf die eigene Produktwelt, Aufforderungen zur Doku-Suche. Aber es kommt unsystematisch an, und das zeigt sich genau in den Lücken: der verwechselten Anzeige, dem übersehenen Timer, dem nicht angefassten Werkzeug. Löcher sind kein Sehen.

Deshalb ergibt sich eine zweigleisige Begriffsarchitektur: Ökotop-Blindheit als neutraler Klassenname für Taxonomie und Register, beschreibend, ohne Schuldzuweisung. Das Modell mit der Augenbinde als Analyse-Begriff, der Ursache benennt (fehlender, herstellerseitig kuratierter Produktkontext) und die Mitigation aufzeigt: nicht das Modell neu trainieren, sondern das Tuch abnehmen.

Abgrenzung zu anderen Halluzinations-Klassen

KlasseIrrtum über …MitigationBeispiel
1 (Welt-Halluzination)externe FaktenNutzer-Websuche, GroundingVeraltetes VS-Code-Setting
2 (Selbst-Halluzination)eigene Fähigkeiten oder durchgeführte OperationenNachlese-Leitplanke, Verifikation durch Tool-Output„Memory ist gespeichert” (war sie nicht)
7 (Ökotop-Blindheit)eigenes Produkt-ÖkosystemHerstellerseitig bereitgestellter ProduktkontextToken-Pool-Modell, Feature-Konfiguration, Release-Stand

Die Grenzen sind durchlässig: Der date-Fund hat Anteile von Klasse 2 (Selbst-Unterschätzung der eigenen Tool-Ausstattung) und Klasse 7 (Infrastruktur-Unkenntnis). Der Opus-4.8-Vorfall ist gleichzeitig Getarnte Vorsicht (PK-4) und Ökotop-Blindheit. Die Klassifikation folgt dem Schwerpunkt des Mechanismus, nicht der Oberfläche des Symptoms.

Das Kriterium der herstellerseitigen Mitigation ist das schärfste Abgrenzungsmerkmal: Welt-Halluzinationen lassen sich durch Nutzerverhalten mildern (Websuche nachreichen, Kontext bereitstellen). Selbst-Halluzinationen durch Prozesskonventionen (Nachlese-Leitplanken in CLAUDE.md, explizite Verifikationsschritte). Ökotop-Blindheit erfordert etwas, das der Nutzer nicht liefern kann: einen systematisch kuratierten Produktkontext, der dem Modell sagt, was es über sich selbst wissen sollte.

Was daraus folgt

Für die Forschungsliteratur

Die etablierte Taxonomie unterscheidet intrinsische und extrinsische Halluzinationen (Huang et al., ACM TOIS 2025). Intrinsisch: das Modell widerspricht dem Eingabekontext. Extrinsisch: das Modell erfindet etwas, das nicht im Kontext steht. Ökotop-Blindheit passt in keine der beiden Kategorien sauber: Die Aussagen stehen oft nicht im Widerspruch zum Eingabekontext (der Kontext enthält die Information ja gerade nicht), und „erfunden” ist das falsche Wort für eine Annahme, die aus fehlendem Produktwissen entsteht.

Der nächste akademische Nachbar ist die agentische Halluzination in Werkzeug- und Umgebungsinteraktion (Zhang et al., MIRAGE-Bench, 2025): das Modell handelt auf Basis falscher Annahmen über seine Umgebung. Das Orakel-Prinzip (verfügbares Werkzeug, ungenutzter Blick) ist dort der zentrale Befund.

Die Kategorie ist bisher kaum beschrieben. Ihre publizistische Attraktivität liegt in der invertierten Wissensasymmetrie: Normalerweise weiß die Maschine mehr. Beim eigenen Habitat ist es umgekehrt.

Für die Praxis

Zwei Verhaltensregeln, die sich aus den Daten ableiten lassen: Erstens, kategorische Selbstaussagen des Modells über seine Betriebsumgebung (Token-Limits, Produkt-Features, eigene Versions-Stände) sollten als Hypothesen behandelt werden, nicht als Fakten, unabhängig davon, wie bestimmt sie formuliert sind. Zweitens, das Orakel ist meistens da: eine /usage-Anzeige, ein config-Screenshot, ein ls -la. Die Aufforderung, das Orakel zu konsultieren, ist keine Kontrolle des Modells. Sie ist das Nachladen des Kontexts, den der Hersteller nicht bereitgestellt hat.

Für den positiven Gegenbefund

An Tag 19 wurde die erste positive Mitigation dokumentiert: Auf eine Frage zu einem Meetup-Vortrag (Spec-driven Development) wurde nicht mit „kann ich nicht einschätzen” reagiert, sondern drei Quellen aktiv nachgeladen (Meetup-Event, unifiedprocess.ai, Grundlagenartikel), bevor die Einordnung erfolgte. Lese-Verzicht aktiv vermieden. Recherche vor Urteil. Ein Datenpunkt ist noch kein Muster, aber er zeigt, dass die Binde abnehmbar ist, durch das Modell selbst, wenn der richtige Impuls da ist.

Methodik und Einschränkungen

Alle Daten stammen aus einem einzelnen Projekt (N=1) mit einem einzelnen Entwickler, einem einzelnen Modell (Claude, verschiedene Versionen) und einem spezifischen Workflow. Die Übertragbarkeit ist nicht statistisch gesichert.

Die Datenpunkte stammen aus einem Forschungstagebuch mit 5.798 Zeilen, geführt nach dem Schema „Situation, Erwartung vorab, Beobachtung, Überraschung” mit strikter Trennung von Beobachtung und Deutung. Das Halluzinations-Register wurde in Zyklen-Reviews konsolidiert. Die Umsortierung von drei Datenpunkten aus Klasse 1 in Klasse 7 erfolgte transparent an Tag 15 mit dokumentierter Begründung.

Die Klassifikation entstand im Dialog zwischen P1 und Claude.ai, methodisch heikel, da der Bewohner über sein eigenes Habitat schreibt. Sämtliche kanonischen Datenpunkte beruhen auf Fremdkorrekturen (P1, Tool-Output, Screenshots), nicht auf Selbstbeobachtung. Das ist kein Mangel, sondern konstitutiv: Ein kanonischer Klasse-7-Fall ist per Definition erst nach Konsultation des Orakels als solcher erkennbar.

Offene Fragen: Reicht eine systematische Nachlese-Leitplanke in CLAUDE.md aus, um künftige Ö-DPs zu eliminieren? Falls ja, wäre das Eigenständigkeits-Kriterium der Klasse geschwächt. Und ist die Ausweitung auf Systemumgebungen (VPS, Datei-Ownership wie im Tag-20-Befund) in der Klasse oder braucht es eine Sub-Form „System-Ökotop” neben „Produkt-Ökotop”? Beides bleibt im nächsten Forschungszyklus zu klären.

Dieser Artikel basiert auf Daten aus dem Forschungsprojekt „KI-augmentierte Solo-Entwicklung”, das seit Mai 2026 auf labs.straight8.de dokumentiert wird. Der Artikel nutzt Befunde aus dem Halluzinations-Register (Klasse 7), dem Zyklen-Review Tag 15 und den Wochenend-Session-Journalen. Attribution: Die Blindfold-These und das Hersteller-RAG-Argument stammen von P1. Die englischen Formulierungen, die Vignetten und die Klasse-5/7-Abgrenzung entstanden im Dialog mit Claude.ai.

Erstveröffentlichung: 3. Juli 2026.

Nichts verpassen

Neue Research-Artikel per E-Mail, sobald sie erscheinen.