Engram Steering: Refusal-Unterdrückung zur Laufzeit ohne veränderte Gewichte

Klassische Abliteration neutralisiert Refusal-Verhalten, indem Gewichtsmatrizen orthogonal zu einem Refusal-Vektor projiziert werden - ein dauerhafter Eingriff, der die Basisgewichte verändert und auch Aufgaben außerhalb des Ziels beeinträchtigen kann. Ein Tutorial von Madhukar Phatak zeigt die Alternative: dynamische Abliteration per Multi-Layer-Engram-Steering, demonstriert an Qwen3-4B (36 Layer, 2560 Hidden-Dimension).

Der Ansatz

• Kontrastive Paare: Je zwei fast identische Prompts - harmlos vs. sensibel - erzeugen layerweise Differenzvektoren, gemittelt über mehrere Paare und normalisiert
• Forward Hooks: Ein Controller-Objekt registriert PyTorch-Hooks auf den Layern 12, 14, 16, 18 und 20 und injiziert die Vektoren zur Laufzeit verteilt mit Alpha 0.3 in den Residual-Stream

Warum Multi-Layer entscheidend ist

Der entscheidende Befund: Eine Ein-Layer-Subtraktion auf Layer 14 schlug fehl - die nachgelagerten Layer rekonstruierten das Refusal-Verhalten einfach neu. Erst die verteilte Injektion über fünf Layer verhindert diese Rekonstruktion und unterdrückt die Verweigerung zuverlässig.

Der Vorteil

Die Basisgewichte bleiben zu 100% gefroren: kein Fine-Tuning, kein dauerhaft modifiziertes Modell, jederzeit rückholbar durch Entfernen der Hooks - etwa für Audits oder Policy-Wechsel. Das komplette Notebook steht auf GitHub (phatak-dev/LLMExperiments). Damit positioniert sich Engram-Steering als modulare, nicht-destruktive Ergänzung zu Weight-Abliteration und Fine-Tuning.

Mehr dazu: Madhukar Phatak’s Blog