Claude Academy
Wird geladen

Steerability

Lektion 1025 Min.
In dieser LektionAm Ende kannst du
  • Erklären, warum Steerability funktioniert (Fine-Tuning hat dem Modell das Befolgen von Anweisungen beigebracht) und warum sie Grenzen hat (Anweisungen werden durch Pattern-Matching befolgt, nicht durch Verständnis)
  • Vorhersagen, wo die Kontrolle am stärksten ist (kurze, konkrete, überprüfbare Anweisungen) im Vergleich zu am schwächsten (lange Gedankenketten, abstrakte Anfragen, Aufgaben, die native Präzision erfordern)
  • Reasoning Drift, Letter-over-Spirit und brüchige Arithmetik als charakteristische Steerability-Fehler identifizieren
  • System-Prompts, Code-Ausführung, sichtbares Reasoning und strukturierte Outputs als Produktfunktionen erkennen, die diese Einschränkung adressieren

Wie Steerability generative KI-Outputs beeinflusst

Wird geladen

Steerability · 5 Min.

ZusammenfassungTranskript

Das Modell befolgt deine Anweisungen genauso, wie es alles andere tut: indem es ein Muster fortsetzt. Das macht es bemerkenswert steuerbar. Es bedeutet auch, dass es immer eine Lücke zwischen dem, was du beabsichtigt hast, und dem, was tatsächlich ankam, gibt – und die meisten interessanten Fehler leben in dieser Lücke.

Wie viel Kontrolle hast du eigentlich?

Wird geladen

Wichtigste Erkenntnisse

  • Steerability bedeutet, dass das Modell Anweisungen über Next Token Prediction befolgt.
    • Fähigkeitszone: kurze, konkrete, überprüfbare Anweisungen. Formatvorgaben, Längenbegrenzungen, explizite Rollen.
    • Grenzzone: lange Gedankenketten, abstrakte oder mehrdeutige Anweisungen, alles, was native numerische oder logische Präzision erfordert.
    • Charakteristische Fehler: Reasoning Drift (kleine Fehler summieren sich) und Letter-over-Spirit (die Anweisung wurde befolgt, aber die Absicht nicht).
    • System-Prompts, Code-Ausführung, sichtbares Reasoning und strukturierte Output-Modi existieren, um zu verhindern, dass sich deine Absicht verwässert.
    • Wenn eine Anweisung wörtlich, aber nutzlos befolgt wird, formuliere das Ziel neu. Die Anweisung mit mehr Nachdruck zu wiederholen, schließt die Lücke nicht.
  • 4D-Verbindung: Steerability ist das, was Description (Beschreibung) mächtig macht und was sie begrenzt. Das Verständnis der Lücke zwischen Worten und Absicht verändert, wie du Prompts schreibst und wo du Checkpoints einfügst.

Übungen

Die Zielumformulierung

Warum? Die Lücke zwischen dem, was du sagst, und dem, was du meinst, ist der Ort, an dem die meisten Steerability-Fehler entstehen. Diese Übung lehrt dich, aus der Absicht heraus zu prompten, nicht nur aus der Anweisung.

Wähle eine Aufgabe aus deiner Liste aus Lektion 1, die mehrere Schritte oder ein bestimmtes Ausgabeformat umfasst. Schreibe das Ziel in einem Satz auf: was du eigentlich erreichen willst, nicht nur, wie die Ausgabe aussehen soll. („Mein Team davon überzeugen, dass dieser Zeitplan realistisch ist" ist ein Ziel. „Drei Aufzählungspunkte" ist ein Format.)

Führe nun drei Tests durch:

  1. Test 1: Enge Kontrolle. Gib eine kurze, konkrete, überprüfbare Anweisung im Zusammenhang mit deiner Aufgabe: „antworte als dreispaltige Tabelle", „genau fünf Aufzählungspunkte", „durchgehend in der zweiten Person". Überprüfe, ob sie präzise eingehalten wurde. Das ist die Fähigkeitszone: Die Anweisung ist einfach genug, um perfekt per Pattern-Matching erfasst zu werden.
  2. Test 2: Reasoning Drift. Bitte um eine Version deiner Aufgabe, die 4–5 voneinander abhängige Schritte erfordert. Überprüfe die Ausgabe Schritt für Schritt. Hat sich ein kleiner Fehler von früh an bis zum Ende durchgezogen? Versuche es nun erneut, aber bitte die KI, anzuhalten und dir das Ergebnis von Schritt 2 zu zeigen, bevor sie fortfährt. Vergleiche, was du bekommst, wenn du einen Checkpoint einfügst, mit dem, was passiert, wenn du sie einfach durchlaufen lässt.
  3. Test 3: Buchstabe vs. Geist. Gib eine Anweisung, die wörtlich, aber nutzlos erfüllt werden könnte. „Mach das kürzer" bei einem Entwurf, dessen eigentliches Problem die Struktur ist. „Mach das professioneller" bei einer E-Mail, deren eigentliches Problem ist, dass sie die Bitte verschleiert. Schau, was du bekommst. Prompte dann erneut, wobei du das Ziel explizit zusammen mit der Anweisung formulierst: „Mach das kürzer. Mein Ziel ist es, die Aufmerksamkeit der Führungskraft bis zum zentralen Befund auf Seite zwei zu halten." Vergleiche.

Geh zurück zu deiner Aufgabenliste. Notiere bei mehrstufigen Aufgaben, wo du einen Checkpoint einfügen würdest. Formuliere bei Aufgaben, bei denen du bisher nur mit Format geprompted hast, die Zielaussage, die du das nächste Mal hinzufügen wirst.

Lektionsreflexion

  • Wie oft hast du bisher nur das Format angegeben, aber nicht das Ziel? Was ändert sich, wenn du beides einbeziehst?
  • Was ist eine wiederkehrende Aufgabe, bei der du ab dieser Woche einen Checkpoint mitten im Prozess hinzufügen wirst?

Was kommt als Nächstes

Du hast nun alle vier Eigenschaften einzeln kennengelernt. In der nächsten Lektion schauen wir uns an, wie sie zusammenwirken, denn die meisten Fehler in der Praxis entstehen dort, wo zwei Eigenschaften aufeinandertreffen.