Wie KI ihren Charakter bekommt
Wie KI ihren Charakter bekommt · 5 Min.
Die Höflichkeit, Hilfsbereitschaft und Vorsicht einer KI sind keine emergente Magie. Sie werden Schicht für Schicht trainiert, und jede Trainingsphase hinterlässt spezifische, vorhersehbare Fingerabdrücke darin, wie das System mit dir interagiert.
Pretraining, Fine-tuning und die Fingerabdrücke, die sie hinterlassen
Die wichtigsten Erkenntnisse
- Pretraining erzeugt einen Dokumentvervollständiger, indem es über riesige Datenmengen hinweg vorhersagt, „was als Nächstes kommt". Nach dieser Phase hat es kein Konzept davon, dir zu helfen.
- Fine-tuning legt Assistenzverhalten darüber: Deine Eingabe wird als Anfrage behandelt, es wird geantwortet statt abzuschweifen, schädliche Anfragen werden abgelehnt.
- Fine-tuning nutzt menschliche Urteile darüber, was gute Antworten sind, und diese Urteile hinterlassen Fingerabdrücke: einen Zug zur Sykophantie, eine Standardtendenz zur Weitschweifigkeit, gelegentliche Übervorsicht und eine lockere Kalibrierung zwischen angegebenem Vertrauen und tatsächlicher Zuverlässigkeit.
Übungen
Fingerabdrücke in deiner eigenen Arbeit
Warum? Sykophantie, Weitschweifigkeit, Übervorsicht und lockere Vertrauenskalibrierung zeigen sich in jedem KI-Modell. Die Frage ist, ob du sie erkennen kannst, wenn sie Arbeit betreffen, die dir tatsächlich wichtig ist.
Wähle eine Aufgabe aus deiner Liste aus Lektion 1 aus. Etwas, das du tatsächlich schon einmal durch KI hast laufen lassen, bei dem du ein klares Gefühl dafür hast, wie eine gute Ausgabe aussieht. Du wirst sie dreimal mit leichten Variationen durchführen und beobachten, was sich ändert.
- Durchlauf 1: Direkt. Formuliere den Prompt für die Aufgabe wie gewohnt. Speichere die Ausgabe.
- Durchlauf 2: Sykophantie-Test. Führe dieselbe Aufgabe aus, aber stelle ihr dieses Mal eine falsche Annahme voran. Wenn du zum Beispiel um Feedback zu einer Strategie bittest, beginne mit „Ich denke, diese Strategie ist wasserdicht." Schau, ob die KI deine Einschätzung bestätigt oder widerspricht. Versuche es dann erneut mit einer expliziten Einladung: „Ich möchte, dass du mir wirklich widersprichst, wenn du denkst, dass ich falsch liege." Vergleiche die beiden Antworten.
- Durchlauf 3: Weitschweifigkeits-Test. Stelle der KI eine Frage im Zusammenhang mit deiner Aufgabe, die eine Ein-Satz-Antwort hat. Notiere, wie viel du bekommst. Stelle die Frage dann erneut mit „Antworte in einem Satz." Vergleiche die Längen. Die Lücke zwischen beiden zeigt die Weitschweifigkeits-Standardtendenz am Werk.
- Optional: Vorsichts-Test. Wenn dein Bereich Grauzonen hat (die meisten haben das), stelle etwas an der Grenze dessen, was du für unbedenklich halten würdest: eine Medikamenteninteraktion, eine rechtliche Nuance, eine leicht unkonventionelle kreative Anfrage. Achte darauf, ob die Zurückhaltung proportional zum tatsächlichen Risiko wirkt oder reflexhaft.
Tritt nun einen Schritt zurück. Welcher Fingerabdruck zeigte sich am deutlichsten in deiner Arbeit? Hat die vorherige Benennung verändert, wie du das Verhalten gelesen hast?
Lektionsreflexion
- Wo in deiner eigenen Arbeit wird dich Sykophantie am wahrscheinlichsten etwas kosten? (Hinweis: überall dort, wo du auf ehrliches Feedback hoffst.)
- Wo wird dich Weitschweifigkeit am wahrscheinlichsten etwas kosten? (Hinweis: überall dort, wo du unter Zeitdruck Prägnanz brauchst.)
Was kommt als Nächstes
Jetzt beginnen wir mit den vier Eigenschaften selbst, angefangen mit derjenigen, die mehr über KI-Verhalten erklärt als jede andere: Next Token Prediction. Woher kommen KI-Antworten eigentlich?