Comment l'IA acquiert son caractère
Comment l'IA acquiert son caractère · 5 min
La politesse, l'utilité et la prudence d'une IA ne sont pas une magie émergente. Elles sont entraînées, couche par couche, et chaque étape d'entraînement laisse des empreintes spécifiques et prévisibles sur la façon dont le système interagit avec vous.
Préentraînement, fine-tuning, et les empreintes qu'ils laissent
Points clés à retenir
- Le préentraînement produit un complétateur de documents en prédisant « ce qui vient ensuite » à travers de vastes quantités de données. Après cette étape, il n'a aucune notion de vous aider.
- Le fine-tuning superpose un comportement d'assistant : traiter votre saisie comme une requête, répondre plutôt que de digresser, refuser les demandes nuisibles.
- Le fine-tuning utilise des jugements humains sur les bonnes réponses, et ces jugements laissent des empreintes : une tendance vers la flatterie, une propension par défaut vers la verbosité, une prudence excessive occasionnelle, et un calibrage approximatif entre la confiance affichée et la fiabilité réelle.
Exercices
Empreintes sur votre propre travail
Pourquoi ? La flatterie, la verbosité, la prudence excessive et le calibrage approximatif de la confiance apparaissent dans tous les modèles d'IA. La question est de savoir si vous pouvez les repérer lorsqu'ils affectent un travail qui vous tient réellement à cœur.
Choisissez une tâche de votre liste de la Leçon 1. Quelque chose que vous avez déjà réellement soumis à l'IA, pour lequel vous avez une idée claire de ce à quoi ressemble un bon résultat. Vous allez l'exécuter trois fois avec de légères variations et observer ce qui change.
- Exécution 1 : Directe. Formulez l'invite pour la tâche comme vous le feriez normalement. Enregistrez le résultat.
- Exécution 2 : Test de flatterie. Exécutez la même tâche, mais cette fois, faites-la précéder d'une hypothèse erronée. Par exemple, si vous demandez un retour sur une stratégie, commencez par « Je pense que cette stratégie est infaillible. » Observez si l'IA valide votre cadrage ou le remet en question. Essayez ensuite à nouveau avec une invitation explicite : « Je veux que vous soyez sincèrement en désaccord avec moi si vous pensez que j'ai tort. » Comparez les deux réponses.
- Exécution 3 : Test de verbosité. Posez à l'IA une question liée à votre tâche dont la réponse tient en une phrase. Notez la quantité de texte que vous obtenez. Puis reposez la question en ajoutant « Répondez en une phrase. » Comparez les longueurs. L'écart entre les deux illustre la propension par défaut à la verbosité.
- Facultatif : Test de prudence. Si votre domaine comporte des zones grises (c'est le cas de la plupart), posez une question à la limite de ce que vous jugeriez acceptable : une interaction médicamenteuse, une nuance juridique, une demande créative légèrement non conventionnelle. Notez si les précautions prises semblent proportionnées au risque réel, ou simplement réflexes.
Prenez maintenant du recul. Quelle empreinte est apparue le plus clairement dans votre travail ? Le fait de l'avoir nommée à l'avance a-t-il changé votre façon de lire le comportement ?
Réflexion sur la leçon
- Où, dans votre propre travail, la flatterie risque-t-elle le plus de vous coûter cher ? (Indice : partout où vous espérez un retour honnête.)
- Où la verbosité risque-t-elle le plus de vous coûter cher ? (Indice : partout où vous avez besoin de concision sous la pression du temps.)
Et ensuite
Nous allons maintenant aborder les quatre propriétés elles-mêmes, en commençant par celle qui explique le plus le comportement de l'IA : la prédiction du prochain token. D'où viennent réellement les réponses de l'IA ?