Éthique et IA
Éthique et utilisation responsable de l'IA · 10 min
Cette vidéo présente la boucle Délégation-Diligence. Vous verrez Mme Okafor, une enseignante de sciences de 7e année, utiliser l'IA pour l'aider à travailler avec des données et améliorer son enseignement. Vous verrez comment la validation et la gestion prudente des données des élèves peuvent garantir que l'IA est utilisée de manière responsable et éthique.
La boucle Délégation ↔ Diligence
La boucle externe encadre chaque interaction avec l'IA : vous décidez à l'avance ce qu'il convient de déléguer : la bonne tâche, le bon outil, les bonnes données. Ensuite, vous assumez la responsabilité de ce qui en résulte.
Vous décidez quelles parties de votre travail sur les données peuvent être confiées en toute sécurité à l'IA, et lesquelles doivent rester de votre ressort. De quel mouvement s'agit-il ?
Points clés à retenir
- Les protections des données comme la loi FERPA s'appliquent aux outils d'IA. N'utilisez que des outils approuvés par le district pour tout ce qui concerne les informations des élèves.
- L'utilisation responsable de l'IA exige un jugement pédagogique. Vous devrez naviguer dans des zones grises que les politiques ne couvrent pas.
- Vos valeurs guident déjà votre enseignement. Reliez-les à l'IA : décidez ce que vous ne déléguerez pas et ce que signifie « utile ».
- L'utilisation éthique de l'IA est un processus continu. Révisez vos engagements à mesure que les élèves, le contexte et les outils évoluent.
Exercices
Définissez votre ligne éthique en tant qu'éducateur
Utiliser l'IA de manière responsable ne consiste pas seulement à suivre des règles ; il s'agit d'un jugement éthique dans les zones grises où les politiques ne donnent pas de réponse claire. Nommez les préoccupations qui vous importent le plus et transformez-les en engagements que vous pouvez tenir.
Partie I : Nommez les tensions éthiques
En pensant à votre rôle d'éducateur et aux élèves que vous servez, choisissez une ou deux préoccupations ci-dessous — ou autre chose — qui vous semblent les plus importantes, ou les plus non résolues, pour vous en ce moment, et notez rapidement pourquoi cela compte dans votre contexte.
- Dépendance : Quand le recours à l'IA pourrait-il remplacer la réflexion que les élèves doivent faire eux-mêmes ?
- Désocialisation : Quand l'IA pourrait-elle remplacer l'interaction humaine, la collaboration ou la construction de relations ?
- Biais : Quand l'IA pourrait-elle renforcer des perspectives étroites, des stéréotypes ou des inégalités existantes ?
- Autonomie des élèves : Qui contrôle la manière dont l'IA est utilisée : l'élève, l'éducateur ou le système ?
- Équité d'accès : Qui bénéficie de l'IA, et qui pourrait être exclu en raison de l'accès ou des ressources ?
- Impact environnemental : Comment la consommation d'énergie, la demande de calcul ou l'échelle des systèmes d'IA entrent-elles en compte dans vos décisions éthiques ?
Partie II : Rédigez vos engagements éthiques
Transformez la ou les tensions que vous avez nommées en engagements et ajoutez-les à votre document de contexte issu de la leçon Le cadre des 4D. En gardant à l'esprit la ou les préoccupations que vous avez choisies, complétez ceci avec vos propres mots :
- Pour me protéger contre cette préoccupation, je ne déléguerai pas les décisions liées à : (par exemple, le jugement final, le retour relationnel, l'évaluation à enjeux élevés)
- L'IA est utile dans ma pratique lorsqu'elle m'aide, moi ou mes élèves, (par exemple, à s'exercer, explorer des idées, se débloquer)—sans aggraver la tension que j'ai nommée.
- Lorsque je ne suis pas sûr(e) qu'une utilisation de l'IA soit éthique, je vais : (par exemple, faire une pause, consulter un collègue, examiner les directives du district, tester avec prudence)
Vous venez de rédiger une position éthique personnelle, quelque chose qu'aucun outil ne peut faire pour vous. Révisez-la à mesure que vos élèves, votre contexte et vos outils évoluent.
Réflexion sur la leçon
- Quel est un changement concret que vous apporterez à la façon dont vous gérez les données avec l'IA — et quels outils sont réellement approuvés pour cela ?
- Pensez au travail sur les données que vous effectuez le plus régulièrement : analyser les performances des élèves, examiner l'assiduité, interpréter les résultats d'enquêtes. Où, dans ce processus, pensez-vous que l'IA pourrait véritablement aider, et où pensez-vous que le jugement humain est trop important pour être délégué ?
Et ensuite
Dans la prochaine leçon, nous explorerons en quoi les différents modèles d'IA diffèrent et vous élaborerez un document personnel de valeurs en matière d'IA : les intentions, les principes et les limites qui définissent la façon dont vous travaillez avec l'IA.