Ética e IA
Ética y uso responsable de la IA · 10 min
Este video recorre el ciclo de Delegación-Diligencia. Verás a la Sra. Okafor, una maestra de ciencias de 7.º grado, usar la IA para ayudarla a trabajar con datos y mejorar su enseñanza. Verás cómo la validación y el manejo cuidadoso de los datos de los estudiantes pueden garantizar que la IA se use de manera responsable y ética.
El ciclo Delegación ↔ Diligencia
El ciclo externo enmarca cada interacción con la IA: decides de antemano qué es correcto delegar: la tarea correcta, la herramienta correcta, los datos correctos. Después, te haces responsable de lo que regresa.
Decides qué partes de tu trabajo con datos son seguras para entregar a la IA, y cuáles deben quedarse contigo. ¿Qué movimiento es ese?
Puntos clave
- Las protecciones de datos como FERPA se aplican a las herramientas de IA. Usa solo herramientas aprobadas por el distrito para cualquier cosa que involucre información de estudiantes.
- El uso responsable de la IA requiere criterio pedagógico. Navegarás zonas grises que la política no cubre.
- Tus valores ya guían tu enseñanza. Conéctalos con la IA: decide qué no delegarás y qué significa "útil".
- El uso ético de la IA es continuo. Revisa tus compromisos a medida que cambian los estudiantes, el contexto y las herramientas.
Ejercicios
Articula tu línea ética como educador
Usar la IA de manera responsable no se trata solo de seguir reglas; se trata de criterio ético en las zonas grises donde la política no da una respuesta clara. Nombra las preocupaciones que más te importan y convierte en compromisos que puedas cumplir.
Parte I: Nombra las tensiones éticas
Pensando en tu rol como educador y en los estudiantes a los que sirves, elige una o dos preocupaciones de las siguientes —o algo más— que te parezcan más importantes, o más sin resolver, en este momento, y anota una nota rápida sobre por qué importa en tu contexto.
- Dependencia: ¿Cuándo podría la dependencia de la IA reemplazar el pensamiento que los estudiantes necesitan hacer por sí mismos?
- Desocialización: ¿Cuándo podría la IA desplazar la interacción humana, la colaboración o la construcción de relaciones?
- Sesgo: ¿Cuándo podría la IA reforzar perspectivas estrechas, estereotipos o desigualdades existentes?
- Agencia del estudiante: ¿Quién controla cómo se usa la IA: el estudiante, el educador o el sistema?
- Equidad de acceso: ¿Quién se beneficia de la IA, y quién podría quedar excluido por falta de acceso o recursos?
- Impacto ambiental: ¿Cómo influye el uso de energía, la demanda de cómputo o la escala de los sistemas de IA en tus decisiones éticas?
Parte II: Redacta tus compromisos éticos
Convierte la(s) tensión(es) que nombraste en compromisos y agrégalos a tu documento de contexto de la lección El marco de las 4D. Teniendo en mente la(s) preocupación(es) que elegiste, completa esto con tus propias palabras:
- Para protegerme contra esa preocupación, no delegaré decisiones relacionadas con: (p. ej., el juicio final, la retroalimentación relacional, la evaluación de alto riesgo)
- La IA es útil en mi práctica cuando me ayuda a mí o a mis estudiantes a (p. ej., practicar, explorar ideas, salir de un bloqueo) —sin empeorar la tensión que nombré.
- Cuando no estoy seguro de si un uso de la IA es ético, yo: (p. ej., me detengo, consulto a un colega, reviso las pautas del distrito, hago una prueba piloto con cautela)
Acabas de redactar una postura ética personal, algo que ninguna herramienta puede hacer por ti. Revísala a medida que cambien tus estudiantes, tu contexto y tus herramientas.
Reflexión de la lección
- ¿Cuál es un cambio concreto que harás en la forma en que manejas los datos con la IA, y qué herramientas están realmente aprobadas para ello?
- Piensa en el trabajo con datos que haces con más regularidad: analizar el desempeño de los estudiantes, revisar la asistencia, interpretar resultados de encuestas. ¿En qué parte de ese proceso crees que la IA podría ayudar genuinamente, y en qué parte crees que el criterio humano es demasiado importante para delegarlo?
Qué sigue
En la próxima lección, exploraremos cómo difieren los distintos modelos de IA y construirás un documento personal de valores de IA: las intenciones, principios y límites que definen cómo trabajas con la IA.