May 20, 2022
El software de seguimiento de emociones podría engañar a su hijo por parecer aburrido en matemáticas

Foto: Karwai Tang/Getty (imágenes falsas)

Intel está aprendiendo una lección difícil después de asociarse con Classroom Applied sciences para desarrollar una IA de lectura de rostros que detecta las emociones de los estudiantes en las llamadas de Zoom.

La tecnología de participación de los estudiantes, creada por Intel con el software program Class de Classroom Applied sciences, captura imágenes de los rostros de los estudiantes con sus cámaras net y las combina con tecnología de visión por computadora e información contextual para predecir los niveles de participación a través de las emociones.

El objetivo es proporcionar a los educadores datos de respuesta emocional que puedan usar para personalizar las lecciones y mejorar la participación de los estudiantes. La IA podría detectar que los estudiantes se confunden durante una sección específica de una lección y enviar esa información a los maestros para que puedan volver a evaluar cómo se está enseñando ese tema en explicit.

“Intel se dedica a garantizar que los profesores y los estudiantes tengan acceso a las tecnologías y herramientas necesarias para enfrentar los desafíos del mundo cambiante”, dijo Michael Campbell, director international de Intel para los segmentos comerciales y de consumo de educación. “A través de la tecnología, tenemos la capacidad de establecer el estándar para experiencias impactantes de aprendizaje en línea sincrónicas que empoderan a los educadores”.

El CEO de Classroom Applied sciences, Michael Chasen, cube que los maestros tienen problemas para interactuar con los estudiantes en un aula digital de la period de la pandemia, y que los conocimientos que ofrece esta tecnología de IA pueden ayudar a los educadores a comunicarse mejor. Classroom Applied sciences planea probar la tecnología de lectura de emociones, que Intel espera convertir en un producto para una distribución generalizada.

Como se detalla en un informe de Protocol, esta IA que lee rostros ya tiene sus críticos, quienes argumentan que usar la tecnología de reconocimiento facial en los estudiantes es una invasión de la privacidad y que la tecnología simplifica demasiado las emociones humanas, lo que puede conducir a resultados dañinos.

A medida que el aprendizaje ha pasado del aula al hogar, las escuelas han buscado desesperadamente nuevas formas de interactuar con los estudiantes. Un debate inicial giró en torno al uso de cámaras net. Los que estaban a favor argumentaron que la interacción cara a cara mejoraba el aprendizaje y obligaba a rendir cuentas, mientras que los que estaban en contra del uso de cámaras net decían que period una violación de la privacidad y que podía aumentar los niveles de estrés y ansiedad. Leer los rostros de los estudiantes y analizarlos con IA agrega otra capa al problema, dicen los críticos.

“Creo que la mayoría de los profesores, especialmente a nivel universitario, encontrarían esta tecnología moralmente reprobable, como el panóptico”, dijo a Protocol Angela Dancey, profesora titular de la Universidad de Illinois Chicago. “Francamente, si mi institución me lo ofreciera, lo rechazaría, y si nos obligaran a usarlo, lo pensaría dos veces antes de seguir trabajando aquí”.

Estas críticas llegan en un momento en que las escuelas están abandonando el software program de supervisión invasivo que explotó durante la pandemia cuando los estudiantes se vieron obligados a aprender de forma remota. A menudo utilizadas para desalentar las trampas, estas herramientas usan cámaras net para monitorear los movimientos de los ojos y la cabeza, tocar micrófonos para escuchar la sala y registrar cada clic del mouse y pulsación de tecla. Estudiantes de todo el país han firmado peticiones argumentando que la tecnología es una invasión de la privacidad, discrimina a las minorías y castiga a las personas con discapacidades, como informa Motherboard.

También está la cuestión de si las expresiones faciales se pueden usar con precisión para evaluar el compromiso. Los investigadores han descubierto que las personas se expresan de maneras inconmensurables. Como tal, los críticos argumentan que las emociones no se pueden determinar basándose únicamente en las expresiones faciales. Asumir que un estudiante se ha desconectado de una lección simplemente porque parece no estar interesado en las métricas de su algoritmo es una reducción de las complejidades de la emoción.

“Los estudiantes tienen diferentes formas de presentar lo que sucede dentro de ellos”, dijo Todd Richmond, profesor de la Escuela de Graduados Pardee RAND, hablando con Protocol. “Que el estudiante esté distraído en ese momento puede ser el estado apropiado y necesario para él en ese momento de su vida”.

También existe cierta preocupación de que los análisis proporcionados por la IA puedan usarse para penalizar a los estudiantes. Si, por ejemplo, se considera que un estudiante está distraído, es posible que obtenga puntajes de participación bajos. Y los maestros pueden sentirse incentivados a usar los datos si un sistema escolar evalúa a los educadores por los puntajes de compromiso de sus estudiantes.

Intel creó la tecnología de análisis emocional utilizando datos capturados en aulas de la vida actual con cámaras 3D y trabajó con psicólogos para categorizar las expresiones faciales. Algunos maestros han encontrado que la IA es útil, pero Chasen cube que no cree que el sistema de Intel haya “alcanzado su madurez todavía” y necesita más datos para determinar si los resultados que escupe la IA realmente coinciden con el rendimiento de los estudiantes. Chasen cube que la tecnología de Intel será solo una pieza de un rompecabezas más grande para evaluar a los estudiantes.

Intel y Classroom Applied sciences afirman que su tecnología no fue diseñada como un sistema de vigilancia o para ser utilizada como evidencia para penalizar a los estudiantes, pero como vemos a menudo en la industria de la tecnología, los productos se utilizan con frecuencia de formas no previstas por sus creadores.

Nos comunicamos con Classroom Applied sciences para obtener comentarios y actualizaremos esta historia cuando recibamos una respuesta.