Categorías:
En la era digital, la Inteligencia Artificial (IA) ha emergido como una herramienta transformadora en diversos sectores, y la educación no es la excepción. Sin embargo, la integración de la IA en ámbitos especialmente sensibles como es el educativo no está exenta de desafíos, especialmente en lo que respecta a los conflictos éticos y de seguridad.
Los principales retos a los que nos enfrentamos vienen determinados por ese gran movimiento de reflexión que desde hace ya unos años marcan los foros tecnológicos y que ha llevado a la Unión Europea a regular el uso de la Inteligencia Artificial en el 2024. Estas áreas críticas son: el contenido con el que se entrena la IA, la vulneración del copyright en la IA generativa, y el beneficio que se obtiene de los resultados generados.
Cada uno de estos aspectos plantea reflexiones y soluciones sobre cómo preparar a los ciudadanos del mañana a comprender los riesgos que estas claves traen consigo, pero, ante todo, reflexionar y afrontar estos desafío en su presente, en el aula, así como, en el futuro de manera efectiva.
IA, prevención y seguridad
Los algoritmos de IA son tan buenos como los datos con los que son alimentados, por tanto, su origen y los sesgos de su selección se reflejarán en los resultados de la IA. Esto es debido a que la inteligencia artificial actual estima estadísticamente cuáles son las respuestas frecuentes más positivas, o precisas.
Durante su entrenamiento se la expone a patrones, retos, información seleccionada, etc; creando un algoritmo de gran complejidad que nos permite analizar textos, imágenes, audios, videos, etc. Y, consecuentemente, obteniendo una respuesta limitada por esa selección de datos. Esto es especialmente preocupante en un entorno educativo donde la protección a los datos es clave y las respuestas obtenidas pueden marcar un adoctrinamiento.
La IA no solo se crea, sino también se desarrolla con su ejercicio, los datos que se le introducen para obtener una respuesta son tratados y almacenados, así como la valoración del usuario. En un entorno educativo esto es una brecha de privacidad significativa, ¿se están usando los datos que incorporaron en entrenar la IA? ¿La respuesta es veraz? De ahí que los nuevos modelos de IA dispongan de procesos que protegen la integridad de los alumnos y anuncian que las respuestas deben ser comprobadas. Sin embargo, ¿esto es conocido por ellos?
Las respuestas no son sencillas, pero sí que sabemos que cada vez más los alumnos de secundaria emplean la IA generativa o GenIA para ayudarse en sus tareas, en el último informe de El impacto de la IA en la educación en España. Familias y escuelas ante la Inteligencia Artificial, asciende hasta el 40% del alumnado. Por ello, es esencial poder desarrollar, dentro de su alfabetización mediática, una conciencia de ciberseguridad centrada en los datos, en los derechos que cedemos al aceptar los términos y condiciones, etc.
Por ello, una mayor exposición e implementación de la IA en las actividades de clase es esencial. Debe haber una vivencia e interacción con estas GenIA en el aula para que el aprendizaje sea significativo, pero integral al emplearse como parte del proceso de desarrollo competencial. Plantea análisis de textos y creación de esquemas, de esta manera se logra es primera interacción y un desarrollo de la autonomía en el estudio, dejando siempre espacio para contrastar la información, incitar a la reflexión y la discusión.
Creación vs Copyright
La IA generativa o GenIA, genera un nuevo contenido a partir de cualquier dato con el que haya sido entrenada y aquellos que se la faciliten. Por ello, plantea preocupaciones sobre la violación de derechos de autor.
No solo en los datos con los que se entrena, sino con la demanda que se le indica en la generación y con respecto a los resultados de la generación. Y es que puede producir textos, imágenes y música, a menudo utilizando o copiando material protegido por copyright sin el debido reconocimiento o compensación a los creadores originales.
Esto es especialmente sensible, ya que en este mundo digital hiperconectado compartir es una actividad constante, y todos somos capaces de difundir estos productos, cometiendo por ello una infracción de los derechos de autor, e incluso algo peor que veremos más adelante.
Aunque el debate sobre esta cuestión no ha finalizado, es esencial intervenir en el aula con una formación en esta línea, mediante el conocimiento de las licencias de uso, mostrando a los estudiantes que no todo vale.
De esta manera, promoviendo actividades creativas digitales donde la IA forme parte de este proceso, abre las puertas a ciudadanos digitales que respetan la propiedad intelectual, siendo el docente clave para orientar en el respeto y transmitir los principios éticos y morales del contenido propietario; además de, predicar con el ejemplo.
La GenIA, productos y consecuencias
Tras revisar las implicaciones legales y éticas de la IA queda, por tanto, abarcar el uso que hacemos de esta tecnología y sus creaciones. Si bien se vislumbra ya unas consecuencias claras de su empleo, como es la vulneración del copyright y el consecuente beneficio, hay consecuencias mucho más graves y lesivas.
La GenIA puede generar casi cualquier cosa, con la temática y la imagen de cualquiera, es decir, que la estadística y la imaginación son nuestro límite. Es por ello que causa preocupación y con razón el uso malicioso de videos, e imágenes falsas y su consecuente impacto social y personal.
Es común en todos los centros disponer de un reglamento de convivencia que cubra la actividad digital entre ellos el bullying. Y es que según datos de las OMS el 14% de los estudiantes de España ha sufrido acoso, de los cuales casi el 10% ha sido ciberacoso, llegando a una tasa de intento de suicidio del 20% en agredidos y agresores.
Si ante estos datos, valoramos que cada vez más se genera contenido por inteligencia artificial entre los estudiantes de secundaria, etapa donde los problemas de convivencia son más significativos. Considerando, también, que la creación de contenido falso y Fake news es cada vez más fácil gracias a esta tecnología.
Surge la responsabilidad de formar y alentar, desde todos los actores de la comunidad educativa, a un uso responsable de la tecnología. Es por ello, que se debe trabajar desde la prevención, con una concienciación profunda de las consecuencias de crear algo con IA que pueda perjudicar a otros, y que estos bulos lleven a un desenlace fatal.
ODILO, comprometidos con la seguridad y la educación
Ante los desafíos que se plantean el sector tecnológico y el mundo educativo, ODILO se erige como una solución integral que permite:
- Trabajar desde la prevención y formación de docentes y profesores.
- Practicar y emplear la Inteligencia artificial.
- Un entorno seguro y privado.
ODILO, permite, gracias a los itinerarios formativos y contenidos especializados en inteligencia artificial, el desarrollo competencias de toda la comunidad educativa, permitiendo no solo formarse en un nivel inicial sobre conceptos y principales usos de la inteligencia artificial, sino poder avanzar hacia el impacto formativo, desde la prevención, de un desarrollo de cómo afrontar los dilemas éticos y de seguridad que se vayan a presentar en un futuro. Disponiendo las familias, de la posibilidad, igualmente, de formarse en estas nuevas tecnologías.
Además, gracias a la IA de creación de contenido, preparada para uso, los docentes dispondrán de un asistente de IA generativa que cubre las demandas de creación de contenido formativo, sin incurrir en riesgo de empleo de datos o incurrir en vulneraciones de copyright, además, será mucho más fácil poder crear actividades significativas.
Finalmente, el ecosistema ilimitado de aprendizaje de ODILO es un entorno seguro con los mayores estándares de calidad, así como, la garantía de que el modelo de inteligencia artificial no recopila dato alguno de los usuarios.
Por todo ello, ODILO se consolida como una referencia en la formación, concienciación y desarrollo de la alfabetización digital de la comunidad educativa, así como en el desarrollo de estas competencias para el desarrollo profesional de docentes.