LA IAgen Y SUS USOS EDUCATIVOS

 En España, como en casi todo el mundo, exceptuando China, donde DeepSeek controla este mercado, es Chat-gpt, de OpenAI, quien domina el mercado con un 50- 85%, seguidos de Copilot (7-14%) de Microsoft y Gemini, de Google (2-14%), siendo el uso de DeepSeek muy escaso (0,2%) aunque en crecimiento. En 2023 Open AI lanzó Chat-gpt4, que ha sido superado con el lanzamiento el 7 de agosto de 2025 de Chat-gpt5. 

Una vez que el GPT ha sido entrenado, la generación de una respuesta de texto a un prompt involucra los siguientes pasos:

1. El prompt es dividido en unidades más pequeñas (llamadas tokens) que son ingresadas

en el GPT (transformador generativo preentrenado, es un tipo de LLM o modelos de lenguaje de gran tamaño, o sistemas de IAGen de texto, que son un tipo de RNA o redes neuronales artificiales conocido como transformador de propósito general).

2. El GPT utiliza patrones estadísticos para predecir las posibles palabras o frases que podrían conformar una respuesta coherente al prompt.

3. Las palabras o frases predichas son convertidas en texto legible.

4. El texto legible es filtrado a través de lo que se conoce como “barandillas” (guardrails) para

eliminar cualquier contenido ofensivo.

5. Los pasos 2 a 4 se repiten hasta que finaliza una respuesta. La respuesta se considera

finalizada cuando alcanza un límite máximo de tokens o cumple con criterios de finalización

predefinidos.

6. La respuesta se postprocesa para mejorar su legibilidad aplicando formato, puntuación y otras adaptaciones (como empezar la respuesta con palabras que podría utilizar un humano, como “Claro”, “Por supuesto” o “Lo siento”).

Desafíos de los EdGTP (según la UNESCO):

Un desafío reside en determinar hasta dónde los modelos EdGPT pueden ir más allá del conocimiento de las asignaturas para apuntar también a la pedagogía centrada en el estudiante y a las interacciones positivas docente-estudiante.

Otro desafío será determinar hasta dónde pueden recogerse y utilizarse éticamente los datos de estudiantes y docentes para alimentar un EdGPT.

Finalmente, también es necesaria una investigación robusta que garantice que EdGPT no socave los derechos humanos de los estudiantes ni desempodere al profesorado, aunque según chat-gpt, los EDgpt empoderan al profesorado.

Riesgos de la IA en educación:

1. Aumento de la brecha digital entre estudiantes pertenecientes a colectivos desfavorecidos (gitanos, inmigrantes) y el resto, si no el uso de la IA no va asociado a medidas complementarias . como garantizar el acceso a internet para todos o  una mínima alfabetización tecnológica, principalmente en IA (IA literaracy).

Los actuales modelos de ChatGPT están entrenados con datos de usuarios en línea que reflejan los valores y normas del Norte Global, lo cual los hace inapropiados para algoritmos de IA localmente relevantes en comunidades pobres en datos de muchas partes del Sur Global o en comunidades menos favorecidas del Norte Global. P.ej. chat-gpt en un contexto educativo islámico, da respuestas respetuosas y neutrales, no desde un punto de vista islámico, para lo cual requeriría un entrenamiento adicional (fine-tuning).

2.  Falta de regulación de la IAgen, que suele ir por detrás de las nuevas aplicaciones que van saliendo. 

En vigor desde el 1 de agosto de 2024, la AI Act establece un marco normativo armonizado en toda la UE para el uso de la IA, prohibiendo, p.ej., los sistemas de reconocimiento de emociones.

Ley para la protección de menores en el entorno digital: 

Aprobada en las Cortes en marzo de 2025 (aún no en BOE), esta ley busca proteger a los menores en el entorno digital, incluyendo el ámbito educativo. Establece medidas como la obligatoriedad de controles parentales en dispositivos, la elevación de la edad mínima para acceder a redes sociales a 16 años y la regulación del uso de dispositivos en entornos educativos. Claves de esta ley:

Los deepfake o ultrafalsificaciones

Son imágenes, estáticas o en movimiento, o voces manipuladas tecnológicamente y que parecen reales. Entrarán en el Código Penal con nuevo artículo, el 173 bis.

Las penas de prisión serán de uno a dos años para quienes “sin autorización de la persona afectada y con ánimo de menoscabar su integridad moral, difundan, exhiban o cedan su imagen corporal o audio de voz generada, modificada o recreada mediante sistemas automatizados, software, algoritmos, inteligencia artificial o cualquier otra tecnología, de modo que parezca real, simulando situaciones de contenido sexual o gravemente vejatorias”. Es más grave si se comete contra niñas, niños o adolescentes. Si el ciberdelincuente tiene menos de 14 años no tiene responsabilidad penal, sino que se someterá a medidas socioeducativas. Si tiene entre 14 y 17 y la pena es de menos de 2 años, también medidas socioeducativas. En caso contrario podría ser internado en un centro de menores.

Los 16 años será la edad mínima para acceder y registrarse en redes sociales. La edad de consentimiento para el tratamiento de datos personales (regulada en la Ley de Protección de Datos) y, por lo tanto, necesaria para abrirse una cuenta en redes sociales, subirá de los 14 a los 16 años.

El Gobierno español ha aprobado en marzo de 2025 un anteproyecto de ley para el buen uso y la gobernanza de la IA, con el objetivo de adaptar la legislación española al Reglamento europeo e incluir elementos clave como:

• Etiquetado obligatorio de contenido generado por IA.

• Prohibición de prácticas nocivas (manipulación subliminal, explotación de vulnerabilidades, uso discriminatorio, deepfakes, etc.).

• Sanciones elevadas, que pueden alcanzar hasta 35 millones de euros o un porcentaje del volumen de negocio.

• Agencia Española de Supervisión de la IA (AESIA)

  España cuenta ya con una autoridad especializada para supervisar la aplicación de la normativa. La AESIA fue creada oficialmente en 2023 y está operativa desde junio de 2024.

• 3. Uso de contenidos sin consentimiento. los modelos de IAGen se construyen a partir de grandes cantidades de datos (tales como texto, sonidos, código e imágenes) frecuentemente obtenidos de Internet y, habitualmente, sin permiso de ningún propietario.

•   Los modelos de IAGen heredan y perpetúan los sesgos existentes en sus datos de entrenamiento que, dada la falta de transparencia de los modelos, son difíciles de detectar y abordar. Para reducirlo, ChatGPT aplica guardrails y filtros que detectan y mitigan respuestas sesgadas, y también puede reformular el contenido si se le pide un enfoque más inclusivo o multicultural. Sin embargo, la mitigación no es perfecta y la vigilancia crítica del usuario sigue siendo necesaria. SE puede entrenar al alumnado a detectar y corregir estos sesgos (machista, eurocéntrico, etc.)

• 4. Contenido sesgado generado por IA que contamina internet.

• 5. Falta de comprensión del mundo real. los GPT pueden producir con frecuencia textos inexactos o poco confiables. De hecho, es bien sabido que los GPTs inventan algunas cosas que no existen en la vida real. Algunos llaman a esto “alucinación” (hallucination).

• la IAGen representa un paso importante en el camino hacia la inteligencia artificial general (IAG), término que sugiere una clase de IA más inteligente que los humanos. Sin embargo, esto ha sido criticado durante largo tiempo, con el argumento de que la IA nunca progresará hacia la IAG.

• Los estudiantes, docentes e investigadores nunca deberían aceptar la información proporcionada por la IAGen al pie de la letra, sino evaluarla siempre de forma crítica.

• 6. Monopolio del pensamiento único y marginalización de las opiniones minoritarias.

• 7. Mayor facilidad de generación de deepfakes. Docentes y estudiantes también deben ser conscientes de que cualquier imagen que compartan en Internet puede ser integrada en los datos de entrenamiento de la IAGen y podría ser manipulada y utilizada de forma antiética.

• El Consenso de Beijing sobre la Inteligencia Artificial (IA) y la Educación (2019) ahonda en lo que implica un enfoque centrado en el ser humano para el uso de la IA en el contexto de la educación. El Consenso afirma que el uso de las tecnologías de IA en la educación debería mejorar las capacidades humanas

• La Recomendación sobre la Ética de la Inteligencia Artificial (UNESCO, 2021) ofrece el marco normativo necesario para comenzar a abordar las múltiples controversias en torno a la IA generativa, incluyendo a las que atañen a la educación.

• Actualmente, los términos de uso de ChatGPT exigen que los usuarios tengan al menos 13 años de edad (los de 1º de ESO lo tienen prohibido), y los menores de 18 deben contar con el permiso de sus padres o tutores para utilizar el servicio. Muchos analistas consideran que este límite es demasiado bajo y han abogado por una legislación que eleve la edad a 16 años (a partir de 1º de Bac). Según la INUESCO, La edad mínima debería ser de 13 años.

• El Reglamento General de Protección de Datos (GDPR) de la Unión Europea (2016) especifica que los usuarios deben tener al menos 16 años para utilizar servicios de redes sociales sin permiso parental.

• Posiblidades:

• 1. Pedir a la IAgen que elabore las normas y rúbrica de evaluación para elaboración de trabajos por el alumnado, teniendo en cuenta ciertos criterios de evaluación oficiales, de modo que sea imposible que el trabajo se lo  labore la IA.

• 2. Establecer diálogos socráticos con la IA, donde se le pide a ésta que plantee un diálogo socrático sobre un tema, y te va haciendo preguntas para profundizar sobre ese tema.

• 3. Pedir a la IA ideas para trabajos colaborativos de investigación por proyectos, dentro de las SdA.

• 4. Uso en el DUA como ayuda para estudiantes con discapacidad auditiva o visual. Los modelos de IAGen también pueden convertir texto en habla y habla en texto para que las personas con deficiencias visuales, auditivas o del habla o con desconocimiento del español accedan a los contenidos, formulen preguntas y se comuniquen.