Integración de la inteligencia artificial en procesos creativos y educativos

Ya se ha escrito mucho sobre las aportaciones de la integración de la inteligencia artificial en la actualidad.

En los procesos creativos, las artes y el diseño, la IA genera combinaciones originales, complejas e innovadoras de elementos, técnicas, patrones y estilos en múltiples formatos (como ilustraciones, dibujos, música, guiones, video, texto, modelado 3D, animación, diseño de interfaces, arte digital, pintura, fotografía, etc.), plataformas y dispositivos, al adaptarse a las preferencias, comportamientos y estilos de los usuarios. En este sentido, podría considerarse como un socio creativo.

La IA automatiza tareas repetitivas en el proceso de diseño -como la selección de colores, la generación de diseños de maquetación y la edición de imágenes- y genera variaciones y prototipos de manera rápida y eficiente. Por su parte, los humanos aportan su juicio estético, su intuición y su capacidad para comprender el contexto emocional y cultural, al discernir, seleccionar, refinar y dar sentido a ese contenido.

Ya en 2019, Marcus du Sautoy, en su libro The Creativity Code. Art and Innovation in the Age of AI, comentaba que esta complementariedad permite una colaboración sinérgica: la IA proporciona la materia prima creativa y los humanos la refinan, la interpretan y la dotan de significado. Asimismo, destacaba que esta colaboración puede ayudar a los creadores a ampliar sus horizontes creativos.

Esto transforma el papel del artista o diseñador, que pasa de ser el creador exclusivo a convertirse en un colaborador con la IA, lo cual obliga a desarrollar nuevas habilidades para trabajar con estas herramientas, comprender su potencial y sus límites creativos, y evolucionar para incursionar en nuevas disciplinas, formas de expresión y estilos artísticos impulsados por esta tecnología.

En los procesos pedagógicos, la integración de la IA en la educación (conocida en inglés como AIED) también ha aportado múltiples beneficios al crear entornos de aprendizaje adaptados a las necesidades, ritmos y estilos de aprendizaje de cada estudiante (aprendizaje hiperpersonalizado), así como sistemas de tutoría inteligente que proporcionan retroalimentación y apoyo en tiempo real, mejoran la comprensión y el rendimiento. De esta manera, funciona como tutor inteligente y herramienta de aprendizaje.

También facilita la creación de recursos y herramientas educativas accesibles para estudiantes con diversas necesidades -incluidos aquellos con discapacidades-, mientras que la traducción y adaptación de contenidos educativos a diferentes idiomas y formatos amplía el acceso a la educación.

Para el personal administrativo y docente, la automatización de tareas administrativas y logísticas, la formulación de políticas educativas, la gestión de recursos y la generación de materiales de aprendizaje y evaluación permite que puedan enfocarse en la enseñanza y la interacción con los estudiantes, identificar sus necesidades y adaptar las estrategias pedagógicas.

Debates y desafíos en las áreas creativas

Existen diversos debates en torno al uso general de la inteligencia artificial, como garantizar la equidad en el acceso a la tecnología, evitar que se amplíe la brecha digital, entre otros.

En relación con los procesos creativos, Sautoy (2019) plantea preguntas fundamentales sobre quién es el autor de una obra creada por IA: ¿es el programador, la máquina o ambos?; ¿cómo deben distribuirse los derechos de autor y las regalías? Esta cuestión se vuelve aún más compleja cuando la IA aprende de obras existentes, lo que plantea interrogantes sobre el plagio y la originalidad, y afecta al futuro del arte, como en el caso de una obra creada por el robot humanoide Ai-Da en noviembre de 2024, que se vendió por más de un millón de dólares en Sotheby's.

Para su realización, Ai-Da analizó retratos de Turing y seleccionó tres para combinarlos:

[Se] inspira en el estilo de El Guernica de Pablo Picasso [1937] y Los Atrabiliarios de Doris Salcedo [producidos desde 1992 y hasta 2004]... el estilo visual fragmentado de Ai-Da, [en esta obra, es] similar al de Käthe Kollwitz y Edvard Munch. (Connellan, Il de noviembre de 2024, párr. 8)

Es importante destacar que Ai-Da fue desarrollada por un equipo multidisciplinario de programadores, psicólogos y expertos en robótica y arte. Aidan Meller, director del proyecto, sostiene que "Ai-Da Robot, como tecnología, es el artista perfecto hoy para dialogar sobre la obsesión actual con la tecnología y su legado. ¿Es el llamado 'progreso' tecnológico algo que realmente deseamos? Y de ser así, ¿cómo debería manifestarse?" (Morris, ll de noviembre de 2024, párr. 4).

En este sentido, Henrik Hanstein, director de la casa de arte Lempertz de Colonia (Alemania) y experto en el mercado del arte, afirma categóricamente: "El arte de la IA es creado por máquinas, es decir, por ordenadores que trabajan con datos de otras obras de arte. Me parece muy difícil" (Dege, 19 de noviembre de 2024, párr. 5)

Otro aspecto relevante del impacto de la IA creativa ha sido su efecto en el empleo de artistas, músicos, escritores y otros profesionales del ámbito creativo. Aunque puede generar nuevas oportunidades, se han dado casos en los que ha desplazado a ciertos trabajadores.

Un ejemplo es la carta abierta firmada por casi 4000 personas que solicitaban a la casa de subastas Christie's, en Nueva York, cancelar la subasta titulada Augmented Intelligence o Inteligencia aumentada, programada del 20 de febrero al 5 de marzo de 2025 y dedicada exclusivamente al arte creado con IA.

Estos modelos y las empresas que están detrás de ellos explotan a los artistas humanos, utilizando su trabajo sin permiso ni pago para crear productos de inteligencia artificial comerciales que compiten con ellos... "Su apoyo a estos modelos y a las personas que los utilizan recompensa e incentiva aún más el robo masivo del trabajo de los artistas humanos por parte de las empresas de inteligencia artificial". (Redacción AI, 12 de febrero de 2025)

Sin embargo, hay quienes consideran que la IA puede ser una aliada como herramienta de trabajo. Por ejemplo, Nicole Sales Giles, vicepresidenta y directora de ventas digitales de la empresa, destacó que "la IA no sustituye la creatividad humana, sino que la complementa: en cada obra se ve una colaboración entre un modelo de IA, un robot o la forma en que el artista ha elegido incorporar la tecnología" (Redacción AI, 12 de febrero de 2025).

En esta misma línea se sitúa la artista Karen X. Cheng, creadora de la primera portada de revista diseñada con IA para Cosmopolitan, quien expresó:

Creo que la reacción natural es temer que la IA reemplace a los artistas humanos. Ciertamente ese pensamiento cruzó por mi mente, especialmente al principio. Pero cuanto más uso @ openaidalle, menos lo veo como un reemplazo para los humanos, y más lo veo como una herramienta para que los humanos usen, un instrumento para tocar. (Gràffica, 27 de junio de 2022, párr. 6)

Además de Ai-Da, existen otros robots que actúan como creadores de arte. Tal es el caso de Botto, al que "su creador, Mario Klingemann, define como un artista autónomo descentralizado" (Sans, 2021, párr. l). Botto forma parte de una comunidad en la que, cada semana, los miembros votan por sus obras preferidas -Botto produce aproximadamente 350 piezas por semana-, lo que alimenta su algoritmo e influye en la producción de sus proyectos futuros. Esto plantea la interrogante de si dicha comunidad debería ser reconocida como cocreadora o coautora.

Al respecto, Klingemann comenta que "la máquina puede producir muchas cosas, pero aún no puede dilucidar cuáles tienen sentido y cuáles no, así que seguimos siendo nosotros quienes debemos encontrar, de todo este output infinito, lo que tiene sentido para nosotros" (Domestika, s. f., párr. 6).

Por otro lado, numerosos artistas y diseñadores se posicionan a favor del uso de la IA Gen como herramienta en la producción de proyectos y obras de arte. Argumentan que esta tecnología les permite obtener resultados de alta complejidad técnica que, de otro modo, serían extremadamente costosos y laboriosos de lograr con técnicas tradicionales, ya sean analógicas o digitales. Entre ellos, son de destacar:

• * Harold Cohen: creador del programa AARON, pionero en la producción autónoma de arte mediante IA.

• * Alex Mordvintsev: inventor del programa Google DeepDream.

• * Obvious: colectivo conocido por crear una de las primeras obras de arte generadas por IA y la primera en ser vendida en Christie's.

• * Robbie Barrat: reconocido por su exploración del uso de redes neuronales para crear arte digital, mostrando las fallas algorítmicas como parte del proceso.

• * Pindar Van Arman: desarrollador de CloudPainter, reconocido mundialmente y ganador de premios en el Robot Art Competition.

• * Mario Klingemann: creador de Botto, interesado también en el glitch art (clasificación de datos e instalaciones robóticas).

• * Panorama Channel: propone nuevas visualizaciones de personajes conocidos (por ejemplo, Harry Potter) con estilos distintivos de otros directores (verbigracia, Wes Anderson), entre otros proyectos innovadores.

• * str4ngething: artista de la moda que mezcla elementos del arte clásico y renacentista con estilos contemporáneos, generando "AI Art inspirado en el efecto Mandela" (falsos recuerdos), como "llevar unas deportivas [tenis] en el Renacimiento" (Domestika, s. f.)

• * Shail Patel: creador de obras arquitectónicas fantásticas utilizando la plataforma Midjourney.

• * Bonny Carrera: diseñador industrial que conceptualiza proyectos transformando frutas y alimentos en objetos utilitarios y decorativos.

• * Diego Berro: fotógrafo conceptual que crea imágenes de arquitectura, animales, comida y escenarios diversos, inexistentes en la realidad.

También es necesario considerar que la IA creativa puede heredar los sesgos y prejuicios presentes en los datos con los que se entrena, lo que perpetuaría estereotipos o excluiría a ciertos grupos sociales.

La IA, por ejemplo, se alimenta de un corpus de datos provenientes de internet, el cual suele estar sesgado hacia contenidos culturalmente dominantes, principalmente de origen occidental. Esto puede llevarla a producir obras artísticas que ignoren o estereotipen otras culturas.

De manera similar, un sistema educativo basado en este tipo de tecnología podría ofrecer retroalimentación desigual o menos precisa a estudiantes de ciertos contextos socioeconómicos si los datos de entrenamiento no son lo suficientemente diversos. La subrepresentación de determinados grupos o la prevalencia de estereotipos en los datos históricos puede derivar en resultados discriminatorios, hecho que afectaría la equidad e inclusión de las aplicaciones de IA.

Un claro ejemplo de estos sesgos se manifiesta en la generación de imágenes o textos. Si se solicita a la IA representar ciertas profesiones, pueden surgir sesgos de género: por ejemplo, figuras masculinas para médico o ingeniero, y figuras femeninas para enfermera o maestra de preescolar. Asimismo, al redactar textos sobre profesiones, la IA tiende a emplear pronombres masculinos al referirse a los puestos de liderazgo o técnicos, y femeninos para aquellos relacionados con el cuidado o la asistencia.

También se identifican sesgos raciales o étnicos. Cuando la IA ha sido entrenada predominantemente con referentes artísticos occidentales, puede enfrentar dificultades para replicar estilos o iconografías propias de otras culturas, o incluso perpetuar representaciones estereotipadas. Surgen, además, sesgos culturales cuando la tecnología carece de información suficiente para representar con fidelidad símbolos icónicos de un país, cultura o grupo social. Un ejemplo actual es la representación de Quetzalcóatl, figura emblemática de la cultura prehispánica mexicana: la IA suele generarlo como un dragón emplumado o una versión modificada de un ave quetzal, en lugar de capturar su iconografía auténtica.

Para evitarlo, es fundamental garantizar que los datos de entrenamiento sean diversos y representativos, y desarrollar algoritmos capaces de mitigarlos.

La amenaza de la manipulación y la desinformación mediante el uso de esta tecnología es una realidad, ya que permite la creación de contenido falso o manipulado, como noticias falsas (fake news), videos deepfake o propaganda. Esto plantea serias preocupaciones sobre la erosión de la confianza en los medios de comunicación y en las instituciones, lo que subraya la necesidad de desarrollar herramientas y estrategias para detectar y combatir el contenido falso generado por IA.

Del mismo modo, es esencial establecer límites y directrices éticas para el desarrollo y uso de la IA generativa, mediante normas y regulaciones que protejan los derechos de los creadores, prevengan el sesgo y la discriminación, y combatan la manipulación y la desinformación. También se debe fomentar un debate público informado sobre las implicaciones éticas y sociales de la IA e involucrar a todos los actores relevantes en la toma de decisiones.

Respecto a estos desafíos, se han realizado varios esfuerzos:

1. Unión Europea (UE)

La Unión Europea ha adoptado un enfoque proactivo en la regulación de la IA desde finales de la década de 2010, buscando equilibrar la innovación con la protección de los derechos fundamentales y la seguridad de los ciudadanos.

Inicialmente, se publicaron informes y documentos de reflexión sobre la necesidad de un marco ético y legal.

En febrero de 2020, se publicó el Libro blanco sobre la inteligencia artificial, que sentó las bases para la propuesta de una ley. Este documento identificó los riesgos y oportunidades de la IA, y propuso un enfoque basado en el riesgo para su regulación.

En abril de 2021, se presentó la propuesta de AI Act o Reglamento Europeo sobre Inteligencia Artificial, que establece un marco legal para el desarrollo, la comercialización y el uso de sistemas de IA en la UE. Su objetivo principal es fomentar una IA confiable, proteger a los ciudadanos frente a posibles riesgos y asegurar que la tecnología se utilice de manera ética y responsable.

El Parlamento Europeo la aprobó el 12 de julio de 2024, entró en vigor el l de agosto del mismo año y se aplicará plenamente a partir del 2 de agosto de 2026. Estos lapsos otorgan a las empresas y desarrolladores un periodo de adaptación de veinticuatro meses (Consejo de la Unión Europea y del Consejo Europeo, 5 de febrero de 2025).

La Ley AI Act establece un precedente global y sirve como modelo y estándar de facto en otros países y regiones, ya que promueve una IA centrada en el ser humano, que beneficie a la sociedad en su conjunto, evite los posibles riesgos y abusos, y fomente la confianza en la tecnología mediante principios de transparencia y supervisión humana, esenciales para su adopción y desarrollo responsable.

2. Organización Mundial de la Propiedad Intelectual (OMPI)

Desde finales de 2019, la Organización Mundial de la Propiedad Intelectual (OMPI) creó un foro para discutir los desafíos y oportunidades que plantea la IA en relación con las políticas de propiedad intelectual (OMPI, s. f.).

Esta organización ha publicado estudios e informes sobre las tendencias tecnológicas en IA, y proporcionado datos y análisis sobre patentes, publicaciones científicas y otras formas de propiedad intelectual. A partir de ello, se han establecido consideraciones que orientan a los Estados miembros sobre cómo adaptar sus leyes y políticas de propiedad intelectual a la era de la IA, por ejemplo, en lo relativo a obras de arte o diseño elaboradas con estas plataformas, con el objetivo de promover un marco global que fomente la innovación y proteja los derechos de creadores e inventores.(OMPI, s. f.)

También creó un Centro de Intercambio de Información sobre IA y Propiedad Intelectual (PI) para ayudar a los Estados miembros a conocer los cambios en las políticas de cada país, y ha desarrollado herramientas de IA para mejorar la eficiencia de los sistemas de propiedad intelectual. Un ejemplo es el algoritmo de similitud de imagen, que ayuda a los examinadores de marcas a buscar y comparar visualmente las solicitudes de registro.

3. Cumbre de Acción sobre Inteligencia Artificial (París, 2025)

Los días 10 y ll de febrero de 2025, en París (Francia), se realizó la Cumbre de Acción sobre Inteligencia Artificial, donde se reunieron líderes mundiales, investigadores, empresas desarrolladoras y representantes de la sociedad civil para establecer las bases de una regulación global y crear de manera colectiva los fundamentos científicos, soluciones y normativas para una IA más sostenible, que sirva al progreso colectivo y al interés general (Institut Français, 2l de febrero de 2025).

Algunas de las conclusiones fueron:

• * Establecer un marco ético que guíe el desarrollo y uso de la IA, y asegure que se alinee con los valores humanos y respete los derechos fundamentales.

• * Fomentar la colaboración entre países para abordar los desafíos y oportunidades que presenta la IA, y evite así la fragmentación en su regulación y desarrollo.

• * Promover el uso responsable de la IA mediante estrategias que garanticen un desarrollo seguro, transparente y ético, mientras minimizan los riesgos y maximizan los beneficios para la sociedad.

• * Explorar las implicaciones de la IA en el empleo, la economía y la sociedad en general, con el fin de encontrar soluciones que mitiguen los posibles efectos negativos.

• * Fortalecer la cooperación internacional en investigación y desarrollo de IA, y promover el intercambio de conocimientos y buenas prácticas.

• * Iniciar debates sobre la necesidad de establecer marcos regulatorios y de gobernanza para la IA que consideren las distintas perspectivas y enfoques de los países.

• * Se reconoce la necesidad tanto de equilibrar la innovación con la responsabilidad, como de asegurar que la IA se utilice para el beneficio de la humanidad.

• * Se puso de manifiesto que la IA requiere una regulación global, con el fin de evitar problemas como la desinformación o el ensanchamiento de la brecha entre países desarrollados y en desarrollo.

• * Es fundamental proteger a los menores de edad y evitar que se expongan a contenidos generados por IA que puedan afectar su desarrollo cognitivo o emocional.

• * Se deben promover estrategias para mitigar los riesgos en el mercado laboral y garantizar una transición justa para los trabajadores afectados por la automatización.

• * Se destacó la importancia de fomentar el desarrollo de una IA ética y confiable, respetuosa de los derechos humanos, la privacidad y la diversidad cultural.

Como resultado de este encuentro, se estableció la Declaración de París, mediante la cual los países asistentes se comprometieron a desarrollar y utilizar la inteligencia artificial de forma abierta, inclusiva y ética. Asimismo, se hizo hincapié en que la IA debe ser sostenible tanto para el planeta como para su población.

También se anunció la creación del Observatorio del Impacto Energético de la IA, dedicado a estudiar y moni-torear los efectos energéticos del desarrollo y uso de estas tecnologías. Este organismo estará dirigido por la Agencia Internacional de Energía (AIE).

4. Estados Unidos

A diferencia de la Unión Europea, Estados Unidos no ha promulgado una ley federal integral sobre inteligencia artificial, sino que ha adoptado una regulación que combina acciones a nivel federal y estatal, así como iniciativas del sector privado.

La ausencia de una legislación unificada ha generado preocupación respecto a la falta de coherencia y uniformidad en la regulación de la IA.

Algunas medidas significativas que se han tomado son:

• * La Orden Ejecutiva sobre la Seguridad y la Confianza en la Inteligencia Artificial de 2023, que establece directrices para las agencias federales sobre el uso responsable de la IA. Esta se enfoca en la seguridad, la protección de los derechos civiles, la privacidad y la promoción de la innovación (Johnson, 30 de octubre de 2023). Esta orden instruye a las agencias gubernamentales a ampliar el uso de sistemas avanzados de IA, al tiempo que prohíbe ciertas aplicaciones, como aquellas que violen los derechos civiles protegidos constitucionalmente o los sistemas que automaticen el despliegue de armas nucleares. También promueve la investigación en IA y busca mejorar la seguridad en la cadena de suministro de chips informáticos.

• * El proyecto de ley "Ley de Divulgación de Derechos de Autor de Inteligencia Artificial Generativa 2024", presentado en el Congreso, que busca exigir transparencia respecto al material protegido por derechos de autor utilizado para entrenar modelos de IA generativa (Pascua-Vicente, 27 de mayo de 2024).

• * La proliferación de iniciativas estatales: en 2024, un total de 45 estados y territorios -incluidos Washington D. C., Puerto Rico y las Islas Vírgenes- introdujeron proyectos de ley sobre inteligencia artificial (Grados-Córdova, 21 de noviembre de 2024).

5. América Latina

La regulación de la inteligencia artificial (IA) en América Latina se encuentra en una etapa de desarrollo, centrada en la construcción de marcos normativos con un enfoque en la ética, los derechos humanos y el desarrollo sostenible. Cada país ha adoptado enfoques y ritmos distintos.

• * No existe una regulación uniforme en la región. Cada nación está explorando sus propias estrategias, influenciadas por sus contextos políticos, económicos y sociales.

• * Se observa una tendencia a seguir los marcos regula-torios internacionales, como el de la Unión Europea, aunque adaptándolos a las realidades locales.

• * Muchos países priorizan la definición de principios éticos para el desarrollo y uso de la IA, con énfasis en la protección de los derechos fundamentales.

• * Se busca evitar la discriminación algorítmica, proteger la privacidad de los datos y garantizar la transparencia en los sistemas de IA.

• * Países como Brasil, México, Argentina, Chile, Colombia y Uruguay han comenzado a desarrollar estrategias nacionales de IA que establecen objetivos y prioridades para el despliegue y regulación de esta tecnología. Dichas estrategias incluyen acciones para fomentar la investigación, la innovación, la capacitación y la adopción responsable de la IA (García, 24 de noviembre de 2023; Lara, 7 de junio de 2024).

Entre los principales desafíos que enfrenta la región se encuentran la falta de acceso equitativo a tecnologías digitales, lo que dificulta tanto la adopción como la regulación efectiva de la IA, y la escasez de recursos y experiencia técnica, que limita la capacidad para elaborar e implementar políticas públicas robustas en este ámbito. Por ello, resulta fundamental fomentar la cooperación regional, con el fin de armonizar las normativas y evitar la fragmentación del mercado.

6. México

Desde 2018, México ha desarrollado una Estrategia Nacional de Inteligencia Artificial (Zapata, 27 de marzo de 2018), en la que se establecen objetivos y prioridades para el desarrollo y uso responsable de esta tecnología. La estrategia aborda temas como el uso ético de la IA y la robótica, la protección de datos, la transparencia algorítmica y el desarrollo sostenible (Cámara de Diputados, 25 de febrero de 2024).

Asimismo, se han presentado diversos proyectos de ley para crear un marco jurídico que permita aprovechar los beneficios de la IA y, al mismo tiempo, proteger los derechos de los usuarios y de la población en general (Centro Competencia, 22 de enero de 2025). Entre ellos destacan la Agenda Nacional de la Inteligencia Artificial para México 2024-2030 (Senado de la República, 15 de mayo de 2024) y la propuesta para crear la Agencia Mexicana para el Desarrollo de la IA, que tendría a su cargo la planificación y ejecución de políticas públicas en áreas como educación, empleo e infraestructura (Cámara de Diputados, 11 de octubre de 2023).

A continuación, se presenta una tabla comparativa que resume las regulaciones globales que se han desarrollado hasta este momento:

Desafíos en el ámbito educativo

Por otra parte, respecto a los desafíos que enfrentan las instituciones educativas y los procesos de enseñanza y aprendizaje, es urgente evitar las brechas de desigualdad entre estudiantes derivadas del acceso desigual a la tecnología, así como capacitar a la planta docente para un uso efectivo de estas herramientas en el aula.

La función del docente se transforma significativamente con la llegada de estas tecnologías. Como señala Andión-Gamboa (2021), los profesores

ya no son las únicas fuentes de información, y por tanto, dejan de ser los agentes que controlan el acceso a los contenidos educativos, lo cual merma su autoridad pedagógica y los obliga a ejercer nuevos roles dentro del proceso educativo como facilitadores, tutores, orientadores, mentores, guías, diseñadores y realizadores de objetos y experiencias de aprendizaje y demás funciones pedagógicas que les permita acompañar eficazmente a los alumnos en sus respectivos procesos de aprendizaje. (p. 149)

Además, el papel del profesorado cambia de forma significativa, pues no detenta más el lugar de la única fuente de información y, por tanto, deja de ser el agente que controla el acceso a los contenidos educativos. En efecto, este hecho merma su autoridad pedagógica y lo obliga a ejercer nuevas funciones dentro del proceso educativo: facilitadores, tutores, orientadores, mentores, guías, diseñadores y realizadores de objetos y experiencias de aprendizaje, y otras funciones pedagógicas que le permitan acompañar eficazmente a los alumnos en sus respectivos procesos de aprendizaje (Andión-Gamboa, 2021).

Otro factor preocupante es la disminución del pensamiento crítico en los estudiantes. El acceso rápido y automatizado a la información y a los contenidos exige un menor esfuerzo cognitivo, lo que puede inhibir el análisis profundo y la capacidad de síntesis necesarios para un aprendizaje significativo.

García-Peñalvo (2023), como se lee en García Peñalvo (2024), sugiere que "habrá que capacitar tanto al profesorado como al estudiantado para un uso correcto y ético, así como revisar los planes de estudio para primar el pensamiento crítico y sacar el máximo rendimiento a estas herramientas". Complementariamente, "se propone un enfoque que construya relaciones de confianza con el estudiantado, con un diseño pedagógico centrado en las personas, donde la evaluación forme parte del mismo proceso de aprendizaje en lugar de únicamente actividades de control" (Rudolph et al., 2023, como se lee en García-Peñalvo, 2024, p. 14).

No obstante, es importante subrayar que estos argumentos no implican que la IA sea inherentemente negativa para el desarrollo del pensamiento crítico. Más bien, se debe reconocer su potencial como herramienta complementaria en la educación. El reto consiste en diseñar estrategias pedagógicas que promuevan un uso equilibrado y reflexivo de la tecnología, y prioricen el desarrollo de habilidades esenciales como la autonomía, la creatividad y el análisis crítico.

Tafoya Ledesma advierte:

Los peligros de la digitalización, virtualización y artificialización del aprendizaje podrían tener consecuencias negativas para la calidad de la evaluación educativa, la producción de conocimiento, así como en los aprendizajes colaborativos que requieren de la socialización, la interacción y las relaciones humanas. Además, la pérdida de empleos puede tener un impacto económico significativo en las comunidades locales, especialmente en aquellas que dependen de la educación como fuente principal de trabajo. (Tafoya-Ledesma, 22 de febrero de 2025, Secc. Riesgos de la educación actual, párr. 7)

Este panorama también pone en entredicho la función del

sistema educativo, con especial mención al sistema universitario actual, [que] está diseñado para un mundo con escasez de información, en el que en la etapa vital en la que las personas se formaban, acudían a los centros educativos para adquirirla y guardarla para el momento en que se necesitase. Ahora, sin embargo, se vive en una sociedad con acceso inmediato y a demanda de una sobreinformación (verdades o tautologías, medias verdades o indeterminaciones y falsedades o contradicciones). (García-Peñalvo, 2024, p. 15)

Todo lo anterior obliga a repensar las estrategias implementadas por las instituciones educativas frente a la irrupción de estas tecnologías -que, además, se encuentran en constante evolución-, lo que dificulta la planificación a largo plazo. Sin embargo, es innegable que, por ahora, resulta necesario alfabetizar digitalmente a todos los actores del sistema educativo, e incluso a la sociedad civil, tanto en aspectos técnicos como en el uso ético de estas herramientas (literacidad), para que la integración de la IA favorezca adaptaciones eficientes y eficaces.

De este modo, en lugar de temer a la tecnología, se debe incorporarla como lo que es: una herramienta muy útil para desarrollar habilidades tecnológicas, agilizar procesos de trabajo y creación de contenido, y comprender el ecosistema de aprendizaje del alumnado -integrado por elementos como sus necesidades, intereses, estilos de aprendizaje, experiencias previas, docentes, entorno escolar y familiar, comunidad y tecnologías disponibles-. A partir de ello, podrán adquirirse habilidades que conviertan esta experiencia en un proceso significativo de construcción de conocimiento, mas no en la simple acumulación de datos reproducibles.

Prohibir el uso de herramientas de IA generativa, como hacen algunas instituciones educativas no preparadas, equivale a ignorar tanto su uso cotidiano por parte de docentes y estudiantes como su demanda creciente en el mercado laboral. En su lugar, debe priorizarse la preparación para un uso eficaz.

Regulación de la IA en el ámbito educativo

Ante este panorama, la regulación de la inteligencia artificial (IA) en el ámbito educativo está evolucionando rápidamente, con un enfoque creciente en la ética, la privacidad y la equidad. Algunos aspectos clave son:

• * La necesidad de utilizar la IA en la educación de manera ética y responsable, garantizando que los sistemas sean justos, transparentes y no discriminatorios, y permitiendo que tanto educadores como estudiantes comprendan cómo funcionan y cómo se toman las decisiones.

• * La protección de los derechos del alumnado, especialmente en lo relativo a la privacidad y la seguridad de los datos.

• * La garantía de acceso equitativo a las tecnologías y recursos basados en IA, incluso para estudiantes con necesidades educativas especiales.

• * La exigencia de que los algoritmos sean auditables, es decir, que puedan ser supervisados, evaluados y corregidos en caso de detectar sesgos, errores o decisiones inadecuadas. Por este motivo, la supervisión humana en los procesos educativos es importante, pues asegura que los educadores conserven la responsabilidad fundamental de la enseñanza y que la tecnología actúe como una herramienta de apoyo, no como sustituto.

Respecto a las normativas relacionadas con el uso de la inteligencia artificial en la educación, se destacan las siguientes:

1. Reglamento de inteligencia artificial de la Unión Europea (AI Act) Este reglamento crea un marco legal integral para la IA, que también abarca su uso en el ámbito educativo.

• * Establece requisitos más estrictos para los sistemas de inteligencia artificial clasificados como de alto riesgo, los cuales pueden incluir aplicaciones en educación.

• * Exige a las instituciones educativas que garanticen la transparencia, trazabilidad y supervisión humana en el uso de estos sistemas. También impone medidas de seguridad para proteger los datos personales del alumnado, evitar sesgos y asegurar el acceso equitativo a los recursos educativos.

• * Obliga a implementar mecanismos de monitoreo y evaluación constantes sobre el impacto, rendimiento y efectos provocados por la tecnología utilizada.

2. Unesco

El Consenso de Beijing de 2019: es un documento, centrado en la relación entre inteligencia artificial y educación, dio origen a la publicación Inteligencia artificial: guía para las personas a cargo de formular políticas, cuyo "objetivo es favorecer la comprensión compartida de las oportunidades y desafíos que la IA proporciona a la educación, así como sus implicaciones para las competencias básicas necesarias en la era de la IA" (Unesco, s. f.).

Su objetivo es asegurar que la IA se utilice de manera inclusiva y equitativa, y que se respeten los derechos humanos.

De este evento se considera que la inteligencia artificial debe estar al servicio de la gestión y la implementación de la educación, del empoderamiento de los docentes y su enseñanza, del aprendizaje y de la evaluación de los resultados, así como del desarrollo de los valores y las competencias necesarias para la vida y el trabajo en la era de la IA. Esta tecnología ofrece una manera de proporcionar a todas las personas diversas posibilidades de aprendizaje a lo largo de la vida.

Además, se han creado documentos como las Recomendaciones sobre la ética de la inteligencia artificial (2021), la Guía para el uso de IA generativa en educación e investigación (2023), el Marco de competencias en materia de IA para estudiantes y el Marco de competencias en IA para docentes (2024), entre otros. Todos estos materiales tienen como propósito ayudar a comprender los riesgos, las consideraciones y las ventajas de utilizar la IA en el ámbito educativo y en los procesos de enseñanza y aprendizaje.

Como recomendaciones, la Unesco establece que el enfoque de la IA debe centrarse en el ser humano; que no se amplíe la brecha tecnológica; que se establezca una edad mínima de trece años para el uso de la IA generativa; que se adopten normativas a nivel mundial, regional o nacional en materia de protección de datos y privacidad; y que se fomente la formación del profesorado en esta área.

3. Organización para la Cooperación y el Desarrollo Económicos (OCDE)

En mayo de 2019, la OCDE elaboró una serie de principios relacionados con la regulación de la inteligencia artificial, los cuales fueron además avalados por el G-20 en la Cumbre de Osaka.

En resumen, estos principios establecen que la IA debe ser inclusiva, sostenible, centrada en las personas y en el planeta; transparente, con divulgación responsable; robusta, fiable, segura y evaluable; y que debe promover el desarrollo de habilidades necesarias para la era de la IA y la adaptación de los sistemas educativos.

4. Fredrik Heintz, investigador y profesor de Ciencias de la Computación de la Universidad de Linköping, en Suecia, y experto en IA

Heintz comentó sobre los cambios que esta tecnología traerá en la educación, durante la Conferencia Mundial de Tecnología y Educación EnlightED 2023:

Tradicionalmente, la educación ha girado en torno a responder preguntas claramente definidas. En este caso, podemos pensar que habrá un cambio radical. Ahora que estas herramientas de IA responden tan bien a las preguntas, debemos aprender a hacer las preguntas adecuadas y examinar de forma crítica las respuestas [...]. Tenemos que tomarnos muy en serio el aspecto educativo de la IA: pensar en cómo influye en nuestra forma de enseñar y en cómo tenemos que dar a todo el mundo un mayor y un mejor conocimiento de lo que es para utilizarla como una herramienta que nos permita abordar los retos a los que nos enfrentamos. (Profuturo, 8 de noviembre de 2023, Secc. Debemos cambiar lo que necesitamos aprender, párr. 1)

5. Las leyes de protección de datos

Las leyes de protección de datos, como el Reglamento General de Protección de Datos (RGPD) en Europa (Comisión Europea, s. f.), son relevantes para el uso de la IA en la educación, ya que protegen la privacidad de los datos de los estudiantes y exigen que estos se utilicen de manera segura y responsable.

La siguiente tabla resume estas normativas y lineamientos:

Estos documentos proporcionan orientación a los gobiernos, instituciones educativas, docentes, estudiantes, investigadores, desarrolladores de IA y a la sociedad civil sobre cómo garantizar un uso responsable y beneficioso de la inteligencia artificial en la educación. Con ello, buscan asegurar que la tecnología se utilice de manera ética y equitativa, con el objetivo de mejorar la calidad educativa y proteger los derechos de los estudiantes.

Propuestas y recomendaciones para un uso responsable de la IA Generativa

A partir del análisis realizado, y a modo de síntesis de los puntos principales, se presentan las siguientes propuestas en relación con los problemas y desafíos identificados:

Para el ámbito educativo

• * Capacitación docente continua. Establecer programas obligatorios y permanentes de formación y actualización para el profesorado en el uso pedagógico y ético de la IA. Esta formación debe ir más allá del manejo básico de las herramientas, e incluir la identificación de sesgos, la promoción del pensamiento crítico y el diseño de experiencias de aprendizaje mediadas por IA.

• * Revisión y adaptación curricular. Integrar de forma activa la alfabetización en IA (IA literacy) y el pensamiento crítico en los planes de estudio de todos los niveles educativos. Esto implica proponer actividades que fomenten el análisis crítico de la información generada por IA, la identificación de sesgos y la formulación de preguntas pertinentes.

• * Diseño pedagógico centrado en el estudiante y la colaboración. Promover enfoques educativos que utilicen la IA como una herramienta de apoyo y amplificación, no como un reemplazo. Es clave diseñar actividades que estimulen la autonomía, la creatividad, la interacción social y el aprendizaje colaborativo, donde la IA complemente, pero no sustituya, la interacción humana ni el desarrollo de habilidades blandas.

• * Garantizar la equidad en el acceso y uso de la IA. Implementar políticas que aseguren el acceso equitativo a tecnologías y recursos basados en IA para todos los estudiantes, especialmente aquellos en contextos vulnerables o con necesidades educativas especiales, con el fin de evitar el ensanchamiento de la brecha digital.

Conclusión: hacia un futuro híbrido

La integración de la IA en el arte y la educación plantea un dilema crucial: cómo aprovechar su potencial, abrir nuevas maneras de acercarnos a la innovación y de acceso al conocimiento, sin sacrificar la esencia humana que define estos ámbitos. La respuesta radica en un enfoque equilibrado y reflexivo. Debemos concebir la IA como una herramienta que amplifica nuestras capacidades, mas no como un reemplazo de la creatividad y el pensamiento crítico. Para ello, es esencial que los artistas, diseñadores y docentes asuman un papel activo en este panorama, actúen como guías y curadores que seleccionan y contextualizan la información generada por la IA, y preserven el valor humano y la autenticidad en los procesos creativos y pedagógicos.

En este contexto, la colaboración entre humanos y máquinas se erige como un paradigma fundamental. Al combinar la capacidad analítica y la eficiencia de la IA con la intuición, la sensibilidad y el juicio crítico humanos, podemos alcanzar niveles de innovación y personalización sin precedentes. Sin embargo, esta colaboración debe estar regida por principios éticos y marcos legales sólidos que garanticen un uso responsable de la IA. Es imperativo establecer regulaciones que protejan los derechos fundamentales, eviten la discriminación, aseguren la transparencia en los algoritmos y promuevan un desarrollo tecnológico que beneficie a la humanidad en su conjunto.

La reflexión sobre el equilibrio entre innovación y ética se convierte en una tarea ineludible. Es necesario fomentar un diálogo continuo entre los diversos actores involucrados en el desarrollo y uso de la IA, incluidos artistas, diseñadores, educadores, investigadores, legisladores y la sociedad civil en general. Solo mediante un debate informado y una colaboración interdisciplinaria podremos construir un futuro en el que la IA se utilice de manera responsable y beneficiosa, mientras se preservan los valores humanos que nos definen como sociedad.