Guia Uso IA

 

GUÍA SOBRE EL USO DE LA INTELIGENCIA ARTIFICIAL EN LA UNIVERSIDAD DE MÁLAGA

Marzo 2025 - Delegación del Rector para las Tecnologías de la Información y la Estrategia Digital

1. Introducción
2. ¿Qué es la Inteligencia Artificial Generativa (IAG)?
3. Prompt
4. Uso de la IAG por el profesorado
5. Uso de la IAG por el estudiantado
6. Uso de la IAG por el PTGAS
7. Riesgos en el uso de la IA Generativa
8. Conclusión
9. Preguntas Frecuentes para el Profesorado
10. Preguntas Frecuentes para el estudiantado
11. Preguntas Frecuentes para el PTGAS

 

Introducción

La inteligencia artificial (IA) se ha presentado como una herramienta con el potencial de transformar profundamente los procesos de enseñanza y aprendizaje, y aunque su difusión es muy reciente, está provocando un importante impacto en todos los ámbitos y especialmente en el de la educación superior.

Pero la integración efectiva de la IA en la universidad enfrenta desafíos significativos. Buena parte del profesorado siente la presión que el uso de esta tecnología provoca en su trabajo diario, mientras no encuentra instrumentos para abordar esos cambios. Al mismo tiempo, la falta de pautas sobre cómo incorporar la IA en la actividad docente está generando una adaptación desigual.

A pesar de que instituciones como el Ministerio de Educación y la CRUE han publicado documentos sobre la inclusión de algoritmos generativos en el aprendizaje, estos se centran más en describir la tecnología y sus posibilidades que en proporcionar guías prácticas sobre su uso. El interés por aprender y disponer de recursos para enfrentar este reto es evidente, como lo demuestra la alta demanda de formación que estamos recibiendo. En este punto, consideramos imprescindible que toda la comunidad universitaria adquiera conocimientos básicos sobre la IA, comprendiendo su funcionamiento y aplicaciones, no solo para aprovechar sus ventajas sino también para mitigar sus riesgos.

Mientras tanto, una nueva generación de estudiantes ya interactúa con este tipo de herramientas, que parecen dejar obsoletos ciertos modelos de aprendizaje tradicionales. Ignorar este cambio no es una opción recomendable, ya que, al igual que ocurrió con Internet y los nativos digitales, la IA está configurando las habilidades de nuestros estudiantes.

Aunque aún es prematuro establecer una guía completa o normas definitivas sobre su uso, debido al poco tiempo transcurrido y a la vertiginosa evolución de estas herramientas, la creciente demanda de información sobre sus posibilidades y la preocupación por el uso no ético de esta tecnología nos  ha llevado a elaborar un documento preliminar sobre su utilización en nuestra universidad.

Esta guía tendrá que adaptarse progresivamente a medida que se desarrollen nuevas aplicaciones y se comprendan mejor sus implicaciones. Por lo tanto, este documento no pretende ser exhaustivo ni definitivo, sino proporcionar una base sobre la cual se puedan construir futuras directrices más detalladas y específicas.

 

¿Qué es la Inteligencia Artificial Generativa (IAG)?

Es una tecnología avanzada que permite la creación de contenido nuevo y original a partir de datos existentes. Comprender, aunque sea de forma básica, cómo funciona la IAG ayuda a poder utilizarla de forma correcta en el contexto universitario.  De forma muy simplificada, estos son los pasos en los que se desglosa su proceso de creación:

1. “Tokenización”: El proceso comienza con la “tokenización”, donde el prompt (la entrada que proporcionamos) se divide en unidades más pequeñas llamadas “tokens” que básicamente corresponden a elementos presentes en la pregunta que hemos introducido.
2. Predicción: Utilizando patrones estadísticos, se predicen las posibles palabras o frases que podrían conformar una respuesta coherente buscando entre la ingente cantidad de textos que almacena.
3. Generación de texto: Convierte la respuesta a un texto legible formando oraciones y párrafos que responden al “prompt” inicial.
4. Filtrado: El texto generado se filtra para eliminar cualquier contenido ofensivo, inapropiado o que no cumpla con las directrices establecidas.

Prompt

Es una instrucción o entrada de texto que proporcionamos a un modelo de IAG para guiar su respuesta. Es recomendable plantear la consulta como si se hiciese a una persona. Podemos seguir las siguientes recomendaciones para obtener resultados útiles:

1. Definir bien el objetivo.  Por ejemplo, “Quiero una lista con los cinco principales centros de investigación sobre cambio climático”.
2. Proporcionar el formato de retorno de la información. “Incluye presupuesto, número de investigadores,  publicaciones anuales y un breve resumen sobre su actividad.  Muéstralos ordenados según presupuesto.”
3. Asegurar que la información será correcta. “Es muy importante que te asegures que los datos suministrados son correctos, y especialmente que el presupuesto es exactamente ese. Añade la fuente de donde lo has obtenido.”
4. Proporciona contexto indicando a quién va dirigido el contenido.  “La información va dirigida a especialistas en la materia, por lo que esperan que la información suministrada sea de alto nivel científico”.
5. Si lo ves conveniente, incluye ejemplos de lo que esperas.  “El resumen debes redactarlo en un estilo similar al que te muestro a continuación....”

 

Ejemplos:

1. Eres un experto en gramática y ortografía española con amplia experiencia en redacción académica. Revisa el texto a continuación y sugiere mejoras para lograr una redacción académica directa y fluida, utilizando la segunda persona. Especifica los cambios realizados en cada párrafo del texto y explica brevemente el motivo de cada corrección para que el autor pueda aprender de tus sugerencias. Este es el texto: [“TEXTO”].
2. Genera una tabla con 100 filas y 2 columnas. La primera columna debe contener nombres de personas, con 50 nombres masculinos y 50 nombres femeninos, todos diferentes. La segunda columna debe contener el peso de cada persona. Asegúrate de que la media de todos los pesos sea 70 y la varianza sea 3,5.
3. Eres un experto asesor educativo en enseñanza superior, con amplio conocimiento de diversas técnicas y dinámicas para fomentar debates relevantes y significativos en clase. Desarrolla cinco preguntas de reflexión sobre Derecho Administrativo. Incluye tres lecturas semanales, reflexiones y ejercicios en clase para desarrollar estas preguntas. Asegúrate de utilizar únicamente lecturas que conozcas y que sean apropiadas para el tema.
4. Voy a proporcionarte como ejemplo un examen que utilizo con mis estudiantes de Espectroscopia en el cuarto curso de Química en la universidad. Actúa como un profesor universitario y genera 10 preguntas para un examen que permitan evaluar su nivel de aprendizaje. Asegúrate de que las preguntas sean similares en complejidad y nivel de conocimiento. Al final de cada pregunta, indica la respuesta correcta y la fuente de la información utilizada.

 

Uso de la IAG por el profesorado

La IAG tiene el potencial de personalizar el aprendizaje a un nivel sin precedentes. Los algoritmos generativos pueden llegar a identificar patrones en el rendimiento y las necesidades de nuestros estudiantes, permitiendo adaptar los métodos de enseñanza para satisfacer mejor las necesidades individuales. Además, mediante la IAG podemos generar contenido educativo, como ejercicios y materiales de estudio, presentaciones, ejemplos, etc. que se ajusten al nivel de comprensión de nuestros estudiantes, facilitando un aprendizaje más efectivo y eficiente.

Pero a pesar de estos beneficios, la implementación de la IAG en la docencia presenta desafíos que tienen que ver con nuestra prácticas pedagógicas, problemas éticos en su uso o la inclusión sin pretenderlo, de sesgos provenientes de los algoritmos generativos, que pueden perpetuar o incluso exacerbar desigualdades.

Por ello es necesario obtener, no solo la capacitación técnica, sino también el desarrollo de competencias pedagógicas que permitan utilizar la IAG de manera ética y efectiva.

El PDI puede inicialmente utilizar la IAG para apoyo a la docencia en aspectos como los siguientes:

1. Desarrollo de contenidos educativos: Generar contenidos como como casos de estudio, ejemplos prácticos, presentaciones, resúmenes, actividades, etc. que enriquezcan las clases y hagan el aprendizaje más interactivo.
2. Apoyo en la edición y revisión de textos: Revisar y mejorar la gramática, el estilo y la coherencia de textos académicos.
3. Desarrollo de contenidos para el aprendizaje colaborativo: Desarrollar actividades que fomenten el aprendizaje en grupo mediante la sugerencia de dinámicas, simulaciones y tareas que los estudiantes puedan realizar juntos.
4. Fomento del pensamiento crítico: Desarrollar preguntas y escenarios de debate que desafíen a los estudiantes a pensar críticamente y a aplicar sus conocimientos de manera práctica, generando situaciones hipotéticas y preguntas abiertas que promuevan la discusión y el análisis en clase.
5. Apoyo en el desarrollo de la planificación de cursos y asignaturas: Ayudar a la planificación de cursos y asignaturas mediante el análisis de datos de rendimiento, proporcionando recomendaciones basadas en tendencias y necesidades específicas de los estudiantes.
6. Personalización del aprendizaje: Crear materiales educativos personalizados a partir de nuestro propio material que se adapte a las necesidades y niveles de conocimiento de nuestros estudiantes mediante la generación de ejercicios y creación de recursos docentes específicos que faciliten su compresión.
7. Apoyo a la inclusión: Crear materiales educativos accesibles para estudiantes con discapacidades mediante la creación de versiones de textos en formatos accesibles.
8. Ayuda a la elaboración de ejercicios de evaluación: Redactar preguntas y ejercicios de evaluación que sean relevantes y alineados con los objetivos de aprendizaje.
9. Asistencia en la evaluación: Ayudar en la corrección y evaluación de trabajos y exámenes.
10. Análisis de las preguntas y respuestas de las pruebas de evaluación: Realimentar la explicación de nuestros contenidos a partir de los resultados del análisis de las pruebas de evaluación realizadas.
11. Ayuda en tareas de gestión: Redactar o corregir documentos o informes necesarios para la gestión de nuestra actividad tanto docente como investigadora y de gestión.

 

Usos No Permitidos

1. Usar la IAG para evaluar trabajos y exámenes sin revisión humana.
2. Introducir información personal de los estudiantes en las herramientas de IAG.

 

Uso de la IAG por el estudiantado

La IAG permite a cada estudiante personalizar su aprendizaje pudiendo acceder a recursos educativos adaptados a sus necesidades individuales. Estas herramientas pueden proporcionar explicaciones adicionales, ejercicios personalizados y retroalimentación instantánea.

Sin embargo, también presenta algunos inconvenientes. Uno de los principales es la dependencia excesiva de la tecnología, que podría llevar a una disminución en el desarrollo de habilidades críticas como el pensamiento analítico y la resolución de problemas. Por ello es esencial que el estudiantado utilice la IAG como una herramienta complementaria y no como un sustituto de su propio esfuerzo.

Además, se debe tener presente que la información obtenida será en ocasiones incorrecta o incompleta, por lo que se necesitará de habilidades para evaluar y utilizar convenientemente esa información.

Las consideraciones éticas también son importantes cuando se trata del uso de la IAG por parte del estudiantado, por lo que es fundamental que se sea consciente de ello y que la Universidad disponga de políticas claras a este respecto.

El estudiantado puede utilizar la IAG en aspectos como los siguientes:

1. Mejora de la escritura académica: Recibir retroalimentación sobre la estructura, gramática y estilo de sus trabajos escritos. La IAG puede ayudar a mejorar sus habilidades de redacción académica, pero si el uso se reduce a la obtención completa del texto, esas habilidades se perderán en vez de mejorar.
2. Aprendizaje personalizado: Planificar sus actividades de estudio de manera que se adapten a sus necesidades y ritmos de aprendizaje mediante la generación de ejercicios y materiales de estudio específicos para reforzar las áreas donde lo necesiten.
3. Preparación para exámenes: Generar preguntas y simulaciones de exámenes para preparar de manera más efectiva sus evaluaciones.
4. Desarrollo de habilidades prácticas: Crear escenarios y simulaciones que les permitan aplicar sus conocimientos en situaciones prácticas. Esto puede ser especialmente útil en campos en los que el aspecto práctico es muy relevante.
5. Generación de borradores de textos: Generar borradores iniciales de trabajos, informes y otros trabajos escritos. Estos borradores deberán ser completados posteriormente por el estudiante.

Usos No Permitidos

1. Presentar trabajos o informes generados por IAG como creación personal.
2. Incorporar contenido generado por IAG sin la debida cita.
3. Usar IAG para responder preguntas de exámenes o pruebas de evaluación continua, salvo indicaciones del equipo docente.

 

Uso de la IAG por el PTGAS

El uso de la IAG no se limita únicamente a la docencia y el aprendizaje, sino que también ofrece importantes beneficios para el PTGAS de la universidad. La IA puede transformar significativamente la gestión administrativa mejorando la eficiencia, la precisión y la toma de decisiones.

La integración de la IAG en las funciones administrativas puede automatizar tareas como la planificación de determinadas actividades, la administración de los recursos, la generación de respuestas a solicitudes o a consultas o la redacción de escritos. También puede obtener información valiosa para la toma de decisiones estratégicas.

Estos posibles usos de la IAG incluyen:

1. Redacción de documentos: Ayudar en la redacción de documentos administrativos.
2. Automatización de tareas administrativas: Automatizar determinadas tareas, especialmente las que son repetitivas.
3. Mejora de la comunicación: Generar respuestas automáticas y personalizadas mediante el uso de asistentes virtuales.
4. Análisis de datos: Analizar datos administrativos para identificar patrones y tendencias.

Usos No Permitidos

1. Introducir datos confidenciales o sensibles en las herramientas de IAG.
2. Automatizar procesos sin una revisión y supervisión adecuada.

Riesgos en el uso de la IA Generativa

Ética

La falta de honestidad y responsabilidad en el uso de herramientas de inteligencia artificial puede comprometer significativamente todo el proceso formativo. Tanto el estudiantado como el profesorado, debe utilizar estas tecnologías de manera ética, respetando los principios de integridad académica y transparencia, indicando cuándo y cómo ha utilizado estas herramientas y citando adecuadamente el contenido generado.

Sesgos y Discriminación

Los algoritmos de inteligencia artificial pueden perpetuar y amplificar los sesgos presentes en los datos con los que son entrenados, lo que puede provocar la difusión de mensajes discriminatorios contrarios a los valores de la universidad.

Privacidad y Seguridad de Datos

La posible recopilación de datos personales incluidos en documentos administrativos o docentes plantea serias preocupaciones sobre la privacidad. La información puede ser vulnerable a la piratería o al mal uso, por lo que se debe evitar proporcionar datos personales o informes confidenciales a estas tecnologías, ya que la información ingresada puede ser almacenada y utilizada de manera no deseada.  Estos posible usos deben ser previamente consultados.

Dependencia Tecnológica

Una dependencia excesiva de la inteligencia artificial puede disminuir la capacidad de los estudiantes para desarrollar habilidades críticas y resolver problemas de manera independiente. Además, la dependencia de grandes empresas tecnológicas puede limitar la autonomía de la universidad, a la vez que requiere de grandes recursos económicos, técnicos y humanos.

Veracidad

La IAG puede producir contenido que no corresponda con la realidad, aunque parezca creíble. Esto puede provocar el acceso a información incorrecta, incompleta o inexacta, proveniente de fuentes de dudosa calidad que aparentan ser verdaderas. Por ello debemos revisar y verificar la exactitud de la información generada, y especialmente en lo que respecta a citas y referencias.

Deshumanización del Aprendizaje

Aunque la IA puede automatizar muchas tareas formativas, no puede reemplazar la empatía y la conexión humana que el profesorado ofrece. La motivación y la comprensión emocional son garantía para un aprendizaje integral y significativo.

 

Conclusión

No ponemos en duda que la integración de la IAG en el ámbito universitario ofrece un potencial significativo para transformar los procesos de enseñanza-aprendizaje. Sin embargo, es fundamental que su implementación se realice asegurando que complementen y enriquezcan estos procesos y que no comprometa los valores fundamentales de la universidad.

El futuro de la IAG en la educación es prometedor, pero también requiere una vigilancia constante y una adaptación continua. Es esencial que las universidades desarrollemos políticas y directrices claras que guíen el uso de estas tecnologías, fomentando un entorno de aprendizaje inclusivo y equitativo. La colaboración entre todos los miembros de la comunidad universitaria será clave para maximizar los beneficios de la IAG, al tiempo que se mitigan sus riesgos potenciales.

Finalmente, hacemos un llamamiento a toda la comunidad universitaria para que adopte un enfoque prudente y reflexivo en el uso de la IAG. Al hacerlo, podemos aprovechar sus ventajas para mejorar la calidad de la educación y preparar a nuestros estudiantes para los desafíos del futuro, pero sin perder de vista la importancia de la interacción humana y la empatía en el proceso educativo. Con una implementación cuidadosa y ética, la IAG puede convertirse en una herramienta poderosa para impulsar la innovación y el progreso de nuestra institución.

 

Preguntas Frecuentes para el Profesorado

1.    ¿Puedo usar IA para crear materiales didácticos?
Sí, puedes utilizar IA para crear y adaptar materiales educativos, como guías de estudio, ejercicios, prácticas, resúmenes, presentaciones, etc.

2.    ¿Es seguro introducir información de los estudiantes en herramientas de IA?
No, debes evitar introducir información personal de los estudiantes en las herramientas de IA para proteger su privacidad.

3.    ¿Puedo usar IA para evaluar trabajos y exámenes?
Puedes usar IA para apoyar la evaluación, pero no debes depender exclusivamente de ella sin una revisión humana.

4.    ¿Cómo puedo asegurarme de que el contenido generado por IA es adecuado?
Revisa y valida todo el contenido generado por IA antes de compartirlo con los estudiantes para asegurar su precisión y adecuación.

5.    ¿Cómo debo citar el contenido generado por IA en mis materiales?
Cita el contenido generado por IA de manera adecuada, indicando la herramienta utilizada y proporcionando un informe de uso detallado.

6.    ¿Qué hago si un estudiante usa IA de manera inapropiada?
Sigue las directrices de la universidad para tratar casos de plagio o de falta de ética universitaria. Hasta el momento no existen medidas o herramientas que sean eficaces, así que la única posibilidad de detección es mediante entrevista con el estudiante. Por este motivo, de cara a la evaluación, hay que sopesar la conveniencia de únicamente solicitar trabajos escritos que la IA pueda hacer mejor que las personas.

7.    ¿Qué riesgos existen al usar IA en la educación?
Los riesgos incluyen la privacidad, la precisión del contenido, los sesgos, y el impacto en la pérdida de habilidades humanas.

8.    ¿Cómo puedo promover el uso responsable de la IA entre el estudiantado?
Educa al estudiantado sobre los usos permitidos y no permitidos de la IA, y fomenta la transparencia y la evaluación crítica de los resultados generados por IA.

 

Preguntas Frecuentes para el Estudiantado

1.    ¿Puedo usar IA generativa para mis trabajos académicos?
Sí, puedes usar IA generativa para ayudarte en la redacción de tus trabajos, siempre y cuando cites adecuadamente cualquier contenido generado.

2.    ¿Debo informar al profesorado si uso IA en mis trabajos?
Sí, siempre debes informarle que has usado esa herramienta en tus trabajos.

3.    ¿Cómo debo citar el contenido generado por IA?
Debes citar el contenido generado por IA de la misma manera que citarías cualquier otra fuente, indicando la herramienta utilizada y proporcionando un informe de uso.

4.    ¿Es seguro introducir mis datos personales en herramientas de IA?
No. Debes evitar introducir datos personales, información confidencial o detalles sensibles en las herramientas de IA para proteger tu privacidad.

5.    ¿Puedo usar IA para responder preguntas de exámenes?
No. El uso de IA para responder preguntas de exámenes o pruebas de evaluación continua está prohibido, salvo otras indicaciones del equipo docente.

6.    ¿Qué hago si tengo dudas sobre el uso de IA en una tarea?
Consulta siempre al equipo docente si tienes dudas sobre el uso de IA en una tarea específica.

7.    ¿La IA generativa siempre proporciona respuestas correctas?
No, las respuestas generadas por IA pueden contener errores, omisiones o sesgos. Es importante evaluar críticamente cualquier resultado.

8.    ¿Puedo usar IA para mejorar la gramática y el estilo de mis textos?
Sí, puedes usar IA para sugerencias de gramática y estilo, pero asegúrate de revisar y editar el contenido final. No te limites a copiar sus respuestas.

9.    ¿Qué riesgos existen al usar IA generativa?
Los riesgos incluyen la privacidad, la precisión del contenido, los sesgos, y el impacto en habilidades humanas como la creatividad.

10.    ¿Puedo usar IA para obtener recomendaciones de estudio?
Sí, puedes usar IA para recibir recomendaciones de estudio personalizadas y materiales educativos adaptados a tus necesidades.

Preguntas Frecuentes para PTGAS

1.    ¿Es seguro introducir datos confidenciales en herramientas de IA?
No, debes evitar introducir datos confidenciales o sensibles en las herramientas de IA para proteger la privacidad y seguridad de la información.

2.    ¿Puedo usar IA para redactar comunicaciones administrativas?
Sí, puedes usar IA para redactar comunicaciones administrativas y escritos informativos, asegurando claridad y coherencia en la información.

3.    ¿Cómo puedo asegurarme de que los procesos automatizados por IA son precisos?
La IA generativa no te garantiza la veracidad de sus respuestas. Revisa regularmente todos los procesos en los que usas la IA para mantener su calidad y efectividad.

4.    ¿Puedo usar IA para generar respuestas automáticas a consultas frecuentes?
Sí, puedes usar IA para generar respuestas automáticas a consultas frecuentes, mejorando la eficiencia del servicio.

5.    ¿Qué riesgos existen al usar IA en la administración universitaria?
Los riesgos incluyen la privacidad, la precisión del contenido, y la dependencia excesiva de decisiones algorítmicas sin supervisión humana.

6.    ¿Cómo puedo promover el uso responsable de la IA en la administración?
Forma al personal sobre los usos permitidos y no permitidos de la IA, y fomenta la transparencia y la supervisión adecuada de los procesos automatizados.