Experiencias y aprendizajes de mi labor docente (parte 2)

Acompañando a mis estudiantes de Universidad en el uso pertinente de Google Gemini, en la función Deep Research, para los trabajos académicos (parte 2).

Imagen generada con Gemini Flash 2.5

Procedí a visitar los equipos de trabajo, con la finalidad de aclarar dudas o brindar comentarios sobre el trabajo encargado, sin embargo, un tema común que se presentó entre varios de los equipos fue sobre el uso ético y responsable al emplear los diversos modelos de inteligencia artificial generativa para los trabajos de investigación o para la realización de cualquier actividad que puede crear la IA.

Palabras más o palabras menos, si me permite el lector o lectora de estas líneas, sintetizo esas intervenciones con el siguiente cuestionamiento ¿cuáles son las implicaciones éticas del uso de la función “Deep Research” en el mundo de la investigación y en el área de estudio? ¿cuáles son los riesgos que ello traería, en los casos en que no se hiciese un uso responsable de dicha herramienta? 

Si la memoria no empieza a hacer de las suyas, -recuerden que uno llega a cierta edad donde se le empiezan a olvidar algunas cosas, pienso que quizá he llegado a esa edad 😂- les comenté a los jóvenes que efectivamente, el uso no responsable de esta herramienta, dentro del campo de la investigación, puede llevar a que los resultados que se proporcionen, si no son supervisados o corroborados, existe el riesgo de que las “alucinaciones” que tienen los modelos de IA, incluso en su función Deep Research pueda llevar a la creación de investigaciones que pueden ser etiquetadas como “IAgiarismo”, les comenté que IAgio se refiere a la acción de una persona que utiliza textos generados por una IA y los presenta como propios. 

Imagen generada con Gemini Flash 2.5

Por tal motivo, dentro de las nuevas habilidades que se deben de estar profundizando, enseñando y entrenando deben de ser las habilidades de evaluación, cuestionamiento y de validación de todos esos datos o información que proporciona el modelo de IA. 

Por lo tanto no se trata solo de detectar las alucinaciones, sino que de deben de comprender cuáles podrían ser los sesgos o las limitaciones de la información o datos brindados e incluso, el contexto que se ha considerado en el entrenamiento del modelo de IA. 

Les comentaba que somos afortunados de contar con la herramienta de Gemini para el ámbito académico, ya que dentro de los 3 principios fundamentales de Google con la IA encontramos uno donde se hace mención sobre el rigor que aplican en el uso del método científico de la IA y que es perfectible.

Imagen tomada del documento de los principios de IA de Google

A modo de síntesis, les comentaba a los jóvenes estudiantes, que quedará en nosotros comprender que las herramientas como Gemini u otros modelos de IA, pueden generar borradores, proponer ideas, crear imágenes o componer música o videos, sin embargo, serán nuestras habilidades las que nos permitan tomar esos elementos como materia prima para un llevar a nuevos procesos creativos a un nivel más amplio y sofisticado sobre aquello que estamos indagando o que deseamos desarrollar, independientemente si usamos la IA, como la metáfora del viaje, en una motocicleta, en un vehículo sedán o en una furgoneta camper, de forma responsable y con las debidas precauciones.

Imagen generada con Gemini Flash 2.5

Si usted, estimado lector o lectura se ha encontrado con esta situación o similar ¿cómo lo ha abordado con sus estudiantes o colegas? ¿podría compartirnos su experiencia o reflexión? Agradezco a mis tres lectores por su atención.

Referencias alusivas en el texto:

Sobre el IAgiarismo: 

Como (no) combatir el fraude académico por Wietse De Vries (p. 644). Recuperado de: https://www.puees.unam.mx/curso2024/materiales/Sesion11/Ariadna2023_ElPlagioADebate.pdf  

Cecilia Ka Yuk Chan. Professor, Faculty of Education. The University of Hong Kong. Is AI Changing the Rules of Academic Misconduct? An In-depth Look at Students’ Perceptions of ‘AI-giarism’. Recuperado de: https://arxiv.org/pdf/2306.03358

Principios de la IA de Google:

Nuestro enfoque para construir una IA beneficiosa: https://ai.google/static/documents/ES-AI-Principles.pdf