Los primeros efectos del uso de la IA en los estudiantes universitarios: están perdiendo la capacidad de comprender.

Por WALTER QUATTROCIOCCHI* – Il Corriere della Sera.

Una vez concluidas las sesiones de examen de su asignatura de Gestión y Análisis de Datos, el profesor se pregunta cómo el uso generalizado de la inteligencia artificial generativa está cambiando el significado mismo de «comprender»: ¿se trata realmente de la democratización del conocimiento?

Acabo de terminar una de las sesiones de examen de la asignatura de Gestión y Análisis de Datos, una de las que imparto en la universidad. Cada año es un momento de evaluación de los estudiantes, pero también un observatorio privilegiado decómo cambia su forma de aprender. Esta vez, sin embargo, salí del aula con una sensación muy amarga que nunca antes había experimentado. Lo que más faltaba era el sentido.

Muchos estudiantes aprobaron el examen sin dificultad, algunos con resultados excelentes. Pero una parte, nada desdeñable, parecía pertenecer a un mundo diferente.

He visto a estudiantes intentar leer directamente desde el chat de ChatGPT durante la presentación del proyecto, basándose en las explicaciones generadas por el modelo como si fueran parte de su propio razonamiento. He visto correlaciones de Pearson utilizadas sin comprender su significado, regresiones lineales interpretadas de forma opuesta a lo que mostraban los datos, incluso probabilidades mayores que uno (para quien no sea del gremio, por definición es imposible). No se trataba de simples errores de preparación. Eran errores de otra índole.

La ausencia de razonamiento

Hasta ahora, los errores de los estudiantes reflejaban un proceso de comprensión incompleto. Una fórmula mal aplicada, un concepto asimilado solo en parte, un razonamiento lógico que había que reconstruir. Bastaba con una pregunta para reactivar ese proceso y, a menudo, el estudiante llegaba por sí mismo a la solución. Esta vez no. Las presentaciones eran ordenadas, el lenguaje fluido, la terminología casi siempre correcta. Sin embargo, bastaba con salirse del guion, preguntar por qué se había elegido una técnica en lugar de otra o cuál era el significado de un coeficiente estadístico, para que toda la construcción se desmoronara. El problema no era la fragilidad del razonamiento. Era su ausencia.

Lo que más me llamó la atención fue la forma en que se habían utilizado estas herramientas. No servían solo para redactar el proyecto. Servían para estudiar. Y es aquí donde la cuestión cambia por completo de naturaleza. Cuando un sistema diseñado para generar la respuesta estadísticamente más plausible se convierte en el principal intermediario del aprendizaje, el riesgo no consiste solo en obtener alguna respuesta errónea. Consiste en interiorizar una forma diferente de construir el conocimiento.

Los proyectos se parecen entre sí y utilizan el mismo léxico

No es casualidad que, al final, todos los proyectos acabaran pareciéndose. Seguían la misma estructura, el mismo léxico, la misma evidente ausencia de lógica.

Más que un razonamiento, parecían seguir la coherencia estadística del lenguaje. Composiciones plausibles de conceptos que, al primer intento de profundizar, costaban trabajo sostener. En cierto modo, recordaban a algunos debates pseudoacadémicos contemporáneos: discursos impecables en la forma, ricos en las palabras adecuadas, pero carentes de la estructura conceptual necesaria para que resultaran realmente significativos y llenos de lagunas.

El concepto de Epistemia: cómo cambia el conocimiento

Nos vendieron estas herramientas como tecnologías capaces de democratizar el conocimiento, derribar las barreras del aprendizaje y hacernos a todos más competentes. Esa promesa se adueñó rápidamente del lenguaje de las empresas tecnológicas, del debate público e incluso de una parte del mundo académico. Sin embargo, lo que acababa de ver sugería una pregunta muy diferente: ¿qué ocurre cuando una máquina diseñada para optimizar la plausibilidad estadística se convierte en la principal herramienta a través de la cual aprendemos?

Es precisamente de esta pregunta de donde surge el concepto de «epistemia». Cuando lo propuse, representaba sobre todo una clave interpretativa: la idea de que la adopción a gran escala de sistemas basados en la verosimilitud estadística estaba modificando el entorno en el que construimos el conocimiento, desplazando progresivamente el centro de gravedad de la verificación a la verosimilitud.

La deuda cognitiva

En el MIT Media Lab, un estudio experimental ha demostrado queel uso sistemático de ChatGPT en la redacción reduce la implicación cognitiva durante la tarea y deja huellas medibles incluso en la capacidad de recordar y reelaborar lo que se acaba de producir. Los investigadores hablan de deuda cognitiva: una deuda cognitiva que se acumula cada vez que se delega el trabajo mental sin construir una representación interna del problema.

Otra investigación, llevada a cabo por Microsoft Research con profesionales que utilizan a diario sistemas de inteligencia artificial generativa, describe un fenómeno complementario. El pensamiento crítico cambia de función. Cada vez menos dedicado a construir una respuesta, cada vez más orientado a verificar una ya generada. Se trata de un cambio aparentemente marginal, pero que modifica el propio proceso de aprendizaje: cuando la generación de la respuesta se automatiza, también disminuyen las ocasiones en las que construimos comprensión.

Cómo se transforma el entorno en el que trabajamos y estudiamos

Considerados en su conjunto, estos estudios narran la misma transformación: el entorno en el que aprendemos, trabajamos y atribuimos valor al conocimiento está cambiando en lo más profundo.

Los LLM representan probablemente una de las tecnologías más extraordinarias desarrolladas en los últimos años. El malentendido no se refiere a su valor, sino a la forma en que hemos decidido describirlos. Hemos construido una máquina de plausibilidad estadística y hemos acabado describiéndola como una máquina del conocimiento. Se nos repite que los LLM, casi de forma mesiánica, democratizan el conocimiento, reducen las barreras del aprendizaje y hacen que todos seamos más competentes. Estas expresiones han entrado rápidamente en el lenguaje común, en las campañas de las empresas tecnológicas, en las conferencias, en los libros e incluso en parte del debate académico. A fuerza de repetirlas, hemos acabado tratándolas como descripciones de la realidad, cuando en realidad eran sobre todo una promesa. Seguir describiendo estas herramientas por lo que no son empieza a adquirir el carácter de una responsabilidad histórica. El precio de este malentendido corre el riesgo de ser toda una generación de competencias que se echa a perder.

La plausibilidad no es conocimiento

Un modelo lingüístico construye distribuciones de probabilidad sobre secuencias de palabras. Cada respuesta surge de la estimación de la continuación estadísticamente más plausible dado un contexto determinado. Es precisamente esta capacidad la que lo hace extraordinariamente eficaz. La plausibilidad, sin embargo, pertenece a un ámbito distinto del conocimiento. Una mide la coherencia estadística de una respuesta; la otra requiere observación, verificación, comparación con la realidad y construcción de explicaciones.

A primera vista, la distinción puede parecer una cuestión sin importancia. En realidad, afecta al significado mismo de «conocer». Durante siglos, palabras como «comprender», «aprender», «explicar» y «conocer» han designado procesos en los que una respuesta era inseparable del recorrido que la hacía justificable. Hoy en día utilizamos los mismos verbos para describir sistemas que producen resultados a través de un mecanismo radicalmente diferente.

Reducir drásticamente el coste de producción del lenguaje no equivale a reducir el coste del conocimiento. Más bien ocurre lo contrario. Cada día se generan miles de millones de textos plausibles; lo que realmente escasea es la capacidad de distinguirlos, interpretarlos, verificarlos y atribuirles el significado adecuado.

La promesa de democratización produce así un efecto paradójico. La desigualdad se acentúa cada vez más. La nueva línea de fractura separa a quienes conservan las herramientas del juicio de quienes las sustituyen progresivamente por la confianza en la verosimilitud.

La transformación cultural

Mientras tanto, la magnitud del fenómeno sigue creciendo. Cada nueva generación de modelos requiere más datos, más parámetros, más procesadores, más energía y más inversiones. Se debate incluso la necesidad de construir un «CERN de la IA». Es una propuesta que refleja a la perfección el momento histórico: seguimos imaginando que la respuesta consiste en aumentar la escala de la tecnología, mientras que la cuestión decisiva se refiere al tipo de entorno cognitivo que esa misma tecnología está contribuyendo a construir.

Es este cambio al que he propuesto llamarEpistemia. Más que una transformación tecnológica, se trata de una transformación cultural. Una sociedad puede producir una cantidad casi infinita de textos impecables y, al mismo tiempo, perder progresivamente la capacidad de distinguir una explicación de una sucesión plausible de palabras. Cada vez que delegamos la construcción de una respuesta, también delegamos una parte del proceso a través del cual esa respuesta adquiere significado.

La historia del conocimiento coincide con la historia de los instrumentos que han ampliado nuestras capacidades cognitivas: la escritura, la imprenta, el telescopio, el ordenador. Los LLM forman parte plenamente de esta tradición. Sin embargo, toda gran tecnología modifica también el entorno cognitivo en el que se adopta. La verdadera pregunta, pues, no se refiere a cuán potentes llegarán a ser estas máquinas. Se refiere al criterio con el que seguiremos distinguiendo lo que sabemos de lo que simplemente parece plausible. De esa respuesta dependerá mucho más que el éxito de una tecnología. Al recordar aquella mañana, sigo teniendo la misma impresión. Lo que más faltaba no era solo el sentido en un aula universitaria. Era el sentido mismo del conocimiento.

Original en italiano, traducido con un traductor automático

*Walter Quattrociocchi es profesor de Informática en La Sapienza de Roma