Somos una Fundación que ejercemos el periodismo en abierto, sin muros de pago. Pero no podemos hacerlo solos, como explicamos en este editorial.
¡Clica aquí y ayúdanos!
“Había aprendido sin esfuerzo el inglés, el francés, el portugués, el latín. Sospecho, sin embargo, que no era muy capaz de pensar. Pensar es olvidar diferencias, es generalizar, abstraer. En el abarrotado mundo de Funes no había sino detalles, casi inmediatos”.
Borges: Funes, el memorioso.
Somos profesores de universidad de áreas humanísticas y hemos de confesar nuestra preocupación ante la omnipresencia en todos los ámbitos (incluido el educativo) de ChatGPT y, en general, de la Inteligencia Artificial (IA). Tecnologías que conllevan en su seno un diseño ideológico y político capitalista y libertariano, marcado por la “Doctrina Silicon”. Es decir, son herramientas de repetición del modelo capitalista neoliberal. “Máquinas de desimaginar”, como plantea Henry Giroux, puesto que sofocan el pensamiento educativo crítico y radical.
Somos conscientes de que, para una parte de la comunidad académica, seremos percibidos como unos neoluditas excesivamente críticos, bajo la argumentación de que la IA generativa ha venido “para quedarse”, como lo han hecho otros avances tecnológicos anteriores, a los que supuestamente habría que “adaptarse”.
Este argumento es profundamente peligroso, sin embargo, porque parte de, al menos, tres premisas cuestionables. La primera es que todo avance tecnológico, en cualquier momento histórico, ha sido siempre positivo para la humanidad. Algo radicalmente cuestionable, especialmente si miramos el desarrollo armamentístico y cómo se aplica, por ejemplo, en el genocidio en curso en Palestina, por parte de un régimen de ocupación y apartheid. Régimen que exhibe sus avances tecnológicos armamentísticos “probados en el terreno” como estrategia de marketing y venta, algo monstruoso.
La segunda premisa cuestionable es que parece existir la certeza de que si no ha habido en la historia “tecnología mala”, tampoco la va a haber nunca, es decir, el optimismo tecnológico se extiende, de forma automática, al presente y futuro de la humanidad.
Y la tercera premisa es que, ante la llegada de esta nueva tecnología (en gran medida desconocida: especialmente sus algoritmos, su “caja negra”, sus intereses, etc.), no cabe la resistencia, sino que lo razonable es, sencillamente, usarla y adaptarla de la mejor forma posible (con algunas recomendaciones éticas, por supuesto), sin considerar su impacto social y medioambiental (sea, por ejemplo, el consumo hídrico de la IA generativa, que es brutal en un planeta que se está desertificando, además de generar miles de toneladas de emisiones de dióxido de carbono que contribuyen al cambio climático). “¿Queremos quemar el planeta para producir ilustraciones baratas con IA?”, se pregunta el experto en informática sostenible, Wim Vanderbauwhede. Es más, esa aceptación y uso, generalmente acrítico, de cada última moda tecnológica, se convierte en sinónimo de vanguardia, que se vende en el mundo educativo con el mantra de “innovación”.
Sin embargo, pensamos, la IA generativa supone un salto cualitativo, con respecto a avances anteriores, en varias dimensiones clave, empezando por el tipo de capacidades humanas que viene a reemplazar, siendo una de las principales la toma de decisiones (nada más y nada menos: así está ocurriendo en el asesinato masivo de palestinos y palestinas en Gaza), que no la hacen equiparable ni con los buscadores de internet ni a internet en general (que no dejan de ser una biblioteca digital inmensa).
Por ello, más allá del modelo de negocio en que está basada y de la ideología política que hay detrás de este, mantenemos una postura crítica con la IA generativa y defendemos el derecho a la resistencia tecnológica también en cuanto a las consecuencias más directas de su uso en el ámbito educativo y la utilidad e interés de los contenidos que genera.
Desarrollamos a continuación los cuatro motivos principales, añadidos a los anteriores, por los que nos mostramos críticos ante la ola tecnoentusiasta que recorre la educación y la docencia universitaria.
Chat GPT es una máquina del pasado
En primer lugar, es imprescindible recordar que la IA generativa vive exclusivamente en el pasado: genera su contenido a partir de lo ya generado, y, más específicamente aún, de lo ya depositado en internet (y cada vez más, información generada por ella misma).
De alguna manera, el paradigma del que parte el aumento del uso de la IA es el del agotamiento de la capacidad de creación y de la creatividad de la inteligencia humana: ¿ya no hay nada nuevo que el pensamiento humano pueda aportar a los problemas del mundo, por lo que solo queda la revisión y reformulación de ideas pasadas?
Resulta difícil, sin embargo, equiparar esta forma de creación basada en el “nada nuevo bajo el sol”, donde la innovación se erradica casi por completo, con la verdadera inteligencia, por lo que el propio término es ya en sí engañoso. ¿Es este el modelo que esperamos en los trabajos académicos en nuestras asignaturas o en las investigaciones que desarrollamos? ¿Repetición de lo ya dicho, de lo ya leído, de lo ya sabido, presentado en otro orden y con otra redacción?
Por ejemplificar esta cuestión, quizás Chat GPT es capaz de generar un relato emulando el estilo de Cortázar, pero jamás habría creado, por primera vez, su “antinovela” Rayuela. Los contenidos generados por la IA son, en gran medida, realmente aburridos, porque anulan el riesgo, la profundidad emocional, contextual y relacional, por no hablar del componente comunicativo y, por tanto, genuinamente humano, que toda obra artística o humanística tiene.
Chat GPT “habla”, pero no comunica
Y es que, en efecto: ¿a qué lector de Cortázar puede interesarle un relato escrito por ChatGPT emulando el estilo del fallecido escritor argentino? ¿A quién puede interesarle una obra artística que no es fruto de la necesidad de expresión de una herida existencial, de repensar vivencias, de “ajustar cuentas” con la vida? ¿A quién le interesa verdaderamente un arte no humano? ¿al mercado de bitcoins?
También los trabajos académicos son una forma de comunicación, no de reproducción. Reflejan la forma en la que el o la estudiante ha organizado y expresado sus ideas y sus vivencias. Mediante los que da forma a su pensamiento y comunica también aspectos vitales sobre el contexto desde el que se ha realizado el trabajo o sobre los pensamientos o vivencias que han podido inspirarlo: sobre cuestiones, en fin, que enriquecen el trabajo, que ayudan a los docentes a conocer a sus estudiantes (y alimentan, por tanto, el vínculo entre ambos) y que, sin duda, son un ejercicio imprescindible para todo estudiante.
Al igual que los trabajos de investigación y de publicación que hace el profesorado ¿A quién le puede interesar un trabajo que solo reproduzca, como hace ChatGPT, y que no sea una forma de comunicación sobre algo realmente relevante tanto para quien lo produce como para quién lo recibe?
Chat GPT nos priva del placer (y el misterio) de pensar (y de escribir y crear)
Y, sin embargo, en el mundo escolar, académico y docente se está delegando en ChatGPT la generación de ideas para nuestros trabajos (es decir, la búsqueda de inspiración) y la redacción de estos. Llegando a usarlo para la toma de decisiones personales como, por ejemplo, la de continuar o no estudiando un máster. Renunciamos, con ello, a ejercer la principal de las capacidades humanas (la más enigmática, por otro lado, como nos recuerda Liset Menéndez).
Renunciamos, también, a esa tarea tan fundamental, enriquecedora y placentera de buscar las palabras precisas que transmitan certeramente la combinación de información, experiencia y emoción que circula difusamente en nuestra mente. Renunciamos a la intuición, es decir, a esa forma de pensamiento que da valor de manera inconsciente a todo lo vivido, lo percibido y lo aprendido a lo largo de nuestra vida, en favor de datos depositados en internet y su combinación mecánica.
Todo ello en aras del productivismo neoliberal propio del capitalismo (ganar tiempo para seguir produciendo), la tecno-ingenuidad (la IA es neutra ideológicamente y no refleja sesgos, ni ideologías, ni reproduce estereotipos y discriminaciones), o la simple pereza mental (al ofrecernos respuestas rápidas, supuestamente “coherentes” y fáciles de consumir).
Pienso prompts, luego existo, parece ser la inquietante versión actual de la máxima cartesiana en pleno siglo XXI.
Más allá de ChatGPT: seguir siendo humanos
Desconocemos en buena medida las fuentes usadas en la generación de sus “ideas” (léase también decisiones), los sesgos con los que opera (como los señalados por Timnit Gebru, despedida de Google en 2020 por ponerlo en evidencia), así como su impacto medioambiental y social. Sabemos qué empresas están detrás de las aplicaciones de IA y por tanto, nos tenemos que plantear, ¿qué tipo de sistema económico, social, ideológico y político mundial potenciamos con su uso? Todo ello, sin olvidar que sus algoritmos están sirviendo para orientar y decidir el genocidio en Palestina.
Así las cosas, quizás la principal pregunta sea: ¿no nos corresponde a la comunidad académica una reflexión profunda y transparente sobre el diseño, la implementación y el impacto ideológico, político, social, económico y medioambiental que está produciendo la IA Generativa, y no solo incorporar esta tecnología en nuestra investigación y docencia de forma acrítica y centrada en los resultados inmediatos y en su uso “práctico”?
En definitiva, solo caben respuestas y decisiones humanas para los problemas genuinamente humanos. Como, sin ir más lejos, la incomprensible mansedumbre de occidente ante el genocidio del régimen sionista de Israel, que está consumando en tiempo real el exterminio de un pueblo, al que se le siguen proporcionando armas y apoyo ideológico y político. Como afirmamos a menudo en la Red Universitaria por Palestina, la inteligencia es de hecho siempre colectiva, y es precisamente la inteligencia colectiva crítica la que cabe reivindicar en tiempos oscuros como el actual: necesitamos crear comunidad de ideas, de valores y de proyectos desde y al servicio del bien común frente a la distopía productivista, individualista y profundamente capitalista y neoliberal que nos presenta la IA en manos de los nuevos terratenientes tecnofeudales, cuya ideología neolibertariana es cada vez más omnipresente en un mundo que se nos escapa de las manos.
