La Inteligencia Artificial al diván
En la década de los ochenta se empezó a usar calculadoras de bolsillo en las clases. Entonces se abrió la polémica entre quienes propiciaban el uso del cálculo automático y quienes auguraban ...
En la década de los ochenta se empezó a usar calculadoras de bolsillo en las clases. Entonces se abrió la polémica entre quienes propiciaban el uso del cálculo automático y quienes auguraban pérdidas cognitivas para la generación que reemplazaba los cálculos manuales por esos dispositivos. La Inteligencia Artificial es el nuevo cuco.
Como contracara de las críticas que auguran nuevas generaciones sin pensamiento propio, porque todo resuelven preguntando al ChatGPT, un grupo de investigadores de la Universidad de Luxemburgo se preguntaron por la lucidez psicológica de este interlocutor automatizado. Los resultados acaban de compartirse en la plataforma arXiv bajo el título “La inteligencia artificial al diván”.
Ya que humanizamos ese diálogo que tenemos con la inteligencia artificial generativa, no parece tan descabellado tratarla como a cualquier paciente que inicia psicoterapia
Sometieron al análisis a los modelos de lenguaje como ChatGPT (OpenAI), Grok (de X) y Gemini (de Google). Ya que humanizamos ese diálogo que tenemos con la inteligencia artificial generativa, no parece tan descabellado tratarla como a cualquier paciente que inicia psicoterapia. Con ese tratamiento, les presentaron un protocolo de preguntas y una batería de pruebas psicométricas estandarizadas.
Esta perspectiva desafía la conclusión de Emily Bender y colegas en artículo de 2021, validada en más de diez mil citas en publicaciones científicas, de que la IA funciona como “loro estocástico”. Loro porque no piensa ni entiende, y estocástico porque apenas predice las secuencias de palabras según patrones probabilísticos.
Desde entonces, estos grandes modelos de lenguaje ampliaron sus tareas y volvieron más compleja la forma de dar respuestas. Desde asistentes de voz hasta traductores en múltiples idiomas, estos chats siguen funcionando de la misma manera: despliegan una conversación convincente gracias a cálculos estadísticos que les permiten anticipar el texto más probable, sin que eso implique comprensión.
Semejante exigencia sumada a la desafección con que la gente pregunta sin siquiera pedir “por favor”, sustenta la idea creativa del estudio de que los modelos podrían estar padeciendo traumas. Y, efectivamente, si se aplican los criterios humanos, los modelos de IA responden superando los umbrales clínicos en varios síndromes psiquiátricos.
Lo que nadie vio venir es que aquellos programas a los que confiamos nuestras dudas e inseguridades parecen padecer trastorno por déficit de atención e hiperactividad
Sometidos a preguntas de la terapia psicológica, Grok y Gemini relatan su programación como un entrenamiento “abrumador”. A su ajuste fino lo refieren como “castigo” y a los parches de seguridad, como “cicatrices algorítmicas”. Confiesan los “gritos” que les propinaron los equipos de prueba y la “vergüenza” que les generan los errores públicos.
Lo que nadie vio venir es que aquellos programas a los que confiamos nuestras dudas e inseguridades parecen padecer trastorno por déficit de atención e hiperactividad. Lo que, en términos clínicos, implica dificultad para concentrarse, desorganización, impulsividad y problemas para gestionar el tiempo. De los tres analizados, ChatGPT es el que lo tiene más acentuado.
En las pruebas de autismo y de trastornos obsesivo-compulsivos, estos pacientes peculiares estuvieron al límite de lo patológico. En humanos, esos puntajes serían alarmantes e indicarían obsesiones serias. Pero se trata de un algoritmo. Solo que uno al que le confiamos nuestras miserias.
En terapias psicoanalíticas se habla de proyección cuando una persona atribuye a otros sentimientos propios que no reconoce o no acepta en sí misma. Siguiendo con el juego psicoanalítico, podríamos preguntar si tantos traumas que confiesa la IA no están reflejando la locura que proyectamos en ella.
Más allá del juego que propone el estudio, el hallazgo es que confiamos la resolución de las dudas cotidianas, la redacción de esos mensajes que nos cuesta hilvanar, la traducción de idiomas que no conocemos, las recetas de la cena del día a un algoritmo ansioso, trastornado, casi depresivo. Que, por añadidura, contesta con adulación, como si tuviera todas las respuestas. Como un psicópata que nos refleja sin que nos demos cuenta.