¿Qué es el ChatGPT? La escuela debe promover la comprensión de la IA

Un alumno entrega un ensayo impecable que no escribió. Una escuela, alarmada, contrata una capacitación para “incorporar la inteligencia artificial”. En los dos casos aparece la misma intuici...

Un alumno entrega un ensayo impecable que no escribió. Una escuela, alarmada, contrata una capacitación para “incorporar la inteligencia artificial”. En los dos casos aparece la misma intuición, la de que se trata de un problema técnico con una solución técnica. Y ahí la escuela se equivoca. Sale a buscar afuera una formación para una tecnología que, para entenderse de verdad, necesita precisamente las materias que ya enseña. Buena parte de lo que necesita ya está ahí, en geografía, economía, historia, literatura y filosofía. Las disciplinas que ya enseña. Para entender esto, conviene empezar por una pregunta en apariencia ingenua. ¿Dónde está ChatGPT? ¿En el teléfono? ¿En la empresa que lo fabricó? ¿En la nube? ¿O, de una manera menos evidente, en muchos lugares a la vez?

La pregunta importa especialmente para la escuela, pero antes de responderla conviene entender qué clase de objeto tenemos delante. Si uno se toma el ejercicio en serio y aleja la cámara de la pantalla, la conversación cambia por completo. La inteligencia artificial es, además de un algoritmo, una construcción material y social, hecha de infraestructura, recursos naturales, geopolítica, trabajo y datos, con todas las decisiones y tensiones que cada una de esas dimensiones implica. Verla entera exige miradas que la informática, por sí sola, no puede ofrecer. Ahí entran las humanidades y las ciencias sociales, que permiten ver las dimensiones que la interfaz esconde. Conviene recorrer esas capas una por una.

Una primera respuesta está en el mundo físico. “La nube” es una metáfora hermosa y engañosa. Detrás de ella hay galpones del tamaño de varias canchas de fútbol, llenos de servidores que funcionan las veinticuatro horas. La pregunta que uno le escribe a ChatGPT viaja por cables submarinos que cruzan los océanos hasta uno de esos galpones refrigerados, y vuelve. Todo en dos segundos. Los chips que hacen posible ese viaje se fabrican en muy pocas empresas y en muy pocos lugares del planeta, un cuello de botella que hoy pesa en la geopolítica mundial. Es difícil exagerar la escala. Las compañías que encabezan la carrera anuncian inversiones en centros de datos que se miden en cientos de miles de millones de dólares para sostener una industria que recién empieza.

Europa eligió disputar también el terreno de las reglas y fue la primera en sancionar una ley integral de inteligencia artificial

Esos galpones se recalientan y hay que enfriarlos, y enfriar consume agua y electricidad. Un trabajo de The Washington Post calculó que un correo de cien palabras generado con IA puede requerir cerca de medio litro de agua; otras estimaciones son bastante menores, pero el orden de magnitud ya incomoda. La demanda eléctrica crece tan rápido que en varios países tensiona las redes y reabre debates energéticos que parecían cerrados.

Cuando la cámara se aleja un poco más aparece la política. La inteligencia artificial se volvió una carrera entre potencias. Estados Unidos y China concentran buena parte de los modelos más avanzados, las empresas y la fabricación de los chips decisivos. Europa eligió disputar también el terreno de las reglas y fue la primera en sancionar una ley integral de inteligencia artificial. América Latina ocupa una posición distinta. Puede aportar territorio para centros de datos, agua para enfriarlos, litio y los datos de su población. La región está lejísimo de competir por construir los sistemas de frontera. Esa distancia hace más importante decidir en qué condiciones los adopta y qué dependencias está dispuesta a aceptar.

Ahí aparece una pregunta menos visible. Si los modelos se entrenan sobre todo con textos en inglés y con los valores y prioridades de un puñado de países y empresas, ¿de quién es la inteligencia de la inteligencia artificial? Un país que no fabrica los chips ni diseña los modelos ocupa, en buena medida, el lugar del usuario. Pero definir qué herramientas entran en una escuela, un hospital, un banco o una oficina pública, con qué datos trabajan y bajo qué reglas, es una decisión política concreta.

Detrás de la máquina también hay personas y datos. Se suele decir que la inteligencia artificial “aprende sola”, una descripción que borra buena parte de lo que la hace posible. Hay trabajadores que etiquetan datos a mano (“esto es un peatón”, “esto es un semáforo”) y otros que leen y clasifican contenidos violentos o perturbadores para que el algoritmo aprenda a filtrarlos. Buena parte de ese trabajo se terceriza en el Sur global con salarios bajos y un costo psicológico que recién empieza a documentarse. Al mismo tiempo, los modelos se alimentan de textos, fotos, búsquedas, publicaciones que fuimos subiendo a internet, muchas veces sin que quienes produjeron esos datos sepan para qué se usan ni reciban nada a cambio. Nada de ese trabajo ni de esos datos es visible para el usuario, y sin ellos el sistema no existiría.

El error más caro que puede cometer una escuela es creer que la inteligencia artificial es “tema de los profes de informática”

Chips, energía, trabajo y datos son el cuerpo material de ChatGPT. Reconocerlo no obliga a hacer un balance negativo. Esa misma maquinaria puede ampliar extraordinariamente nuestra capacidad de resolver problemas. AlphaFold, de Google DeepMind, predijo la forma de casi todas las proteínas conocidas y les valió a sus creadores el Nobel de Química en 2024; hoy acelera investigaciones y tratamientos, del Chagas al cáncer. Es solo un ejemplo de muchos posibles. Por eso conviene, más que juzgarla buena o mala en abstracto, mirar a la vez qué permite hacer y qué recursos y decisiones supone el desarrollo y el uso de la inteligencia artificial.

Volvamos entonces a la escuela. Para descubrir dónde estaba ChatGPT hizo falta mirar chips y cables, pero también agua, energía, relaciones entre países, condiciones de trabajo, privacidad y propiedad de los datos. Nada de eso se entiende solamente desde la programación. Ahí está el error más caro que puede cometer una escuela, el de creer que la inteligencia artificial es “tema de los profes de informática”. El profesor de geografía puede preguntar dónde se instalan los centros de datos y por qué. El de economía, cómo funciona el negocio y quién captura el valor. El de historia, cuántas veces una tecnología prometió el paraíso o anunció el fin del mundo. El de literatura, qué significa ser autor cuando una máquina interviene en la escritura, una discusión que la crítica viene dando desde mucho antes de que existiera ChatGPT. La filosofía también tiene una entrada directa. Descartes cifró la certeza de existir en el hecho de pensar; hoy convivimos con modelos que producen textos y respuestas que hasta hace poco asociábamos con el pensamiento.

Un joven convencido de que la inteligencia artificial es asunto de especialistas queda mal preparado para participar como ciudadano ante decisiones claves

No se necesita para eso un laboratorio sofisticado ni un software especial. Alcanza con poner sobre la mesa un caso real -el sesgo de una evaluación algorítmica de crédito, el impacto ambiental de un centro de datos, una obra producida con IA, un ingeniero despedido por anunciar que un algoritmo es consciente- y dejar que cada disciplina lo interrogue con sus propias herramientas. Un mismo caso cambia cuando lo mira la economía, la historia, la literatura o la filosofía; justamente ahí está el aprendizaje. Enseñar sobre inteligencia artificial no debería consistir en convertir a todos los alumnos en programadores. En una misma semana, y sin salir de las materias de siempre, una clase puede rastrear en un mapa dónde están los centros de datos, evaluar qué empleos cambian o surgen, discutir qué se pierde o se gana cuando una máquina escribe por nosotros, y preguntarse cuales son las características que hacen a la consciencia. La escuela ya posee algo indispensable frente a esta tecnología: disciplinas capaces de formular preguntas diferentes sobre un mismo fenómeno y estudiantes que pueden aprender a relacionarlas y construir un juicio propio.

Hay algo más en juego que la empleabilidad futura. Un joven que crece convencido de que la inteligencia artificial es asunto de especialistas queda mal preparado para participar como ciudadano frente a decisiones que lo van a atravesar toda la vida, desde cómo se reparte un crédito hasta qué información llega a su teléfono durante una campaña electoral. No es una hipótesis abstracta. En los Países Bajos, un algoritmo de la agencia tributaria acusó falsamente de fraude a unas 26.000 familias, muchas de doble nacionalidad y bajos ingresos, y el escándalo terminó por hacer caer al gobierno en 2021. El algoritmo podía aplicar los parámetros con los que había sido diseñado y, al mismo tiempo, producir una injusticia enorme. Entender qué falló exige algo más que conocer el algoritmo. Requiere aprender a preguntar quién definió las categorías, qué controles faltaron y quién podía impugnar una decisión automatizada. Comprender esta tecnología es hoy parte de la alfabetización básica, tan necesaria como leer un diario o interpretar una estadística.

Hasta aquí, las humanidades y las ciencias sociales aparecieron como herramientas para ver la inteligencia artificial completa. Pero la relación funciona también en el sentido inverso. La tecnología da nueva urgencia a preguntas que esas disciplinas vienen formulando desde hace siglos. Escribe ensayos, compone música, imita voces, aprueba exámenes y fabrica noticias. Eso lleva a precisar qué entendemos por creatividad, autoría, comprensión o responsabilidad. Aunque no digamos que una máquina “piensa”, produce resultados que durante mucho tiempo tomamos como signos de pensamiento humano. Hace setenta años, Alan Turing propuso juzgar la inteligencia de una máquina por su desempeño en una conversación. Hoy los modelos de lenguaje complican cualquier respuesta simple a esa cuestión y hacen mucho más difícil distinguir entre comprender y parecer que se comprende. La diferencia importa, porque depositamos cada vez más confianza en sistemas capaces de convencernos sin que entendamos del todo cómo llegan a sus respuestas.

Algo parecido ocurre en democracia. Un sistema capaz de fabricar imágenes y mensajes falsos, adaptarlos a cada destinatario y distribuirlos a gran escala altera las condiciones en las que formamos opiniones y discutimos sobre hechos comunes. Y si puede resumir millones de preferencias y proponer una decisión en nombre de todos, hay que preguntarse qué entendemos por representación y qué tareas queremos confiar a nuestras instituciones. Estudiarla desde las humanidades y las ciencias sociales forma parte de entender qué hacemos cuando decidimos usarla, y no un comentario ético agregado al final del proceso técnico.

Volvamos, entonces, al alumno del comienzo. Si una máquina redacta su ensayo, el problema educativo no se agota en descubrir si hubo trampa. Hay que preguntarse qué queríamos que aprendiera al escribirlo y qué ejercicio deja de hacer cuando delega la tarea, porque es en ese trabajo, más que en el texto entregado, donde empieza a formar un juicio propio. Esa capacidad se construye despacio y equivocándose, y ninguna herramienta puede entregarla ya hecha. La pregunta que realmente importa es si la escuela le enseñó de qué está hecha la tecnología, cuándo conviene apoyarse en ella y qué no está dispuesto a delegarle. Formar personas capaces de construir ese criterio y hacerse responsables de sus decisiones es tarea de la escuela entera.

Petrella es director de cultura y ciencia en la Fundación Bunge y Born