La difícil convivencia de una IA adolescente con humanos inmaduros
Hay una escena clave en la película Contacto (1997), basada en el libro de Carl Sagan, en la que una astrónoma (Jodie Foster) que acaba de detectar la primera señal de vida extraterrestre es int...
Hay una escena clave en la película Contacto (1997), basada en el libro de Carl Sagan, en la que una astrónoma (Jodie Foster) que acaba de detectar la primera señal de vida extraterrestre es interrogada por un comité internacional. Le preguntan qué le gustaría saber de los alienígenas si pudiera hacerles una sola pregunta. Su respuesta: “¿Cómo hicieron para atravesar su adolescencia tecnológica sin destruirse a sí mismos?”
Con este párrafo abre el nuevo ensayo de Dario Amodei, CEO de Anthropic (Claude), rival del ChatGPT de OpenAI. The Adolescence of Technology es el nombre del extenso texto que el tecnólogo acaba de publicar, en el que reflexiona sobre la madurez de la civilización y su posibilidad (o no) de absorber el avance de la tecnología. “La humanidad está a punto de recibir un poder casi inimaginable y no está nada claro que nuestros sistemas sociales, políticos y tecnológicos tengan la madurez necesaria para ejercerlo”, advierte.
Amodei usa una metáfora que se volvió viral en pocos días en el mundo tecnológico: la llegada de la IA avanzada (a la cual define en detalle y pronostica para 2027) equivale a crear “un país con 50 millones de genios dentro de un centro de datos”. Millones de inteligencias más capaces que cualquier Premio Nobel, operando entre diez y cien veces más rápido que un humano, con acceso a internet, sistemas financieros, laboratorios, robots y más. “La generación actual de IA ya escribe gran parte del código necesario para construir la siguiente”, escribe Amodei. Ese bucle de retroalimentación, IA creando IA, es lo que vuelve tan vertiginoso este momento histórico.
El ensayo trabaja sobre cinco peligros en los que, dice, deberíamos estar trabajando los humanos hoy: la posible amplificación de la destrucción, autoritarismo potenciado por IA, riesgos por autonomía, disrupción económica y efectos indirectos desestabilizadores. Amodei no propone frenar la tecnología, algo inviable, ni rendirse al miedo. Propone algo más difícil: crecer como civilización. Ahora bien: ¿qué hicimos la mayoría de los usuarios de LLM (grandes modelos de lenguaje) esta semana en la que Amodei publicó estas 20.000 palabras trascendentales? Le pedimos a ChatGPT “Crea una caricatura de mí y de mi trabajo basándote en todo lo que sabes sobre mí” y le subimos nuestras fotos para que Sam Altman siga entrenando su modelo gratis.
La adolescencia es una etapa incómoda: impulsiva, despareja, llena de errores. Pero también es el momento en el que se forma el carácter. La inteligencia artificial no nos está evaluando por nuestra inteligencia. Nos está poniendo frente a una prueba mucho más exigente: nuestra madurez. Leer el ensayo de Amodei lleva una hora con 45 minutos. Hacer la caricatura vanidosa de moda con ChatGPT menos de dos minutos. ¿Por cuál vas?