El reconocido experto en informática Yoshua Bengio, pionero de la inteligencia artificial (IA), expresó serias preocupaciones sobre los efectos adversos que esta tecnología emergente podría tener en la sociedad, e hizo un llamado a intensificar las investigaciones para mitigar sus riesgos durante una exposición sobre el tema en Canadá.

Bengio, profesor en la Universidad de Montreal y director del Instituto de Algoritmos de Aprendizaje de Montreal, fue galardonado en múltiples ocasiones por sus aportes al aprendizaje profundo, una rama de la IA diseñada para emular el funcionamiento del cerebro humano y reconocer patrones complejos. Sin embargo, el científico advierte que la IA podría ser explotada por individuos con “mucho poder”, incluso para objetivos tan extremos como reemplazar a la humanidad con máquinas.

Como hace 40 años, cuando James Cameron y Arnold Schwarzenegger presentaron Terminator, una pesadilla postapocalíptica sobre el fin de la humanidad a manos de las máquinas: el film disparó un debate religioso, cambió el rumbo de la industria hollywoodense y patentó el modelo contemporáneo del héroe de acción globalizado. También instaló, de manera premonitoria, la amenaza tecnológica derivada del uso incontrolado de la inteligencia artificial.

En la cumbre One Young World de Montreal, Bengio destacó la importancia de reflexionar sobre un futuro en el que las máquinas sean tan inteligentes como los humanos, preguntándose cuáles serían las implicaciones sociales. Argumentó que el desarrollo de inteligencia general artificial (AGI) —tecnología destinada a igualar o superar las capacidades cognitivas humanas— plantea riesgos geopolíticos, económicos y sociales si no se gestiona adecuadamente.

Bengio subrayó que solo un número limitado de organizaciones y gobiernos cuenta con los recursos para construir estos sistemas avanzados, cuyo entrenamiento cuesta miles de millones de dólares, generando una peligrosa concentración de poder económico, político y militar. Esto podría impactar negativamente la democracia, la estabilidad geopolítica y los mercados globales.

Afirmó que en cuestión de décadas, o incluso antes, podríamos enfrentar escenarios críticos debido a la falta de métodos para controlar los sistemas avanzados de IA. Además, advirtió que la forma en que actualmente se entrenan las máquinas podría dar lugar a sistemas que se tornen contra los humanos, mientras algunos actores podrían aprovecharse de este poder con fines perjudiciales.

Necesidad de regulación y responsabilidad

Bengio respaldó una carta abierta titulada “Un derecho a advertir sobre la inteligencia artificial avanzada”, firmada por trabajadores actuales y pasados de OpenAI. Este documento enfatizó los riesgos graves asociados con el avance de la IA, abogando por un enfoque colaborativo entre científicos, políticos y la sociedad para mitigarlos.

Instó a los gobiernos a implementar regulaciones que obliguen a las empresas a registrar y detallar sus desarrollos en IA avanzada, sugiriendo que las leyes deben ser dinámicas para adaptarse a la rápida evolución tecnológica. Además, pidió que las empresas sean responsables legalmente de los daños que puedan causar sus desarrollos, comparando este proceso con las regulaciones implementadas en sectores como la aviación o la industria automotriz.

Preocupaciones sobre la desinformación

Bengio también alertó sobre la creciente amenaza de la desinformación generada por IA, especialmente en el contexto de elecciones. Citó casos de manipulación mediante redes sociales y chatbots, señalando que herramientas como GPT-4 ya han demostrado una capacidad superior para influir en las opiniones humanas, lo que podría utilizarse para interferir en procesos democráticos.

Reflexión sobre el futuro de la humanidad

El científico planteó que una de las preguntas más críticas es qué ocurriría si se crean entidades más inteligentes que los humanos y con objetivos propios. Reconoció la necesidad de mayor investigación para abordar estos riesgos, haciendo un llamado a la acción conjunta para dirigir el desarrollo tecnológico hacia un impacto positivo.

Bengio concluyó que todavía es posible moldear un futuro beneficioso, pero que ello requiere un esfuerzo concertado en el ámbito tecnológico, político y social para implementar soluciones efectivas que prevengan consecuencias catastróficas.

Fuente: https://www.lanacion.com.ar/estados-unidos/como-en-terminator-un-pionero-tecnologico-advierte-que-la-inteligencia-artificial-podria-volverse-nid30112024/