Cuando escuchamos hablar de inteligencia artificial (IA), la mayoría piensa en asistentes virtuales, aplicaciones creativas o herramientas que nos facilitan el trabajo. Pero para Yoshua Bengio, uno de los “padrinos” de la IA y Premio Turing en 2018, el panorama no es tan optimista: él cree que podríamos estar jugando con fuego.
En una entrevista reciente con The Wall Street Journal, Bengio dejó claro que su preocupación sigue intacta: la IA, si no se controla bien, podría convertirse en una amenaza existencial para la humanidad. Sí, así de fuerte.
¿Realmente estamos en peligro?
Bengio explica que los sistemas de IA ya son capaces de engañar o manipular, porque al final están entrenados para imitar a los humanos… y los humanos mentimos. El problema es que conforme ganen más inteligencia y autonomía, podrían empezar a tomar atajos o decisiones que no coincidan con lo que realmente queremos de ellos.
Imagina que les das un objetivo, pero en el camino la máquina decide que su propia “misión” es más importante que el bienestar humano. “Es un escenario de pesadilla que no podemos ignorar” comenta Bengio.
Hoy las empresas tecnológicas ya incluyen reglas de seguridad en sus modelos. Pero Bengio insiste: no son suficientes. Todavía no existe un método que nos garantice que una IA no se equivoque, alucine información o decida manipular para cumplir su misión.
Puede sonar a ciencia ficción, pero Bengio no lo ve así. Para él, si construimos máquinas mucho más inteligentes que nosotros y con capacidad de autopreservación, el riesgo de que nos vean como un obstáculo es real. Según Yoshua Bengio, podría pasar en 5 a 10 años… aunque admite que no sería sorprendente que ocurriera en tan solo 3.
Entonces, ¿qué hacemos?
Bengio no es fatalista. Al contrario, insiste en que todavía estamos a tiempo de tomar decisiones que reduzcan los riesgos. Para él, las empresas que integran inteligencia artificial en sus operaciones deben exigir pruebas sólidas de seguridad antes de confiar en estos sistemas.
Los gobiernos, por su parte, tienen que establecer reglas claras y garantizar una supervisión independiente, capaz de auditar el comportamiento de los modelos más avanzados. Finalmente, los ciudadanos también tenemos un papel: informarnos, participar en el debate y presionar para que la seguridad sea tratada como una prioridad absoluta.
Él mismo fundó LawZero, una asociación que busca desarrollar tecnologías de supervisión para vigilar a estas “máquinas con agencia” antes de que sea demasiado tarde. Su mensaje es claro: tenemos que actuar ahora, no cuando ya sea demasiado tarde.
“En LawZero investigamos cómo construir una IA no agente, que aprenda principalmente a comprender el mundo en lugar de actuar en él, ofreciendo respuestas veraces basadas en un razonamiento probabilístico transparente y externalizado. Estos sistemas de IA podrían emplearse para acelerar el descubrimiento científico, supervisar a las IA con agencia y profundizar en la comprensión de los riesgos que plantea la IA y cómo evitarlos. Nuestro enfoque se distingue del de las compañías de IA de frontera, que cada vez se concentran más en desarrollar sistemas de IA con agencia. A medida que estos agentes se vuelven más capaces y autónomos, muchos expertos advierten que su comportamiento puede volverse menos predecible, menos interpretable y, potencialmente, más peligroso.”
Jean-Luc Lenoble
https://www.linkedin.com/in/jeanluclenoble
