Davos 2025: Los agentes de IA llevarán a escenarios catastróficos
(Suiza) En el marco del Foro Económico Mundial Davos 2025, expertos discutieron sobre los rápidos avances de la Inteligencia Artificial (IA), los cuales habilitan el camino hacia la IA General y cómo navegará la humanidad en esta superinteligencia en desarrollo.
Yoshua Bengio, considerado uno de los “padrinos de la IA” junto a Geoffrey Hinton y Yann LeCun, y galardonado con el Premio Turing en 2018, lanzó una seria advertencia sobre los riesgos potenciales de desarrollar agentes de inteligencia artificial demasiado poderosos.
“En este momento las máquinas ya superan a los humanos en tareas específicas debido a su capacidad para procesar enormes cantidades de datos y comunicarse rápidamente. En este sentido, el camino hacia una verdadera IA General requerirá abordar las limitaciones de los modelos actuales y explorar formas innovadoras de aprendizaje”, detalló Bengio.
Andrew Ng, presidente ejecutivo de LandingAI, señaló que “la posibilidad de alcanzar una superinteligencia podría estar a décadas de distancia o incluso lograrse en una sola generación. Sin embargo, la IA General no podrá dominar rápidamente ningún entorno social debido a la recursividad o la autosuperación que necesita esta tecnología”.
Ng también hizo un llamado a las potencias tecnológicas, como China y Estados Unidos, a que “trabajen juntas en lugar de competir para evitar una carrera que pueda generar desigualdad o tensiones geopolíticas”, destacó Ng.
En su turno, la profesora de la Universidad de Stanford, Yejin Choi, comparó el aprendizaje de las máquinas con el de los humanos.
“Las IA actuales aprenden de manera secuencial y restringida. Si bien estas tecnologías pueden sobresalir en tareas complejas, también cometen errores aparentemente triviales debido a su dependencia de los datos disponibles y las soluciones programadas. Por su parte, los seres humanos somos capaces de resolver problemas sin ningún dato previo; lo hemos hecho durante siglos. Así que a las IA actuales les falta mucho, y la IA General puede ser el camino”, aseguró Choi.
“Supongamos que debes criar a tu hijo proporcionándole banda ancha y el bebé tiene que leer el New York Times desde el primer día; no puede hacer ninguna pregunta, no se puede decidir en qué orden leerlo.El bebé aprende de la forma en que aprende y, como resultado, esto conduce a un tipo particular de inteligencia que es bastante diferente de la inteligencia de una máquina”, ejemplificó.
Pero no todos los panelistas consideran a la IA General como el camino hacia “el amanecer de la IA”. Jonathan Ross, fundador y CEO de Groq, cuestionó la “obsesión de todos con la IA General, cuando el verdadero progreso proviene de resolver problemas específicos. Se ha subestimado lo difícil que es replicar habilidades humanas aparentemente simples”.
En una entrevista con Business Insider, Bengio enfatizó que “todos los escenarios catastróficos con AGI o superinteligencia suceden si tenemos agentes”. Según explicó, los agentes son sistemas que actúan de forma autónoma, con objetivos propios, lo que los convierte en una amenaza potencial si sus decisiones no están alineadas con los valores y los intereses humanos.
“El problema es que las personas seguirán construyendo agentes sin importar qué, especialmente porque las empresas y los países competidores temen que otros logren alcanzar primero la AGI autónoma”, afirmó Bengio.
“Debemos reconocer los riesgos, entender científicamente de dónde vienen y realizar la inversión tecnológica necesaria para garantizar la seguridad antes de que sea demasiado tarde y construyamos cosas que puedan destruirnos”, agregó.
Ver más: Davos 2025: Ericsson asegura que España es “un buen ejemplo” en el despliegue 5G
Ver más: Davos 2025: CEO de BlackRock “ahora” es un gran creyente de bitcoin
