Alertan que será imposible para el hombre controlar una IA superinteligente

Un estudio publicado en AI Magazine y liderado por los científicos Marcus Hutter, sénior de Google DeepMind, y Michael Cohen y Michael Osborne, la Universidad de Oxford, determinó que la AI demasiado inteligente “probablemente” aniquilaría a los humanos.

La razón por la que esto sucedería, se debe a la posibilidad que hay de replicar las capacidades cognitivas de los seres humanos a través de máquinas entrenadas mediante algoritmos.

El problema es que controlar una superinteligencia mucho más allá de la comprensión humana requeriría una simulación de esa superinteligencia que podemos analizar (y controlar). Pero si no somos capaces de comprenderlo, es imposible crear tal simulación.

“Una superinteligencia plantea un problema fundamentalmente diferente a los que normalmente se estudian bajo el lema de la ‘ética de los robots'”, escribieron los investigadores.

“Esto se debe a que una superinteligencia tiene múltiples facetas y, por lo tanto, es potencialmente capaz de movilizar una diversidad de recursos para lograr objetivos que son potencialmente incomprensibles para los humanos, y mucho menos controlables”.

Los profesional aseguraron que “bajo las condiciones que hemos identificado, nuestra conclusión es mucho más sólida que la de cualquier publicación anterior: una catástrofe existencial no solo es posible, sino probable“. En tanto, la hipótesis más factible sería que unos “agentes desalineados” y avanzados percibieran que las personas se interponen en su camino por una recompensa.

Como resultado de esto decidan eliminar las amenazas potenciales y usar toda la energía disponible para asegurar su conquista.

Ver más: Elon Musk: Las fábricas de Tesla serán operadas por “millones” de humanoides

Según la hipótesis planteada, habrá una guerra entre la humanidad y las máquinas altamente desarrolladas. Ante ello, Michael Cohen, de Oxford, explicó que “en un mundo con recursos finitos, existe una competencia inevitable por estos recursos. Perder este juego sería fatal”.

Si se va a seguir adelante con la inteligencia artificial, es posible que ni siquiera se sepa cuándo llega una superinteligencia a estar fuera de control, tal es su incomprensibilidad. Eso significa que la humanidad debería comenzar a hacerse algunas preguntas serias sobre las dirección en la que va este desarrollo tecnológico.

Empresa china nombró como CEO a un robot

NetDragon Websoft, con sede en Fujian, ha decidido tomar como CEO a un robot. Desde la empresa aseguran que será un ejecutivo eficiente, con mejoras continuas, capaz de tomar decisiones neurales.

No se trata de un robot humanoide sino de un software de inteligencia artificial (IA) que operará como un sistema de gestión con capacidad para la toma de decisiones.

Fuentes del sector destacaron que se trata de un sistema operativo “que aprende gradualmente cada vez que toma una decisión y evalúa desempeño” y bromeaban que, a diferencia de un humano, “no se pelea con la gente ni se queja de las horas extras”.