Álvarez-Pallete: “No podemos dejar que la IA se nos escape de las manos”
El presidente y director ejecutivo de Telefónica, José María Álvarez-Pallete, se convirtió en la última figura de alto nivel en plantear inquietudes sobre los desarrollos futuros en IA generativa (GenAI), un área de tecnología que disfruta de una explosión de interés y publicidad en lo que va de 2023.
En un blog, el ejecutivo, que también preside la GSMA, destacó los riesgos existenciales asociados con el desarrollo de un modelo GenAI fuera de control, junto con la necesidad de centrarse en las personas dentro del desarrollo tecnológico.
Aunque reconoció el potencial de las plataformas para potenciar “exponencialmente” a la humanidad, advirtió que “como ya ha ocurrido en anteriores revoluciones tecnológicas, no podemos dejar que se nos escape de las manos. No todo lo que la tecnología es capaz de hacer es necesariamente bueno o socialmente aceptable”.
Ver más: Venden apps maliciosas para Google Play en la Darknet
“Un GenAI fugitivo o hambriento de poder es un riesgo existencial”, agregó Álvarez-Pallete, y señaló el potencial de la tecnología para desempeñar un papel en desarrollos dañinos para los humanos, ya sea biológica o socialmente con “campañas masivas de desinformación sistemática e indetectable”.
“Las mismas empresas que desarrollan GenAI lo hacen sin saber detener el proceso cuando GenAI adquiere un grado de autonomía sin restricciones”, advirtió.
Los comentarios de Álvarez-Pallete siguen a los llamados a una pausa en los desarrollos en el campo por parte de varios nombres de alto perfil en el sector tecnológico el mes pasado, con plataformas que incluyen ChatGPT que también llamaron la atención de los reguladores en las últimas semanas.
