IA generativa: ¿En quién vas a poder confiar ahora?

Este año 2023 ha supuesto un verdadero empujón para todas las tecnologías de Inteligencia Artificial generativa capaces de producir contenido, ya sea en imágenes, sonido, texto e incluso video, a una velocidad impresionante y con una calidad que, hoy por hoy, se acerca a un realismo inaudito. En general todas las tecnologías nacen como tecnologías neutras, es su uso concreto el que determina su beneficio o su perjuicio.

La inteligencia artificial generativa como ChatGPT representa un salto importante en el avance de la inteligencia artificial. 

ChatGPT, el programa que permite hacer preguntas sobre cualquier asunto y que te genera respuestas coherentes, ha arrasado en las noticias. Puede escribir relatos, poemas, responde a preguntas de exámenes, puede resumir, textos, etc. 

Por otro lado, también hemos visto que ChatGPT es capaz de inventar cosas que no son verdaderas; las llamadas “alucinaciones”. 

 ChatGPT podría generar una enorme cantidad de desinformación (noticias falsas) en muy poco tiempo. En manos equivocadas podría causar serios problemas en las sociedades hasta influir en elecciones democráticas. 

Las “fake news” han invadido la actualidad y son capaces de cambiar el rumbo de los acontecimientos en elecciones políticas, conflictos armados, negociaciones socioeconómicas… y aún así, el peligro más serio y fundamental sigue siendo la quiebra de nuestra confianza en lo que vemos. “Lo he visto con mis propios ojos” ha dejado de tener validez y eso tendrá importantes consecuencias.

Daniel Denett, uno de los filósofos más destacados de nuestro tiempo, lo explica claramente en una sola frase: “A través de la IA estamos creando virus mentales, memes a gran escala que socaban la civilización destruyendo la confianza, destruyendo el testimonio y la evidencia. No sabremos en qué confiar”. Estamos asistiendo a un nuevo escalón, inquietante y acelerado, en el futuro de la desinformación.

La inteligencia artificial generativa (IA generativa) tiene varios riesgos y peligros asociados. Aquí te menciono algunos:

  1. Filtración de datos personales: Los sistemas de IA pueden comprometer el bienestar de las personas si se filtran los datos personales.
  2. Vigilancia y manipulación: Las organizaciones privadas o gubernamentales con acceso a la información que alimenta a las tecnologías de IA pueden realizar una vigilancia extrema y posterior manipulación.
  3. Cámaras de eco o filtros burbuja: Este fenómeno se presenta cuando se está expuesto a las mismas ideas, noticias y/o hechos, lo que es común entre los usuarios de redes sociales y termina fortaleciendo sesgos preconcebidos.
  4. Subrepresentación en los modelos de IA: Especialmente en cuestiones relacionadas al acceso a la salud y a la educación.
  5. Desinformación: La IA generativa podría generar una enorme cantidad de desinformación (noticias falsas) en muy poco tiempo. En manos equivocadas podría causar serios problemas en las sociedades hasta influir en elecciones democráticas.
  6. Infracción de patentes y derechos de autor: Los problemas legales relacionados con la infracción de patentes y derechos de autor están asociados a las herramientas de IA generativa.

Es importante tener en cuenta que estos riesgos pueden anticiparse y mitigarse si nos aseguramos de que los implicados en el desarrollo y uso de estas tecnologías establezcan protocolos claros para cada etapa de su ciclo de vida.

No es un problema menor. La IA generativa carece de una regulación adecuada que está generando problemas de derechos (estas redes neuronales se entrenan con material creado por otros autores), pérdida de empleos (ya hay medios que han despedido a su “plantilla humana” para sustituirla por Inteligencias Artificiales) y sobre todo genera una confusión que, en determinadas situaciones y conflictos, puede llegar a ser muy peligrosa.

Ver más: Según la SEC: La inteligencia artificial supone un riesgo real para los mercados financieros

Ver más. Inteligencia Artificial: ¿Cuáles son los puntos que se debaten para su posible regulación?

Ver más: Google añade nuevas funcionalidades a Bard, su chatbot de IA