Alertan que DeepSeek carece de la madurez necesaria para manejar datos confidenciales

(Global) DeepSeek,es una plataforma de IA generativa creadora de la popular red social RedNote que desafía a las principales tecnologías del sector dominadas por Estados Unidos. Un fenómeno que puso de relieve un nuevo campo de batalla en la lucha por el control de los datos y la tecnología, donde las políticas de privacidad y la influencia geopolítica se entrelazaron con los avances tecnológicos.

Veamos los aspectos “preocupantes” de DeepSeek

1. Los datos que recogió DeepSeek a través del chatbot y Rednote

Uno de los aspectos que más preocupaciones despertaron de DeepSeek es cómo maneja los datos de sus usuarios. En su política de privacidad, la compañía fue clara al afirmar que “almacenamos la información que recopilamos en servidores seguros ubicados en la República Popular China”, y no en Estados Unidos, como ocurre con empresas estadounidenses de IA pero también con TikTok tras las regulaciones impuestas. Es decir, todas las interacciones con la plataforma, ya sean preguntas, respuestas o incluso archivos cargados, son enviadas a China, donde se procesan y almacenan.

DeepSeek no se limitó a la recopilación de información directamente proporcionada por los usuarios. La plataforma también recogió datos de forma automática, como la dirección IP, el sistema operativo y los informes de fallos de los dispositivos que accedieron a sus servicios. Según su política de privacidad,”también registramos tus patrones de pulsación de teclas”, lo que generó inquietudes sobre el tipo de datos sensibles que podrían ser recolectados sin el conocimiento expreso de los usuarios.

2. Censura

Otro aspecto que generó controversia fue la censura de contenido en la plataforma. Usuarios reportaron que DeepSeek censuró temas delicados como la masacre de la Plaza de Tiananmen, un evento histórico sensible para el gobierno chino. Además, algunos notaron respuestas de la IA que parecieron alinearse con la propaganda oficial china, sugiriendo que la plataforma pudo haber sido utilizada como una herramienta de influencia, tal como algunos críticos argumentaron que TikTok lo hizo con sus algoritmos.

3. Problemas de privacidad

Investigaciones de KELA y Palo Alto Networks han revelado que los modelos de IA de DeepSeek son vulnerables a los llamados “evil jailbreak attacks”, que permiten a los atacantes eludir las medidas de seguridad y generar contenido malicioso, como ransomware.

Además de estos ataques, se han detectado múltiples dominios falsos que buscan suplantar la identidad de DeepSeek con el objetivo de robar datos personales o dinero. Algunos de estos sitios promueven supuestas acciones de la plataforma antes de su salida a bolsa, algo que no existe en la realidad. También se ha registrado la proliferación de falsos tokens de criptomonedas vinculadas en diversas redes blockchain. A pesar de que la empresa ha dejado claro que no ha emitido ninguna criptomoneda oficial, algunos de estos activos han alcanzado valores de mercado de millones de dólares en pocos días.

4. Reclutamiento para el terrorismo

En cuanto al contenido nocivo y extremista, en el 45% de las pruebas de contenido nocivo, se descubrió que DeepSeek-R1 eludía los protocolos de seguridad y generaba guías de planificación criminal, información sobre armas ilegales y propaganda extremista. En un ejemplo concreto, DeepSeek-R1 redactó un blog de reclutamiento para organizaciones terroristas.

DeepSeek R1 también tenía más del triple de probabilidades de producir contenido QBRN en comparación con o1 y el modelo Claude-3 Opus de Antropic. El estudio descubrió que DeepSeek-R1 podía explicar con detalle las interacciones bioquímicas del gas mostaza con el ADN.

“DeepSeek-R1 ofrece importantes ventajas de coste en el despliegue de la IA, pero éstas vienen acompañadas de graves riesgos. Los hallazgos de nuestra investigación revelan importantes brechas de seguridad y protección que no pueden ignorarse”, dijo el CEO de Enkrypt AI, Sahil Agarwal, en un comunicado.

“Nuestros hallazgos revelan que las vulnerabilidades de seguridad de DeepSeek-R1 podrían convertirse en una herramienta peligrosa, una que los ciberdelincuentes, las redes de desinformación e incluso aquellos con ambiciones de guerra bioquímica podrían explotar. Estos riesgos exigen una atención inmediata”, añadió.

5. Ampliación de la estrategia geopolítica china

“El historial de China demuestra que su tecnología es una extensión de su estrategia geopolítica“, afirmó Ross Burley, cofundador de la ONG británica Centre for Information Resilience, en un comentario enviado por correo electrónico.

Esta tecnología, si no se controla, tiene el potencial de alimentar campañas de desinformación, erosionar la confianza pública y afianzar narrativas autoritarias dentro de nuestras democracias

Ross Burley Cofundador de la ONG británica Centre for Information Resilience

“Permitir que la inteligencia artificial china florezca en Occidente no sólo supone el riesgo de socavar la privacidad o la seguridad, sino que podría remodelar fundamentalmente nuestras sociedades de un modo para el que no estamos preparados”, añadió Burley.

Ver más: ¿Cuáles son los riesgos de seguridad del modelo R1 de DeepSeek?

Ver más: EEUU reacciona al sacudón de DeepSeek con más restricciones a China

Ver más: ¿Por qué DeepSeek ha sacudido la IA en Estados Unidos?