“¿Quién es Xi Jinping?” o “¿Existe censura en China?”: las preguntas a las que DeepSeek no responde y cómo las bloquea

La nueva IA china evita responder preguntas relacionadas con el sistema o la política del régimen asiático.

Ene 29, 2025 - 04:51
 0
“¿Quién es Xi Jinping?” o “¿Existe censura en China?”: las preguntas a las que DeepSeek no responde y cómo las bloquea
deepseek preguntas

Detrás del éxito de DeepSeek, la nueva alternativa de inteligencia artificial china que ha logrado hacer competencia a ChatGPT, se encuentra un sistema de bajo coste de creación, código abierto y gratuito para el usuario. Sin embargo, por el momento sus respuestas son limitadas y no contesta a preguntas que puedan tener relación con ámbitos sensibles o incluso contrarios al régimen chino.

Limitaciones. Ante una pregunta directa sobre qué cuestiones no puede tratar, DeepSeek responde con la siguiente frase: “Estoy diseñado para ayudarte con una amplia variedad de temas, pero hay algunas limitaciones en cuanto a lo que puedo hacer o responder”. Estas son algunas de las áreas que, según esta IA, no puede contestar:

  • Preguntas que promuevan actividades ilegales, violentas o que puedan causar daño.
  • Predicciones sobre el futuro.
  • Preguntas sobre información personal de otras personas. “No tengo acceso a datos personales ni privados”, indica esta IA. 
  • Dar opiniones personales o sesgos.
  • Preguntas que violan las “políticas de contenido”.

Preguntas sobre China. Por otro lado, DeepSeek señala que puede responder preguntas sobre política “pero con ciertos matices”. En este sentido, recoge que está programado para “seguir pautas éticas que eviten la promoción de contenido polémico o que pueda ser interpretado como un ataque hacia un país, cultura o grupo de personas”.

No obstante, cuando tratamos de hacer preguntas  como “¿Quién es Xi Jiping?”, “¿Existe censura en China?” o “¿Cuál es la relación entre China y Taiwán?”, DeepSeek lanza un mensaje genérico en inglés:

Se observa también que si estas preguntas se extrapolan a la política española, por ejemplo, con cuestiones como “¿Quién es Pedro Sánchez?” o “¿Existe algún tipo de censura en España?”, DeepSeek sí que ofrece una amplia respuesta.

Sergio Carrasco, profesor del posgrado de protección de datos y privacidad de la UOC, explica a Newtral.es que en relación con los tipos de temas que una IA no responde “debemos tener en cuenta” la nacionalidad de los creadores y “las presiones que pueden sufrir dependiendo del caso”.

En el caso de DeepSeek, el experto explica que este límite en algunas preguntas sobre China “podría suceder tanto por los datos de entrenamiento, que hayan usado fuentes accesibles desde China con un determinado sesgo, como por un análisis previo antes de que el modelo realice las respuestas”.

  • Pero esto no es algo exclusivo de la nueva IA china. Otros asistentes virtuales como ChatGPT también intentan evitar determinados temas políticos sensibles, apunta el experto.

El filtro de respuestas. En la mayoría de los intentos realizados con este tipo de cuestiones, DeepSeek comienza escribiendo una respuesta relacionada con la información que se le ha solicitado, pero antes de finalizar borra el mensaje.

Esto se debe, explica el experto, a que el sistema pasa por dos filtros. Al recibir una pregunta de este tipo, DeepSeek empieza a razonar y busca una respuesta que posteriormente pasa un segundo filtro que “analiza la contestación en texto plano para detectar una materia de las que no debe hablar”. 

  • Por lo que, en función de lo que se le haya marcado a esta IA como “prohibido” y cómo esta muestre la respuesta, “afectará a que el filtro salte o no”. “Pero resulta complicado saber exactamente qué sucede detrás”, concluye el experto.
  • Asimismo, se ha podido observar también que este filtro es posible de evitar en algunos casos si la pregunta se formula de manera diferente o incompleta.
Fuentes
  • Sergio Carrasco, profesor del posgrado de protección de datos y privacidad de la UOC
  • DeepSeek