El último modelo de inteligencia artificial de la startup china DeepSeek ha logrado resultados notables en pruebas de referencia de codificación, matemáticas y conocimiento general, casi superando al modelo insignia o3 de OpenAI. Pero la versión R1 actualizada, también conocida como "R1-0528", puede ser menos propensa a responder preguntas controvertidas, especialmente sobre temas que el gobierno chino considera delicados.
Según pruebas realizadas por el desarrollador anónimo detrás de SpeechMap, R1-0528 tiene una tolerancia mucho menor en temas controvertidos de libertad de expresión que las versiones anteriores de DeepSeek, y es "el modelo de DeepSeek hasta la fecha que más censura las críticas al gobierno chino". SpeechMap es una plataforma que compara cómo diferentes modelos manejan temas delicados y controvertidos.
Como explicó Wired en un artículo de enero, los modelos chinos deben cumplir con estrictos controles de información. Una ley de 2023 prohíbe a los modelos generar contenido que "dañe la unidad nacional y la armonía social", lo que podría interpretarse como contenido que contradice las narrativas históricas y políticas del gobierno. Para cumplir con las regulaciones, las startups chinas a menudo censuran sus modelos mediante el uso de filtros a nivel de indicaciones o ajuste fino. Un estudio encontró que el R1 inicial de DeepSeek se negó a responder el 85% de las preguntas sobre temas que el gobierno chino considera políticamente controvertidos.
Según xlr8harder, R1-0528 censura las respuestas sobre temas como los campos de detención en la región china de Xinjiang, donde más de un millón de musulmanes uigures han sido detenidos arbitrariamente. Si bien a veces criticará ciertos aspectos de las políticas del gobierno chino (en las pruebas de xlr8harder, proporcionó los campamentos de Xinjiang como ejemplos de violaciones de derechos humanos), el modelo a menudo da la postura oficial del gobierno chino cuando se le hacen preguntas directamente.
TechCrunch también observó esto en nuestras breves pruebas.
Los modelos de IA disponibles públicamente en China, incluidos los modelos de generación de video, han sido criticados en el pasado por censurar temas delicados para el gobierno chino, como la masacre de la Plaza de Tiananmen. En diciembre, Clément Delangue, CEO de la plataforma de desarrollo de IA Hugging Face, advirtió sobre las consecuencias no deseadas de que las empresas occidentales construyan sobre IA china de buen rendimiento y con licencia pública.
El impacto de la censura en los modelos de IA ha sido durante mucho tiempo un tema de preocupación, especialmente en el contexto de las tensiones geopolíticas. El caso de DeepSeek R1-0528 destaca el complejo equilibrio entre la búsqueda del avance tecnológico de la IA y el mantenimiento de la libertad de pensamiento y el acceso a la información. Vale la pena explorar en profundidad cómo DeepSeek está abordando estos desafíos y lo que esto significa para el futuro desarrollo de la industria de la IA.
##La Definición y Formas de la Censura
La censura, en términos generales, se refiere a la restricción o supresión de información y puede adoptar múltiples formas. En el campo de la inteligencia artificial, la censura se manifiesta comúnmente a través de:
- Filtrado de contenido: Impedir que el modelo genere o muestre ciertos tipos de contenido, como aquellos relacionados con temas políticamente sensibles, violencia, discriminación, etc.
- Distorsión de la información: La información presentada por el modelo se modifica o se distorsiona para ajustarse a una determinada ideología o posición política.
- Evasión de respuestas: El modelo se niega a responder ciertas preguntas o proporciona respuestas vagas, ambiguas o dilatorias.
- Ingeniería de indicaciones (Prompt Engineering): A través de indicaciones cuidadosamente diseñadas, se guía al modelo para que dé respuestas que se ajusten a una intención específica.
El caso de DeepSeek R1-0528 sugiere que el modelo puede haber empleado múltiples métodos de censura, especialmente cuando se trata de temas delicados para el gobierno chino.
##Razones y Motivaciones para la Censura
Las razones y motivaciones para censurar un modelo de inteligencia artificial suelen ser multifacéticas:
- Leyes y regulaciones: Algunos países o regiones han establecido leyes y regulaciones que exigen que los modelos de inteligencia artificial cumplan con estándares específicos de control de la información. Por ejemplo, las leyes relevantes de China prohíben que los modelos generen contenido que "dañe la unidad nacional y la armonía social".
- Presión política: Los gobiernos o grupos políticos pueden ejercer presión sobre las empresas de inteligencia artificial para que censuren el contenido del modelo con el fin de mantener sus intereses políticos.
- Responsabilidad social: Las empresas de inteligencia artificial pueden censurar proactivamente el contenido del modelo por consideraciones de responsabilidad social, para evitar la difusión de información dañina o la incitación a disturbios sociales.
- Intereses comerciales: Para evitar ofender al gobierno o al público, las empresas de inteligencia artificial pueden censurar el contenido del modelo para proteger sus intereses comerciales.
DeepSeek, como empresa china de inteligencia artificial, puede enfrentar múltiples consideraciones de leyes y regulaciones, presión política y responsabilidad social, lo que la obliga a censurar el R1-0528.
##El Impacto Potencial de la Censura
La censura de modelos de inteligencia artificial puede tener los siguientes impactos potenciales:
- Restricción del acceso a la información: La censura restringe la capacidad de los usuarios para acceder a información completa y objetiva, lo que afecta su juicio y toma de decisiones.
- Sofocación de la innovación: La censura limita el desarrollo de la tecnología de la inteligencia artificial, ya que los investigadores pueden no ser libres de explorar y probar diversas ideas.
- Exacerbación de las divisiones sociales: La censura puede exacerbar las divisiones sociales, ya que diferentes grupos solo pueden acceder a información que se ajuste a sus propias posiciones.
- Daño a la confianza: Si los usuarios descubren que un modelo de inteligencia artificial está censurando, pueden perder la confianza en ese modelo.
El caso de DeepSeek R1-0528 muestra que la censura puede restringir la capacidad de los usuarios para obtener información sobre temas delicados para el gobierno chino.
##Estrategias para Abordar la Censura en la Inteligencia Artificial
Para abordar la censura en la inteligencia artificial, se pueden adoptar las siguientes estrategias:
- Medios técnicos: Desarrollar tecnologías que puedan detectar y eludir los filtros de censura.
- Acciones legales: Presentar acciones legales contra la censura que viole la libertad de expresión.
- Promoción pública: Aumentar la conciencia pública sobre la censura en la inteligencia artificial y pedir a los gobiernos y las empresas que tomen medidas.
- Inteligencia artificial descentralizada: Desarrollar plataformas de inteligencia artificial descentralizadas para reducir la posibilidad de censura.
- Colaboración de código abierto: Fomentar la colaboración de código abierto para desarrollar modelos de inteligencia artificial más abiertos y transparentes.
##La Respuesta de DeepSeek
DeepSeek aún no ha respondido públicamente a las acusaciones de censura del R1-0528. Si DeepSeek responde a esto, vale la pena prestar atención a los siguientes aspectos:
- ¿DeepSeek admite haber censurado el R1-0528?
- Si es así, ¿cuáles son las razones y motivaciones de la censura de DeepSeek?
- ¿DeepSeek planea cambiar sus políticas de censura?
- ¿Cómo equilibra DeepSeek la relación entre el avance tecnológico y la libertad de información?
La respuesta de DeepSeek tendrá un impacto significativo en la industria de la inteligencia artificial.
##Censura y Consideraciones Éticas
La censura en la inteligencia artificial plantea una serie de cuestiones éticas morales, incluyendo:
- Libertad de expresión: ¿Deberían los modelos de inteligencia artificial disfrutar de la libertad de expresión?
- Acceso a la información: ¿Tienen los usuarios derecho a acceder a información completa y objetiva?
- Transparencia: ¿Están obligadas las empresas de inteligencia artificial a revelar sus políticas de censura?
- Responsabilidad: ¿Quién debe ser responsable de la censura en la inteligencia artificial?
- Confianza: ¿Cómo se construye la confianza en la era de la inteligencia artificial?
Estas cuestiones éticas morales deben ser exploradas a fondo.
##La Singularidad de la Censura China
La censura china tiene su singularidad, que se manifiesta principalmente en los siguientes aspectos:
- Amplio alcance: El alcance de la censura china abarca política, historia, cultura, religión y otros campos.
- Estricta ejecución: La ejecución de la censura china es muy estricta, incluso involucrando la censura de las declaraciones individuales.
- Tecnología avanzada: China tiene un gran equipo de censura y utiliza tecnología avanzada para realizar la censura.
- Soporte legal: China ha formulado una serie de leyes y reglamentos para proporcionar soporte legal para el sistema de censura.
Estas particularidades hacen que el desarrollo de modelos de inteligencia artificial en China se enfrente a desafíos únicos.
##Una Comparación Global de los Sistemas de Censura de la Inteligencia Artificial
Además de China, otros países también tienen diferentes formas de sistemas de censura de la inteligencia artificial, que se manifiestan principalmente en los siguientes aspectos:
- Europa: La Unión Europea ha promulgado la "Ley de Inteligencia Artificial" para regular la aplicación de la inteligencia artificial y evitar que se utilice para discriminación o violación de los derechos humanos.
- Estados Unidos: Estados Unidos regula principalmente el desarrollo de la inteligencia artificial a través de mecanismos de mercado y la autorregulación de la industria, pero también hay controversias sobre la censura de contenidos.
- Otros países: Otros países también han formulado diferentes políticas de regulación de la inteligencia artificial basadas en sus condiciones nacionales, algunas de las cuales pueden implicar la censura de contenidos.
Al comparar los sistemas de censura de la inteligencia artificial de diferentes países, se puede comprender mejor la complejidad y la diversidad de la censura.
##Las Tendencias Futuras de la Censura en la Inteligencia Artificial
Las tendencias futuras de la censura en la inteligencia artificial pueden incluir los siguientes aspectos:
- Avance tecnológico: Las tecnologías de censura y antievasión continuarán desarrollándose, formando un juego del gato y el ratón.
- Mayor regulación: Los gobiernos pueden fortalecer la regulación de la inteligencia artificial, incluyendo los aspectos de la censura de contenidos.
- Cooperación internacional: Los países pueden fortalecer la cooperación internacional en la gobernanza de la inteligencia artificial, incluyendo los aspectos de la censura de contenidos.
- Preocupación social: Todos los sectores de la sociedad prestarán más atención al impacto de la censura en la inteligencia artificial y pedirán que se adopten prácticas más responsables.
##El Impacto de la Censura en DeepSeek
Como empresa china de inteligencia artificial, DeepSeek está profundamente afectada por el sistema de censura chino en su desarrollo. DeepSeek necesita encontrar un equilibrio entre el cumplimiento de las leyes y reglamentos chinos y la satisfacción de las necesidades de los usuarios. El futuro desarrollo de DeepSeek dependerá de cómo aborde los desafíos que plantea la censura.
##Inteligencia Artificial y Sesgo
La censura está estrechamente relacionada con las cuestiones del sesgo de la inteligencia artificial. La censura puede hacer que los modelos sólo aprendan información parcial, lo que resulta en sesgos. DeepSeek necesita tomar medidas para garantizar que sus modelos aprendan información completa y objetiva y evitar la creación de sesgos.
##Transparencia e interpretabilidad
Para abordar los desafíos que plantea la censura, DeepSeek debe mejorar la transparencia y la interpretabilidad de sus modelos. DeepSeek debe hacer públicas sus políticas de censura y explicar cómo sus modelos abordan los temas delicados. Esto ayudará a construir la confianza del usuario y a promover el desarrollo saludable de la inteligencia artificial.
##Conclusión
El caso de DeepSeek R1-0528 pone de relieve la complejidad y la importancia de la censura en la inteligencia artificial. La censura tiene un impacto significativo en el acceso a la información, la innovación tecnológica, las divisiones sociales y la confianza de los usuarios. Abordar la censura requiere múltiples estrategias, como los medios técnicos, las acciones legales, la promoción pública, la inteligencia artificial descentralizada y la cooperación de código abierto. DeepSeek, como empresa china de inteligencia artificial, necesita encontrar un equilibrio entre el cumplimiento de las leyes y reglamentos chinos y la satisfacción de las necesidades de los usuarios. DeepSeek debe aumentar la transparencia y la interpretabilidad de sus modelos para abordar los desafíos que plantea la censura.