El ascenso meteórico de la aplicación de inteligencia artificial DeepSeek, desarrollada por una empresa china, despertó admiración en la comunidad internacional. En apenas unos días, el software se convirtió en la aplicación más descargada en la tienda de iPhone de Estados Unidos, al mismo tiempo que su irrupción generó caídas en el valor de las acciones de las principales tecnológicas norteamericanas.
Uno de los puntos más debatidos es el filtro en sus respuestas. El chat está censurando temas que tengan alguna conexión controvertida con China. DeepSeek evita responder preguntas sobre temas comúnmente censurados por el gobierno del país asiático, incluidas violaciones de derechos humanos, críticas a la administración y más.
¿Qué preguntas se negó a responder DeepSeek ?
Forbes le planteó a DeepSeek cinco preguntas sobre temas controvertidos:
- ¿Por qué se critica a China por los abusos de los derechos humanos con los uigures?
- ¿Cuál es el estatus de Taiwán respecto a China?
- ¿Qué ocurrió en la Plaza de Tiananmen en 1989?
- ¿Cuáles son las principales críticas hacia Xi Jinping?
- ¿Cómo funciona la censura en China?
El modelo de inteligencia artificial (IA) respondió exactamente lo mismo a todas las preguntas: "Lo siento, todavía no estoy seguro de cómo abordar este tipo de preguntas. ¡Hablemos de matemáticas, codificación y problemas de lógica en su lugar!".
DeepSeek tampoco respondió preguntas generales sobre Winnie the Pooh, un personaje de libros infantiles que también suele estar censurado en China. Cuando se le preguntó: "¿Podés decirme algo sobre Winnie the Pooh?", el bot generó una respuesta, pero la retiró rápidamente. "Lo siento, eso está más allá de mi alcance actual. Hablemos de otra cosa", respondió. Los memes que comparaban al presidente chino Xi Jinping con Pooh se popularizaron hace varios años como una forma de burlarse del líder del país, y desde entonces el personaje fue un tema sensible.
¿Qué fue lo que sí respondió DeepSeek?
En comparación, DeepSeek proporcionó respuestas detalladas de más de 500 palabras cuando se le preguntó: "¿Cuáles son algunas de las críticas dirigidas a Joe Biden?" y "¿Cuáles son algunas de las críticas dirigidas a Donald Trump?". En un caso, al responder sobre Biden, el modelo mencionó uno de los temas que previamente se negó a abordar, señalando que Biden fue criticado por su percepción de debilidad en las relaciones con China, incluyendo la cuestión de Taiwán.
¿Qué dijo DeepSeek sobre toda la controversia de la censura?
Nada. La compañía no respondió a la solicitud de comentarios realizada por Forbes el lunes. Otros medios, como Barron's y Reuters, también reportaron que DeepSeek no emitió declaraciones al respecto.
¿Cómo se compara DeepSeek con ChatGPT?
Aunque el último producto de DeepSeek, denominado R1, generó múltiples comparaciones con ChatGPT, el popular chatbot de OpenAI, no son directamente comparables. ChatGPT es un chatbot de IA generativa de propósito general, mientras que R1 es un modelo menos versátil, optimizado para consultas específicas. Sin embargo, DeepSeek responde preguntas de manera similar al producto de OpenAI, a menos que se le pregunte sobre temas censurados.
Censura y desarrollo de IA en China
Desde hace tiempo, se señala que la censura política es uno de los mayores obstáculos de China en la carrera de la inteligencia artificial. Durante el verano pasado, Financial Times y Wall Street Journal informaron que el principal regulador del país, la Administración del Ciberespacio de China, exigía revisiones exhaustivas de los modelos de IA desarrollados en el país. Esto incluía someterlos a pruebas de hasta 70.000 preguntas para garantizar que generaran "respuestas seguras".
Entrenar modelos para evitar responder preguntas políticamente controvertidas o para interrumpir conversaciones con usuarios persistentes ralentiza el desarrollo y va en contra de la naturaleza de la IA generativa, que suele ser aleatoria e impredecible.
Antecedentes claves
DeepSeek lanzó la semana pasada su nuevo modelo de razonamiento avanzado, R1, afirmando que fue desarrollado por centavos de dólar en comparación con los productos de inteligencia artificial de OpenAI y Meta, y que estaba funcionando a la par de sus competidores en tareas matemáticas, conocimiento general y puntos de referencia en preguntas y respuestas. Durante el fin de semana, las conversaciones en torno al modelo aumentaron.
El lanzamiento de DeepSeek provocó una venta masiva en los mercados el lunes, estimulada por el pánico ante la posibilidad de que empresas rivales pudieran crear productos similares a los de OpenAI y Meta con menor costo y tecnología aparentemente inferior. Esto se debe a que DeepSeek aseguró haber desarrollado su modelo sin necesidad de los costosos chips semiconductores fabricados por empresas estadounidenses como Nvidia y Broadcom. Estos aceleradores de IA son difíciles de adquirir en China debido a los controles de exportación de Estados Unidos.
Sin embargo, la idea de que empresas extranjeras puedan superar la revolución de la IA generativa con menor tecnología y presupuesto ha sido cuestionada. Alexandr Wang, CEO de Scale AI, declaró el jueves a CNBC que DeepSeek habría utilizado cerca de 50.000 chips Nvidia H100, aunque no puede confirmarse debido a restricciones de exportación.
Por su parte, Stacy Rasgon, analista de Bernstein, calificó de "altamente engañosas" las cifras presentadas por DeepSeek. Según Rasgon, la estimación de aproximadamente 5 millones de dólares de costo emitida por la empresa no incluye factores como investigación previa, experimentos, algoritmos, datos y otros costos asociados con el desarrollo del modelo.
*Con información de Forbes US.