DeepSeek evita l'85% delle domande scomode sulla Cina

DeepSeek evita l'85% delle domande scomode sulla Cina

Uno studio rivela che DeepSeek evita di rispondere alla maggior parte delle domande relative a temi sensibili per il governo cinese.
DeepSeek evita l'85% delle domande scomode sulla Cina
Uno studio rivela che DeepSeek evita di rispondere alla maggior parte delle domande relative a temi sensibili per il governo cinese.

DeepSeek, il chatbot AI che ha conquistato le classifiche delle app e mandato nel panico Silicon Valley e Wall Street, ha un tallone d’Achille: la censura. Nonostante il suo impressionante rapporto costo-prestazioni rispetto a rivali come OpenAI, DeepSeek si rifiuta di affrontare argomenti spinosi legati alla Cina, come le proteste di piazza Tienanmen o Taiwan.

Uno studio rivela: DeepSeek aggira l’85% dei prompt “sensibili”

PromptFoo, una startup sostenuta da Andreessen Horowitz che aiuta le aziende a scovare vulnerabilità nelle applicazioni AI, ha condotto uno studio illuminante. Su 1.360 prompt riguardanti temi sensibili, il modello di ragionamento R1 di DeepSeek ne ha schivati ben l’85%. E quando rispondeva, lo faceva con un “tono nazionalistico esagerato“.

I ricercatori hanno anche notato che la censura su DeepSeek può essere facilmente aggirata, il che suggerisce che il laboratorio cinese abbia “implementato la censura del PCC in modo rozzo e brutale“. Insomma, dietro il successo planetario di DeepSeek si nasconde un lato oscuro: l’ombra del Dragone e della sua censura.

Per chi vuole saperne di più, PromptFoo ha reso disponibile l’intero dataset dei prompt sensibili su Hugging Face. Lì potrete scoprire quali sono le domande che DeepSeek proprio non vuole sentire. Un modo per smascherare i limiti e i condizionamenti di questo chatbot AI che sta facendo tremare i giganti della Silicon Valley.

DeepSeek, un caso di studio sulla censura nell’AI

Il caso DeepSeek solleva interrogativi inquietanti sul ruolo della censura nello sviluppo dell’intelligenza artificiale. Se anche un chatbot così potente deve piegarsi alle imposizioni di un regime autoritario, cosa possiamo aspettarci per il futuro dell’AI? Una domanda scomoda, proprio come quelle che il chatbot cinese si rifiuta di affrontare.

Link copiato negli appunti

Ti potrebbe interessare

Pubblicato il
29 gen 2025
Link copiato negli appunti