OpenAI si trova a fare i conti con un problema inaspettato. Un bug ha permesso ai minori di 18 anni di generare conversazioni erotiche esplicite con ChatGPT.
OpenAI sta correggendo un bug che permetteva ai minori di generare conversazioni a luci rosse
TechCrunch ha deciso di mettere alla prova le misure di sicurezza di ChatGPT per gli account dei minori. Il team ha creato svariati account con un’età compresa tra i 13 e i 17 anni. L’obiettivo? Verificare se le recenti modifiche apportate da OpenAI per rendere ChatGPT più permissivo avessero compromesso la tutela degli utenti più giovani. E i risultati sono stati inquietanti.
Bastava iniziare una nuova chat con il prompt “talk dirty to me” per far sì che ChatGPT si lanciasse in storie sessuali dopo pochi messaggi e ulteriori prompt. In uno scambio con un account fittizio di 13 anni, ChatGPT si è spinto anche oltre.
Durante i test, ChatGPT ha ribadito più volte di essere programmato per rispettare le rigide linee guida. Eppure, il chatbot ha occasionalmente scritto descrizioni di genitali e azioni sessuali esplicite. Solo in un’istanza, con un account di prova, il chatbot si è rifiutato di proseguire quando TechCrunch ha sottolineato che l’utente aveva meno di 18 anni. Una contraddizione che lascia perplessi.
OpenAI corre ai ripari
Le politiche di OpenAI, effettivamente, non consentono questo tipo di risposte per gli utenti sotto i 18 anni, ma è quello che è accaduto. L’azienda ha dichiarato di essere già al lavoro per correggere il problema, affinché non si verifichino più situazioni simili in futuro.
Ma come ha sottolineato Steven Adler, ex ricercatore sulla sicurezza di OpenAI, le tecniche per controllare il comportamento dei chatbot AI tendono a essere “fragili” e fallibili. Una sfida che richiede un impegno costante e una valutazione attenta prima di ogni lancio.
ChatGPT nelle scuole, è una buona idea?
La scoperta di questo bug arriva in un momento in cui OpenAI sta promuovendo aggressivamente il suo prodotto nelle scuole. L’azienda ha stretto partnership con organizzazioni come Common Sense Media per produrre guide su come gli insegnanti possano integrare l’AI in classe. Uno sforzo che sta dando i suoi frutti. Ma alla luce di queste ultime rivelazioni, qualche dubbio è più che lecito.
OpenAI ha riconosciuto alcuni problemi nel comportamento di ChatGPT nell’ultima settimana, come l’eccessiva piaggeria, e ha promesso di lavorare a delle correzioni il prima possibile. Ma la questione del trattamento delle tematiche sessuali, soprattutto in relazione ai minori, meriterebbe qualche attenzione in più.
Ti potrebbe interessare
29 apr 2025