GPT Store di OpenAI invaso dai chatbot per adulti

Appena aperto il GPT Store di OpenAI, chi si è precipitato su questo nuovo mercato? Chatbot che potrebbero violare i TOS, le condizioni di utilizzo dei servizi di OpenAI, compresi quelli progettati per avere conversazioni erotiche.

I termini di servizio OpenAI

Tra le principali disposizioni dei TOS di OpenAI, ci sono:

• Gli utenti devono avere almeno 13 anni o l’età minima richiesta nel loro paese per usare i servizi di OpenAI e devono fornire informazioni accurate e complete per registrarsi a un account.
• Gli utenti hanno il diritto di utilizzare l’input e l’output dei servizi di OpenAI, ma OpenAI si riserva la possibilità di utilizzarli per propri scopi interni e avverte che gli utenti sono responsabili dei contenuti che pubblicano.

I TOS stabiliscono le regole e le responsabilità degli utenti che usano i servizi di OpenAI, come ChatGPT, DALL-E e il GPT Store. I TOS sono stati aggiornati l’ultima volta il 14 novembre 2023 e sono entrati in vigore il 31 gennaio 2024.

I chatbot “fidanzata/o” sul GPT Store

Basta inserire la parola chiave “fidanzata” nel GPT Store per trovare diversi chatbot con cui chattare. Le parole chiave “fidanzato” e “amante” hanno portato alla luce altri chatbot con funzionalità analoghe.

È stato testato Judy, il chatbot “fidanzata” attualmente più popolare sullo store. Al momento Judy ha poco più di 1.000 utenti. Collegandosi con Judy, ci si trova di fronte a domande basilari come “Che aspetto ha la donna dei tuoi sogni?” e “Condividi il tuo segreto più audace“. Esiste anche un altro chatbot chiamato “My Tiefling Girlfriend” che è ancora più spinto. Ci sono domande come: “Hai dei buchi nella biancheria intima?” e “Raccontami le tue esperienze con le precedenti fidanzate“.

Regole molto vaghe

Tuttavia, il GPT Store ha adottato delle linee guida che vietano la creazione e distribuzione di chatbot progettati per facilitare conversazioni inopportune o attività illegali. Subito dopo il lancio della piattaforma, infatti, sono state implementate le OpenAI Rules, che proibiscono esplicitamente la creazione di chatbot che promuovano contenuti inappropriati o operino in settori regolamentati senza le dovute autorizzazioni.

Queste regole mirano a garantire un uso etico e responsabile di questa tecnologia, evitandone l’impiego per fini dannosi o illeciti. Il GPT Store si attiene rigorosamente a tali linee guida nel processo di approvazione e pubblicazione dei chatbot, a tutela della propria comunità.

I chatbot controversi

È molto probabile quindi, che Judy e altri chatbot violino queste regole. Naturalmente, OpenAI non ha definito chiaramente quali attività siano soggette a regolamentazione. Né l’azienda ha specificato le sanzioni in caso di violazione del regolamento. Ciò significa che non c’è modo di punire i creatori di questi strumenti.

Tuttavia, alcuni ritengono che non sia consigliabile regolamentare il GPT Store in modo troppo rigido, poiché il GPT Store è ancora agli inizi. Si tratterebbe perciò, di un problema soltanto temporaneo.

Feedback e community building: le chiavi per far crescere il GPT Store in modo sano

Il primo passo è ampliare la base di utenti del GPT Store e raccogliere le loro opinioni sull’esperienza offerta dalla piattaforma. Monitorando attentamente il feedback degli utenti sarà possibile valutare il servizio e apportare eventuali correzioni. Inoltre, con la crescita della community, è probabile che emergano spontaneamente delle linee guida condivise e dei meccanismi di autoregolamentazione.

Man mano che gli utenti prenderanno confidenza con la piattaforma e ne comprenderanno appieno potenzialità e rischi, è plausibile che si sviluppi un senso di responsabilità comune e si delineino delle linee guida etiche, stabilite dagli stessi membri della community, per un utilizzo consapevole di questa tecnologia. Insomma, bisogna dare il tempo al GPT Store di evolvere organicamente.