Snapchat interviene sul suo chatbot IA: servono più controlli

Negli ultimi giorni di febbraio 2023 Snapchat ha aggiunto un chatbot IA all’abbonamento Plus, seppur esclusivamente negli Stati Uniti, consentendo l’uso di GPT-3.5 proprio come se si trattasse di ChatGPT. La tecnologia di OpenAI ha conquistato il mondo, social inclusi, ma iniziano a esserci i primi provvedimenti per limitare il suo utilizzo e salvaguardare gli utenti. Se da un lato ChatGPT viene bloccato in Italia, dall’altro Snapchat introduce filtri e limiti all’IA per renderla più sicura.

Snapchat aumenta controlli su IA

Il gigante Snap ha dunque incorporato un nuovo filtro età che consente all’IA di conoscere la data di nascita degli utenti, in maniera tale che il chatbot fornisca risposte adeguate alla maturità dell’interlocutore. Solo in questo modo Snapchat potrà evitare che le persone “inducano il chatbot a fornire risposte non conformi alle linee guida” del servizio.

Si è presentato, oltretutto, un altro problema forse più grave: molti ragazzi comunicano eccessivamente con l’intelligenza artificiale, trattandola come se fosse un “vero amico” quando non lo è. Pertanto, Snap permetterà tramite Family Center di ottenere informazioni approfondite relative al modo in cui i più giovani comunicano con l’IA e quanto frequenti sono queste interazioni.

In aggiunta, la società ha affermato che il bot ha fornito solo lo 0,01% delle risposte in un linguaggio “non conforme” – dove, con questa definizione, si intendono tutte le risposte che includono riferimenti a violenza, termini sessualmente espliciti, uso di droghe illecite, bullismo, incitamento all’odio, razzismo, o altre dichiarazioni dispregiative. In tali contesti, secondo Snap, il chatbot rispondeva “ripetendo a pappagallo” le parole dette dagli utenti; in caso di abuso, pertanto, l’azienda bloccherà temporaneamente l’accesso ai bot AI.

Infine, Snap ha aggiunto:

“Continueremo a utilizzare questi apprendimenti per migliorare My AI. Questi dati ci aiuteranno anche a implementare un nuovo sistema per limitare l’uso improprio. Stiamo aggiungendo la tecnologia di moderazione di OpenAI al nostro set di strumenti esistente, che ci consentirà di valutare la gravità dei contenuti potenzialmente dannosi e limitare temporaneamente l’accesso degli Snapchatter a My AI se abusano del servizio.”