Amazon Q è il chatbot, annunciato durante la conferenza AWS re:Invent, che sfrutta l’intelligenza artificiale generativa per fornire aiuto nelle attività lavorative. L’assistente digitale è ancora in versione preliminare, quindi l’azienda di Seattle dovrà risolvere eventuali problemi prima della disponibilità generale. Secondo le fonti di Platformer, il chabot ha gravi allucinazioni e svela informazioni confidenziali.
Incidenti di gravità 2
Amazon Q è un assistente IA progettato per il lavoro. Può avere una conversazione, risolvere problemi, generare contenuti ed eseguire diverse azioni, utilizzando i dati recuperati dai sistemi aziendali. Amazon scrive che il chatbot è sicuro e privato.
In base ai documenti ottenuti da Platformer, alcuni dipendenti hanno segnalato incidenti di gravità 2, ovvero talmente gravi da chiedere agli ingegneri di lavorare di notte e nel weekend. Come molti chatbot, anche Amazon Q non è immune alle allucinazioni. Il chatbot fornisce risposte pericolose e inappropriate. In alcuni casi sono risposte sbagliate su argomenti legali o non aggiornate su questioni di sicurezza.
Il secondo problema riguarda la divulgazione di informazioni sensibili. Amazon Q può svelare la posizione dei data center di AWS, programmi di sconto interni e funzionalità non ancora annunciate. Un portavoce dell’azienda di Seattle ha dichiarato:
Amazon Q non ha divulgato informazioni riservate. Alcuni dipendenti condividono feedback attraverso canali interni e sistemi di ticketing, che è una pratica standard in Amazon. Nessun problema di sicurezza è stato identificato a seguito di tale feedback. Apprezziamo tutti i feedback che abbiamo già ricevuto e continueremo a ottimizzare Q mentre passa dall’essere un prodotto in anteprima alla disponibilità generale.
Durante un’intervista al New York Times, Adam Selipsky (CEO di Amazon Web Services), ha confermato che i dipendenti non possono utilizzare i chatbot già sul mercato per motivi di sicurezza e privacy. Amazon Q è invece più sicuro e privato dei chatbot consumer.
Ti potrebbe interessare
3 dic 2023