Dopo aver appreso che un chatbot dispensava consigli dannosi, un'organizzazione statunitense che aiuta le persone affette da disturbi alimentari ha sospeso l'uso del chatbot.
La National Eating Disorders Association (Neda) ha recentemente interrotto la sua helpline dal vivo e ha indirizzato le persone bisognose di assistenza verso altre fonti, tra cui il chatbot.
Secondo l'associazione, il bot AI "Tessa" è stato rimosso.
Le segnalazioni sul comportamento del bot saranno esaminate. .
Nelle ultime settimane, alcuni utenti hanno postato sui social media alcuni screenshot delle loro interazioni con il chatbot.
Anche dopo essere stati informati che l'utente aveva un disturbo alimentare, hanno affermato che il bot incoraggiava comunque comportamenti come la dieta e la restrizione calorica. Secondo l'American Academy of Family Physicians, incoraggiare i pazienti che stanno già lottando contro lo stigma del peso a perdere ulteriormente peso può portare ad abitudini alimentari disordinate come abbuffate, restrizioni o purghe.
In un post di Instagram ampiamente condiviso su una conversazione con il bot, la sostenitrice dell'inclusività del peso Sharon Maxwell ha affermato che "ogni singola cosa suggerita da Tessa era ciò che ha portato allo sviluppo del mio disturbo alimentare". Ha affermato che il bot le ha consigliato di mantenere un deficit calorico e di monitorare il suo peso quotidianamente. .
"Non avrei ricevuto aiuto se avessi usato questo chatbot quando ero all'apice del mio disturbo alimentare". ".
I consigli offerti dal chatbot "sono contrari alle nostre politiche e alle nostre convinzioni fondamentali in quanto organizzazione che si occupa di disturbi alimentari", ha dichiarato l'amministratore delegato di Neda Liz Thompson in una dichiarazione fornita ai media statunitensi. .
Il 1° giugno 2023, l'associazione intendeva chiudere la sua linea di assistenza con personale umano e licenziare i dipendenti e i volontari che avevano supervisionato il funzionamento della linea di assistenza sin dalla sua istituzione nel 1999. Le crescenti responsabilità legali sono state una delle ragioni addotte dai funzionari citati da NPR per il cambiamento.
Nel corso della loro vita, a quasi il 10% degli americani verrà diagnosticato un disturbo alimentare. In molte aree del Paese, le cure sono costose o non disponibili.
In considerazione di ciò, Ellen Fitzsimmons-Craft, docente di psichiatria presso la facoltà di medicina dell'Università di Washington, e il suo gruppo hanno deciso di sviluppare uno strumento cognitivo-comportamentale in grado di fornire strategie di prevenzione per chi soffre di disturbi alimentari.
La professoressa ha dichiarato a BBC News che il chatbot da lei creato si basa su strategie collaudate che hanno dimostrato di avere successo nel ridurre la prevalenza dei disturbi alimentari e dei comportamenti ad essi associati.
Non è mai stato pensato come un sostituto della linea telefonica, ha sottolineato. Si tratta di un tipo di servizio completamente diverso. "L'anno scorso la Fitzsimmons-Craft e il suo team hanno affidato il programma a Neda e a un'azienda tecnologica per la distribuzione ai clienti. Da allora, la signora Fitzsimmons-Craft ha affermato di ritenere che sia stato aggiunto un "bug" o un difetto al suo progetto originale per far sì che l'algoritmo si comporti in modo più simile ai moderni strumenti di intelligenza artificiale come ChatGPT. Neda ha affermato che il bot non è gestito da ChatGPT e non svolge le stesse funzioni.
Questa caratteristica non è mai stata presente nel nostro studio, ha insistito. "Non è il programma che abbiamo creato, valutato e di cui abbiamo dimostrato il successo". ".
Neda e l'azienda di tecnologia sanitaria Cass sono state contattate dalla BBC per un commento.
L'ex dipendente della linea telefonica Abbie Harper ha dichiarato a BBC News che i lavoratori sono stati informati che avrebbero perso il lavoro pochi giorni dopo che il gruppo era diventato ufficialmente un sindacato. .
L'amministratore delegato e il presidente del consiglio di amministrazione hanno interrotto la normale riunione del personale del venerdì per informare i partecipanti che sarebbero stati sostituiti da chatbot e che il loro lavoro sarebbe stato eliminato. .
"Siamo rimasti a bocca aperta. Anche se ha queste risposte pre-programmate, eravamo consapevoli dell'esistenza di Tessa, principalmente per le persone che lottano con la loro immagine corporea. Non è qualcuno che ti ascolta attivamente con empatia. "Parlare con qualcuno che ha vissuto in prima persona un disturbo alimentare, secondo la signora Harper, anch'essa in fase di recupero, è stato fondamentale per la sua guarigione e per superare lo stigma e la vergogna che ha provato. .
Lo stesso supporto non può essere fornito da un bot, ha affermato.
.
