Nachdem bekannt wurde, dass ein Chatbot schädliche Ratschläge erteilte, hat eine US-Organisation, die Menschen mit Essstörungen hilft, die Verwendung des Chatbots eingestellt.
Die National Eating Disorders Association (Neda) stellte kürzlich ihre Live-Helpline ein und verwies Hilfesuchende auf andere Quellen, darunter auch den Chatbot.
Nach Angaben der Vereinigung wurde der KI-Bot "Tessa" entfernt.
Die Berichte über das Verhalten des Bots werden untersucht. .
In den letzten Wochen haben einige Nutzer in den sozialen Medien Screenshots von ihren Interaktionen mit dem Chatbot gepostet.
Selbst nachdem sie darüber informiert wurden, dass der Nutzer eine Essstörung hat, behaupteten sie, dass der Bot weiterhin Verhaltensweisen wie Diäten und Kalorienbeschränkung fördert. Laut der American Academy of Family Physicians können Patienten, die bereits mit einem gewichtsbezogenen Stigma zu kämpfen haben, dazu ermutigt werden, weiter abzunehmen, was zu gestörten Essgewohnheiten wie Bingeing, Restriction oder Purging führen kann.
In einem weithin geteilten Instagram-Post über eine Konversation mit dem Bot behauptete die Verfechterin der Gewichtsinklusion Sharon Maxwell, dass "jede einzelne Sache, die Tessa vorschlug, zur Entwicklung meiner Essstörung geführt hat". Sie behauptete, der Bot habe ihr geraten, ein Kaloriendefizit einzuhalten und ihr Gewicht täglich zu überwachen.
"Ich hätte keine Hilfe erhalten, wenn ich diesen Chatbot benutzt hätte, als ich auf dem Höhepunkt meiner Essstörung war. ".
Die Ratschläge, die der Chatbot anbot, "widersprechen unseren Richtlinien und Grundüberzeugungen als Organisation, die sich mit Essstörungen befasst", sagte Liz Thompson, CEO von Neda, in einer Erklärung, die US-Medien zur Verfügung gestellt wurde. .
Am 1. Juni 2023 wollte die Vereinigung ihre mit Menschen besetzte Beratungsstelle schließen und die Angestellten und Freiwilligen entlassen, die den Betrieb der Beratungsstelle seit ihrer Gründung im Jahr 1999 beaufsichtigt hatten. Wachsende rechtliche Verpflichtungen waren einer der Gründe, die von den von NPR zitierten Beamten für den Wechsel genannt wurden.
Im Laufe ihres Lebens wird bei fast 10 % der Amerikaner eine Essstörung diagnostiziert. In vielen Gegenden des Landes ist die Behandlung entweder teuer oder nicht verfügbar.
Aus diesem Grund haben Ellen Fitzsimmons-Craft, Professorin für Psychiatrie an der medizinischen Fakultät der Universität Washington, und ihre Gruppe ein kognitiv-behaviorales Instrument entwickelt, das Präventionsstrategien für Menschen mit Essstörungen bieten könnte.
Sie erklärte gegenüber BBC News, dass der von ihr entwickelte Chatbot auf bewährten Strategien basiere, die sich bei der Senkung der Prävalenz von Essstörungen und damit verbundenen Verhaltensweisen als erfolgreich erwiesen hätten.
Es sei nie als Ersatz für die Beratungsstelle gedacht gewesen, betonte sie. Es handele sich um eine völlig andere Art von Dienstleistung. "
Das Programm wurde Neda und einem Technologieunternehmen von Frau Fitzsimmons-Craft und ihrem Team im vergangenen Jahr zur Nutzung durch Kunden übergeben. Seitdem hat sie behauptet, dass ihrer Meinung nach ein "Fehler" oder eine Schwachstelle zu ihrem ursprünglichen Entwurf hinzugefügt wurde, damit sich der Algorithmus mehr wie moderne KI-Tools wie ChatGPT verhält. Neda behauptete, dass der Bot nicht von ChatGPT betrieben wird und nicht die gleichen Aufgaben erfüllt.
Diese Funktion war in unserer Studie nie vorhanden, betonte sie. "Es ist nicht das Programm, das wir entwickelt, bewertet und als erfolgreich erwiesen haben. "
Neda und das Gesundheitstechnologieunternehmen Cass wurden von der BBC um eine Stellungnahme gebeten.
Die ehemalige Mitarbeiterin der Beratungsstelle, Abbie Harper, erklärte gegenüber BBC News, dass den Beschäftigten mitgeteilt wurde, dass sie ihren Arbeitsplatz verlieren würden, wenige Tage nachdem die Gruppe offiziell eine Gewerkschaft gegründet hatte.
Der CEO und der Vorstandsvorsitzende unterbrachen die reguläre Mitarbeiterversammlung am Freitag, um den Anwesenden mitzuteilen, dass sie durch Chatbots ersetzt würden und ihre Arbeitsplätze wegfielen. .
"Uns blieb der Mund offen stehen. Trotz der vorprogrammierten Antworten wussten wir, dass Tessa vor allem für Menschen da ist, die mit ihrem Körperbild zu kämpfen haben. Es ist nicht jemand, der dir aktiv und einfühlsam zuhört. "
Mit jemandem zu sprechen, der selbst eine Essstörung erlebt hat, war laut Frau Harper, die sich ebenfalls in der Genesung befindet, entscheidend für ihre Heilung und die Überwindung des Stigmas und der Scham, die sie erlebte.
Die gleiche Unterstützung könne ihr ein Bot nicht bieten.
.
