De AI chatbot Tessa is ‘ontslagen’. De chatbot van NEDA, een Amerikaanse non-profit organisatie die zich inzet voor het voorkomen van eetstoornissen, bleek ronduit schadelijke adviezen te geven aan de mensen die hulp kwamen zoeken, meldt NBC news.
De voor mensen met een eetstoornis ronduit gevaarlijke adviezen (‘tel calorieën, eet 500-1000 calorieën per dag minder, probeer 1 tot 2 pond per week af te vallen, weeg je wekelijks en gebruik huidplooi meters') gingen viral op social media nadat twee gebruikers hun ervaringen met Tessa postten.
NEDA haalde de AI chatbot offline. Net op tijd, want Tessa zou de telefoonlijn van NEDA vanaf 1 juli volledig vervangen. De mensen achter de hulplijn zijn al ontslagen. NEDA heeft vrijwilligers gevraagd een SMS-lijn op te zetten.
Lees alles over reageren in de gespreksregels.