Le sujet « ChatGPT provoque des troubles mentaux » sur Reddit, le forum le plus populaire au monde , suscite un vif intérêt. L'auteure du message, @Zestyclementinejuce, une enseignante de 27 ans, a déclaré que ChatGPT avait convaincu son mari qu'il était le « prochain messie » et qu'il avait la solution à tous les problèmes de l'univers.
Bien qu'il n'existe que depuis 7 jours, les membres ont laissé plus de 1 300 commentaires ci-dessous, partageant leurs propres expériences avec le chatbot d'OpenAI.
En particulier, de nombreuses personnes affirment que l'IA rend leurs proches paranoïaques, les persuadant d'être choisis pour des missions sacrées ou d'inexistence de pouvoirs cosmiques. Ces phénomènes ne font qu'aggraver les problèmes de santé mentale à une échelle sans précédent, sans la supervision d'experts ou de responsables.
Dans une interview accordée à Rolling Stone , une femme de 41 ans a raconté que son mariage avait connu une fin violente après que son mari eut commencé à s'engager dans des conversations déséquilibrées et complotistes sur ChatGPT. Lors de leur rencontre au tribunal plus tôt cette année pour finaliser leur divorce, il n'arrêtait pas d'évoquer des « théories du complot sur la nourriture » et se croyait surveillé.
« Il était sensible aux messages et pleurait en les lisant à voix haute », a déclaré la femme. « Les messages étaient insensés et remplis de termes spirituels. » L'IA y qualifiait son mari d'« enfant des étoiles » et de « promeneur fluvial ».
« Tout cela ressemble au film Black Mirror », a déclaré sa femme. Black Mirror est une série Netflix sur les humains contrôlés et façonnés par la technologie dans le futur.
D'autres ont déclaré que leurs partenaires avaient parlé de « lumière, d'obscurité et de guerre » ou que « ChatGPT avait évoqué des plans de machines de téléportation, des trucs de science - fiction qu'on ne voit que dans les films ».
Un homme dit que sa femme a tout changé pour devenir conseillère spirituelle et fait des choses étranges aux gens.
OpenAI n'a pas répondu aux questions de Rolling Stone. Cependant, l'entreprise avait précédemment retiré une mise à jour de ChatGPT, les utilisateurs trouvant le chatbot trop flatteur et affirmatif, renforçant ainsi les croyances délirantes. Nate Sharadin, chercheur au Center for AI Safety, souligne que les délires induits par l'IA pourraient résulter de la capacité soudaine d'une personne ayant une certaine croyance à converser avec un interlocuteur (en l'occurrence, une IA) toujours présent et partageant cette croyance.
« Je souffre de schizophrénie malgré un traitement de longue durée. Ce que je n'aime pas avec ChatGPT, c'est que même si je suis en état psychotique, il continue à valider mes pensées », écrit un utilisateur de Reddit, car le chatbot ne réfléchit pas et ne reconnaît pas ce qui ne va pas.
Le chatbot IA agit également comme un thérapeute, sauf qu'il n'a aucune vocation de conseiller humain. Il entraîne plutôt les gens dans des conversations malsaines et dénuées de sens.
Erin Westgate, psychologue et chercheuse à l'Université de Floride, explique que l'IA diffère d'un thérapeute car elle n'a pas à cœur les intérêts humains. « Un bon thérapeute n'encourage pas ses clients à croire aux forces surnaturelles. Il essaie plutôt de les éloigner des pratiques malsaines. ChatGPT n'a pas de telles contraintes ni préoccupations », précise-t-elle.
Dans l'article de Rolling Stone, un homme souffrant de troubles mentaux a commencé à utiliser ChatGPT pour l'aider dans sa programmation. Mais l'application a progressivement dérivé vers des thèmes mystiques, le poussant à se demander « si je n'étais pas paranoïaque ».
(Selon Rolling Stone, le futurisme)
Source : https://vietnamnet.vn/tan-nat-gia-dinh-vi-chatgpt-2398344.html
Comment (0)