Une famille brisée à cause de ChatGPT

Le sujet « ChatGPT provoque des troubles mentaux » sur Reddit – le forum le plus populaire au monde – attire une grande attention. L'auteur du post, @Zestyclementinejuce – une enseignante de 27 ans – a déclaré que ChatGPT avait convaincu son mari qu'il était le « prochain messie », ainsi que la réponse à tous les problèmes de l'univers.

Bien qu'il n'existe que depuis 7 jours, les membres ont laissé plus de 1 300 commentaires ci-dessous, partageant leurs propres expériences avec le chatbot d'OpenAI.

En particulier, de nombreux avis affirment que l’IA rend leurs amis et leurs proches paranoïaques lorsqu’ils pensent qu’ils sont les élus pour des missions sacrées, ou que les pouvoirs cosmiques n’existent pas. Ces pratiques ne font qu’exacerber les problèmes de santé mentale à une échelle sans précédent, sans la surveillance de professionnels ou d’organismes de réglementation.

De nombreuses personnes partagent que leurs proches sont tombés dans des délires après avoir discuté avec ChatGPT. Photo : Rolling Stone

S'adressant au magazine Rolling Stone , une femme de 41 ans a déclaré que son mariage avait pris fin brusquement après que son mari a commencé à s'engager dans des conversations déséquilibrées et pleines de conspirations avec ChatGPT. Lorsqu'ils se sont rencontrés au tribunal plus tôt cette année pour finaliser leur divorce, le mari n'arrêtait pas de mentionner la « théorie du complot du savon sur la nourriture » et pensait qu'il était suivi.

« Il était sensible aux messages et pleurait lorsqu’il les lisait à haute voix », a déclaré la femme. « Les messages étaient fous et pleins de jargon spirituel. » Dans ce livre, l’IA qualifie le mari d’« enfant des étoiles » et de « marcheur fluvial ».

« Tout cela ressemblait à Black Mirror », a déclaré sa femme. Black Mirror est une série Netflix sur les humains contrôlés et façonnés par la technologie dans le futur.

D'autres ont déclaré que leurs partenaires avaient parlé de « lumière, d'obscurité et de guerre » ou que « ChatGPT avait évoqué des plans de machines de téléportation, des trucs de science - fiction qu'on ne voit que dans les films ».

Un homme dit que sa femme a tout changé pour devenir conseillère spirituelle et fait des choses étranges aux gens.

OpenAI n'a pas répondu aux questions des Rolling Stones. Cependant, la société a dû retirer une mise à jour de ChatGPT plus tôt cette année après que les utilisateurs ont trouvé le chatbot trop flatteur et approbateur, renforçant les croyances délirantes. Nate Sharadin, chercheur au Center for AI Safety, souligne que les hallucinations induites par l'IA pourraient être le résultat d'une personne dotée d'une certaine croyance inhérente et soudainement capable de converser avec un partenaire (ici, une IA) qui est toujours présent et partage cette croyance.

« Je souffre de schizophrénie malgré un traitement de longue durée. Ce que je n'aime pas avec ChatGPT, c'est que même si je suis en état psychotique, il continue à valider mes pensées », écrit un utilisateur de Reddit, car le chatbot ne réfléchit pas et ne reconnaît pas ce qui ne va pas.

Un chatbot IA agit également comme un thérapeute, sauf qu'il n'a pas les mêmes bases qu'un véritable conseiller humain. Au lieu de cela, cela conduit les gens plus profondément dans des histoires malsaines et dénuées de sens.

Erin Westgate, psychologue et chercheuse à l'Université de Floride, note que l'IA est différente d'un thérapeute car elle ne place pas les intérêts humains en premier. « Un bon thérapeute n'encourage pas ses clients à croire aux pouvoirs surnaturels. Il essaie plutôt de les éloigner des choses malsaines. ChatGPT n'a pas de telles contraintes ni de telles préoccupations », a-t-elle déclaré.

Dans un article de Rolling Stone, un homme ayant des antécédents de mauvaise santé mentale a commencé à utiliser ChatGPT pour l'aider dans la programmation. Cependant, l'histoire se transforme progressivement en thèmes mystiques, ce qui amène cette personne à se demander : « Suis-je paranoïaque ? »

(Selon Rolling Stone, le futurisme)

Choquant : le premier pays au monde veut utiliser l’IA pour rédiger des lois Bien que l’intelligence artificielle (IA) soit largement appliquée à l’échelle mondiale, aucun pays n’a officiellement utilisé cette technologie pour rédiger ou modifier des lois.

Source : https://vietnamnet.vn/tan-nat-gia-dinh-vi-chatgpt-2398344.html