Des conversations avec des chatbots aux incidents controversés au Japon.

  D'après les enquêteurs, l'incident s'est produit au domicile de Shinnosuke Abe, dans l'arrondissement de Shibuya à Tokyo. Alors que ses deux filles se disputaient, l'ancien joueur de baseball serait intervenu pour les empêcher de poursuivre leur conflit.

Cependant, la situation a rapidement dégénéré lorsque la fille aînée a réagi. Dans un accès de colère, Abe l'aurait saisie par le col et jetée à terre. Bien que la fillette n'ait pas été blessée, l'incident a entraîné l'intervention de la police et l'arrestation d'Abe à son domicile.

Ce qui a particulièrement retenu l'attention du public, ce n'est pas l'altercation elle-même, mais la manière dont l'incident a été découvert.

La fille de 18 ans de Shinnosuke Abe, entraîneur principal des Yomiuri Giants, a déclaré avoir demandé conseil au chatbot IA ChatGPT avant de signaler l'incident à un organisme de conseil pour enfants.

D'après la lettre rendue publique ultérieurement, la fille d'Abe, âgée de 18 ans, n'a pas immédiatement cherché de l'aide auprès de ses proches, de ses amis ou des autorités. Elle a préféré discuter avec ChatGPT pour obtenir des informations sur sa situation.

D'après le témoignage de la jeune fille, le chatbot doté d'intelligence artificielle lui a suggéré de contacter anonymement un centre de consultation pour enfants. Elle a alors appelé un tel centre pour demander conseil.

Dès réception de l'information, les experts du centre ont jugé l'affaire urgente et ont immédiatement contacté la police. Les autorités sont rapidement arrivées sur les lieux, ce qui a conduit à l'arrestation du célèbre entraîneur.

Bien que la décision finale revienne aux utilisateurs et aux autorités, cet incident démontre que l'IA n'est plus seulement un outil de recherche d'informations ou d'assistance au travail. Grâce à sa capacité à dialoguer naturellement, à fournir des réponses quasi instantanées et à fonctionner 24 heures sur 24, les chatbots deviennent progressivement le réflexe de nombreuses personnes lorsqu'elles ont besoin de partager des informations ou de demander conseil sur des problèmes personnels, plutôt que de s'adresser à leurs proches ou aux autorités.

Quand l'IA devient un « mentor » pour les jeunes.

Selon une enquête du Comité des affaires des consommateurs du Cabinet du Japon, un nombre croissant d'adolescents utilisent des contenus générés par l'IA pour obtenir des conseils sur des questions de la vie quotidienne.

Isao Echizen, expert en sécurité de l'information à l'Institut national d'informatique du Japon, affirme que les réponses des modèles d'IA conversationnelle comme ChatGPT peuvent varier considérablement en fonction de la manière dont les utilisateurs posent les questions et de la quantité d'informations fournies.

D'après lui, dans le cas de la fille de Shinnosuke Abe, le système d'IA a suggéré assez directement de contacter un centre de consultation pour enfants. Cependant, l'IA ne peut traiter que les informations fournies par l'utilisateur et ne peut appréhender pleinement le contexte, contrairement aux membres de la famille ou aux témoins directs de l'événement.

M. Echizen a fait valoir qu'il aurait été plus naturel et plus approprié de discuter de la question avec des membres de sa famille ou des personnes connaissant les circonstances particulières.

Cet expert a également reconnu que la génération par IA est un outil pratique et que la dépendance des jeunes à son égard est une tendance compréhensible. Cependant, il a déconseillé aux élèves du primaire et du collège d'utiliser activement cette technologie en raison du risque de dépendance excessive aux réponses générées par les machines.

L'un des plus grands risques, selon lui, est que les utilisateurs aient tendance à accorder une confiance aveugle aux services de l'IA. Avec la généralisation croissante de l'IA, qui s'utilise pour l'apprentissage, la rédaction de dissertations ou encore pour des conseils sur des problèmes personnels, développer la capacité de penser par soi-même et d'évaluer l'information est plus important que jamais.

Une enquête menée par le Cabinet du Premier ministre japonais a révélé que plus de la moitié des adolescentes âgées de 10 à 19 ans interrogées ont déclaré avoir utilisé du contenu généré par l'IA pour obtenir des conseils sur les problèmes auxquels elles étaient confrontées.

D'après M. Echizen, de nombreux enfants se tournent vers l'IA car ils ont du mal à exprimer leurs sentiments à leurs parents ou à leurs proches. Or, les systèmes d'IA sont conçus pour susciter l'empathie et la compréhension, facilitant ainsi l'établissement d'une relation de confiance entre les utilisateurs.

Il a souligné que protéger les enfants des dangers de la dépendance à l'IA ne se limite pas à contrôler la technologie, mais implique aussi de développer leur capacité à distinguer le bien du mal, leur esprit critique et d'encourager les interactions directes avec les humains dès leur plus jeune âge. « Leur entourage doit les aider à comprendre que l'IA n'a pas toujours raison », a-t-il déclaré.

L’affaire Shinnosuke Abe dépasse donc le simple cadre d’un conflit familial aux conséquences juridiques imprévues. Elle reflète plus largement une réalité croissante de la société moderne : l’intelligence artificielle s’intègre de plus en plus à notre quotidien et devient partie intégrante de la manière dont nous recherchons des informations, des conseils et prenons des décisions importantes.

Au Japon, les centres de conseil et d'orientation pour enfants, créés en vertu de la loi sur la protection de l'enfance, sont chargés de recevoir les signalements concernant les enfants de moins de 18 ans, y compris les cas présumés de maltraitance.

En avril dernier, le Japon comptait 243 centres de ce type à travers le pays, dotés d'un personnel composé notamment de travailleurs sociaux, de psychologues, de médecins et d'agents de santé communautaires.

L'un des outils les plus importants du système est la ligne d'assistance téléphonique 189, opérationnelle depuis 2015. Son nom, « Ichi-Haya-Ku », signifie « rapidement » ou « immédiatement », incitant ainsi à signaler au plus vite les cas d'enfants en danger. Dès réception d'un appel, la ligne d'assistance géolocalise l'appelant et le met en relation avec le centre de consultation pour enfants le plus proche afin d'évaluer la gravité de la situation et de déterminer les mesures d'intervention appropriées.


    Source : https://www.qdnd.vn/giao-duc-khoa-hoc/cac-van-de/khi-chatbot-buoc-vao-doi-thuc-1042130