Vous trouverez ci-dessous le contenu d'un article du journaliste Nelson Aguilar, traduit du site d'actualités technologiques CNET, sur des sujets que les utilisateurs ne devraient pas gérer sur ChatGPT.
1. Diagnostic des problèmes de santé
J'avais l'habitude de saisir mes symptômes dans ChatGPT par curiosité, mais les réponses que j'obtenais étaient parfois un cauchemar. En parcourant la liste des diagnostics possibles, les résultats allaient de la déshydratation à la grippe, en passant par… le cancer. Un jour, j'avais une grosseur au sein et j'ai saisi cette information dans ChatGPT. Résultat : l'IA a pensé que j'avais peut-être un cancer.
Mais en fait, le médecin m’a diagnostiqué un lipome, une tumeur bénigne assez courante (survenant chez 1 personne sur 1 000).
Je ne nie pas l'utilité de ChatGPT dans le domaine de la santé : l'IA peut vous aider à rédiger des questions pour votre prochain rendez-vous, à traduire une terminologie médicale complexe ou à créer une chronologie de vos symptômes pour mieux vous préparer. Cela pourrait rendre les visites chez le médecin moins stressantes. Cependant, l'IA ne peut pas effectuer d'analyses sanguines, ni d'examens physiques, et elle n'est pas couverte par une assurance responsabilité civile professionnelle. Comprenez ses limites.
2. Soins de santé mentale
ChatGPT peut suggérer des techniques apaisantes, mais il ne pourra clairement pas vous aider en cas de véritable crise émotionnelle. Je connais des personnes qui utilisent ChatGPT comme « thérapie alternative ». Corin Cesaric, journaliste à CNET, l'a trouvé plutôt utile pour faire face au deuil, à condition de garder à l'esprit les limites de l'outil.
Mais en tant que personne actuellement en thérapie, je peux le confirmer : ChatGPT est une pâle imitation, et peut parfois être carrément dangereux. ChatGPT n'a aucune expérience de vie, ne peut déchiffrer votre langage corporel ni le ton de votre voix, et ne possède aucune empathie réelle. ChatGPT ne fait que simuler l'empathie.
Alors qu'un thérapeute professionnel est soumis à des lois et à des codes de déontologie conçus pour vous protéger, ChatGPT ne l'est pas. Ses conseils peuvent être biaisés, passer à côté d'alertes ou renforcer involontairement des biais dans ses données d'entraînement. Les questions profondes, sensibles et complexes doivent être laissées aux humains.
Les utilisateurs ne doivent pas faire entièrement confiance aux réponses de ChatGPT aux problèmes de santé et aux situations d'urgence.
3. Prendre des décisions dans des situations d'urgence
Si l'alarme de CO se déclenche, n'ouvrez pas ChatGPT pour demander si vous êtes en danger. Quittez d'abord la maison et posez des questions plus tard. Le modèle d'IA ne détecte ni le gaz, ni la fumée, et n'appellera pas les pompiers à votre place.
En cas d'urgence, chaque seconde que vous saisissez est une seconde sans évacuation ni appel au 911 (le numéro d'urgence national aux États-Unis). ChatGPT fonctionne uniquement en fonction de ce que vous saisissez ; et en cas d'urgence, ces informations sont souvent insuffisantes et trop tardives. Utilisez ChatGPT pour des explications post-accident, et non pour un service de premiers secours.
4. Planification financière ou fiscale personnelle
ChatGPT peut expliquer ce qu'est un FNB, mais il ne connaît pas votre niveau d'endettement, votre tranche d'imposition, votre situation fiscale ni vos objectifs de retraite. De plus, les données sur lesquelles il s'appuie peuvent être obsolètes, notamment en raison des récentes mises à jour de la législation fiscale ou des ajustements des taux d'intérêt.
Pour ce qui est de l'argent réel, des délais et des pénalités fiscales potentielles, faites appel à un professionnel, pas à une IA. Notez également que toute information saisie dans une IA peut être stockée et utilisée pour entraîner le modèle.
ChatGPT enregistre plus de 5 milliards de visites par mois. (Source : explodingtopics)
5. Traitement des données confidentielles ou contrôlées
En tant que journaliste spécialisé dans les technologies, je reçois de nombreux communiqués de presse contenant des clauses de confidentialité. Mais je n'ai jamais pensé à les intégrer dans ChatGPT pour les résumer ou les interpréter. Sinon, le contenu échapperait à mon contrôle et atterrirait sur un serveur tiers, hors des contraintes légales de l'accord de confidentialité.
Le même risque s'applique aux contrats clients, aux dossiers médicaux, etc. Cela inclut également les déclarations de revenus, les certificats de naissance, les permis de conduire et les passeports. Une fois que vous avez saisi des informations sensibles dans ChatGPT, vous ne pouvez pas savoir où elles sont stockées, qui peut les consulter et si elles sont utilisées pour former de futurs modèles. ChatGPT n'est pas non plus à l'abri des pirates informatiques ni des cyberattaques.
6. Faire quelque chose d'illégal
Bien sûr!
7. Tricher à l'école
Je ne prétends pas être moraliste : j'ai utilisé mon iPod Touch pour jeter un œil à quelques formules mathématiques complexes lors d'un examen de calcul AP au lycée. Mais à grande échelle, l'IA a propulsé la tricherie à un niveau inédit.
Les logiciels anti-plagiat comme Turnitin s'améliorent dans la détection des textes générés par l'IA. Suspension, expulsion ou révocation de diplôme sont autant de conséquences possibles. ChatGPT doit être un assistant d'apprentissage, pas un simple outil d'aide aux devoirs. Si vous laissez l'IA faire tout le travail à votre place, vous vous privez de la possibilité d'apprendre.
8. Suivez les dernières nouvelles et informations
Depuis qu'OpenAI a lancé ChatGPT Search fin 2024 (ouvert à tous les utilisateurs à partir de février 2025), le chatbot est capable de rechercher de nouveaux sites Web, des cours d'actions, des taux de change, des résultats sportifs , etc. avec des liens sources à vérifier.
Cependant, l'application ne se met pas à jour en temps réel. Chaque actualisation nécessite une nouvelle commande. Ainsi, lorsque vous avez besoin d'informations instantanées, privilégiez les actualités en direct, les sites d'information officiels, les communiqués de presse ou les notifications push des applications.
9. Prédiction du score
J'ai vu ChatGPT « fabriquer » des informations et fournir de fausses données sur les statistiques des joueurs, des blessures mal déclarées et même des bilans victoires-défaites. ChatGPT ne peut pas prédire le score de demain.
10. Rédiger un testament ou un contrat juridique
ChatGPT est idéal pour expliquer les concepts de base. Mais si vous lui demandez de rédiger des documents juridiques, vous prenez un risque important, car les lois varient d'un pays à l'autre.
Laissez ChatGPT vous aider à créer une liste de questions pour votre avocat, puis laissez un véritable avocat rédiger un document juridiquement contraignant.
11. Créer de l'art
Ceci n'est qu'un avis personnel : je ne pense pas que l'IA doive être utilisée pour créer de l'art. Je ne suis pas contre l'IA, j'utilise toujours ChatGPT pour réfléchir à des idées ou trouver des titres. Mais c'est un outil d'aide, pas un substitut. Utilisez ChatGPT si vous le souhaitez, mais ne créez pas d'art avec l'IA et ne vous l'appropriez pas. C'est… agaçant.
Ngoc Nguyen (Source : CNET)
Source : https://vtcnews.vn/chatgpt-tra-loi-co-cung-nhu-khong-khi-chan-doan-sai-benh-gia-lap-su-dong-cam-ar953726.html
Comment (0)