Ниже приведено содержание статьи репортера Нельсона Агилара, переведенной с сайта новостей о технологиях CNET, о темах, при решении которых пользователям не следует полагаться на ChatGPT.
1. Диагностика проблем со здоровьем
Раньше я вводил свои симптомы в ChatGPT из любопытства, но ответы, которые я получал, порой были кошмаром. Пролистывая список возможных диагнозов, я видел результаты, варьирующиеся от обезвоживания до гриппа и… рака. Однажды у меня обнаружили уплотнение в груди, и я ввёл эту информацию в ChatGPT. Результат: ИИ решил, что у меня, возможно, рак.
Но на самом деле врач поставил мне диагноз «липома» — доброкачественная опухоль, которая встречается довольно часто (у 1 из 1000 человек).
Я не отрицаю, что ChatGPT может быть полезен в сфере здравоохранения: ИИ может помочь вам составить вопросы для следующего приёма, перевести запутанную медицинскую терминологию или составить хронологию симптомов, чтобы вы были более подготовлены. Это может сделать визиты к врачу менее стрессовыми. Но ИИ не может делать анализы крови, проводить медицинские осмотры и не подпадает под действие страхования профессиональной ответственности. Поймите его ограничения.
2. Психиатрическая помощь
ChatGPT может предложить некоторые методы успокоения, но он явно не сможет позвонить вам, когда вы находитесь в состоянии настоящего эмоционального кризиса. Я знаю людей, которые используют ChatGPT в качестве «альтернативной терапии». Репортёр CNET Корин Сесарик обнаружила, что он довольно полезен для преодоления горя, если учитывать ограничения этого инструмента.
Но как человек, который сейчас проходит терапию у психотерапевта, могу подтвердить: ChatGPT — это бледная имитация, которая порой может быть просто опасной. ChatGPT не имеет жизненного опыта, не может читать ваш язык тела или тон голоса и не обладает настоящей эмпатией. ChatGPT лишь имитирует эмпатию.
В то время как профессиональный психотерапевт действует в соответствии с законами и этическими кодексами, призванными защитить вас. ChatGPT — нет. Его советы могут быть предвзятыми, упускать тревожные сигналы или непреднамеренно усиливать предвзятость в обучающих данных. Глубокие, деликатные и сложные вопросы — оставьте их людям.
Пользователи не должны полностью доверять ответам ChatGPT по вопросам здоровья и чрезвычайным ситуациям.
3. Принятие решений в чрезвычайных ситуациях
Если сработал датчик угарного газа, не открывайте ChatGPT, чтобы спросить, не угрожает ли вам опасность. Сначала покиньте дом, а потом задавайте вопросы. Модель искусственного интеллекта не чувствует запах газа, не обнаруживает дым и не вызовет пожарных.
В чрезвычайной ситуации каждая секунда, которую вы набираете, — это секунда, которую вы не успеваете эвакуироваться или позвонить по номеру 911 (государственный номер экстренной помощи в США). ChatGPT работает только на основе того, что вы набираете, — а в чрезвычайной ситуации этой информации часто бывает слишком мало или она слишком запоздалая. Используйте ChatGPT для объяснения последствий аварии, а не для оказания первой помощи.
4. Личное финансовое или налоговое планирование
ChatGPT может объяснить, что такое ETF, но не знает, сколько у вас долгов, в какой налоговой категории вы находитесь, каков ваш налоговый статус и каковы ваши пенсионные цели. Кроме того, данные, на которые он опирается, могут быть устаревшими, особенно с учётом недавних изменений налогового законодательства или корректировки процентных ставок.
Когда речь идёт о реальных деньгах, сроках и потенциальных штрафах от IRS, обратитесь к профессионалу, а не к ИИ. Также учтите, что любая информация, которую вы вводите в ИИ, может быть сохранена и использована для обучения модели.
ChatGPT посещают более 5 миллиардов человек в месяц. (Источник: Explodingtopics)
5. Обработка конфиденциальных или контролируемых данных
Как технологический журналист, я получаю множество пресс-релизов с пунктами о неразглашении. Но мне никогда не приходило в голову загрузить эти документы в ChatGPT для их краткого изложения или интерпретации. Потому что в таком случае контент вышел бы из-под моего контроля и оказался бы на стороннем сервере, вне рамок соглашения о неразглашении.
Тот же риск распространяется на клиентские договоры, медицинские карты и т. д. Сюда также входят налоговые декларации, свидетельства о рождении, водительские удостоверения и паспорта. Введя конфиденциальную информацию в ChatGPT, вы не можете быть уверены, где она хранится, кто может её просматривать и используется ли она для обучения будущих моделей. ChatGPT также не застрахован от хакеров и киберугроз.
6. Совершение противозаконных действий
Конечно!
7. Обман в школе
Не буду притворяться, что я нравлюсь — я использовал свой iPod Touch, чтобы подсмотреть несколько сложных математических формул на экзамене по математическому анализу в старших классах. Но если говорить о масштабах, то ИИ вывел мошенничество на совершенно новый уровень.
Антиплагиатное ПО, такое как Turnitin, совершенствует обнаружение текста, сгенерированного ИИ. Возможные последствия — отстранение от учёбы, исключение или аннулирование дипломов. ChatGPT должен быть помощником в обучении, а не помощником с домашними заданиями. Если вы позволяете ИИ делать всю работу за вас, вы лишаете себя возможности учиться.
8. Следите за последними новостями и информацией
С тех пор, как OpenAI запустила ChatGPT Search в конце 2024 года (открыт для всех пользователей с февраля 2025 года), чат-бот смог искать новые веб-сайты, цены на акции, курсы валют, спортивные результаты и т. д. со ссылками на источники для проверки.
Однако он не обновляется постоянно в режиме реального времени. Каждое обновление означает необходимость ввода новой команды. Поэтому, когда вам нужна мгновенная информация, отдавайте предпочтение новостям в режиме реального времени, официальным новостным сайтам, пресс-релизам или push-уведомлениям из приложений.
9. Прогнозирование результата
Я видел, как ChatGPT «фальсифицировал» информацию и предоставлял ложные данные о статистике игроков, неверные данные о травмах и даже о победах и поражениях. ChatGPT не может предсказать счёт на завтрашнем табло.
10. Составьте завещание или юридический договор.
ChatGPT отлично подходит для объяснения базовых понятий. Но если вы поручите ему составление юридических документов, вы сильно рискуете, поскольку законы во многих местах могут отличаться.
Позвольте ChatGPT помочь вам составить список вопросов для вашего юриста, а затем позвольте настоящему юристу подготовить юридически обязывающий документ.
11. Создавайте искусство
Это всего лишь моё личное мнение: я не считаю, что ИИ следует использовать для создания настоящего искусства. Я не против ИИ, я всё ещё использую ChatGPT для мозгового штурма или придумывания названий. Но это инструмент, который помогает, а не заменяет его. Используйте ChatGPT, если хотите, но не создавайте искусство с помощью ИИ и не выдавайте его за своё. Это… раздражает.
Нгок Нгуен (Источник: CNET)
Источник: https://vtcnews.vn/chatgpt-tra-loi-co-cung-nhu-khong-khi-chan-doan-sai-benh-gia-lap-su-dong-cam-ar953726.html
Комментарий (0)