Студент не получил ни одного балла из-за ошибки приложения для тестирования ИИ

Многие университеты США используют приложения для тестирования на основе искусственного интеллекта (ИИ), чтобы помешать студентам использовать ИИ для написания эссе. Однако во многих случаях инструменты тестирования оказываются некорректными, в результате чего студенты получают ноль баллов.

В конкретном случае Мойра Олмстед (24 года), студентка Центрального методистского университета (США), рассказала историю о получении оценки 0 после того, как приложение для тестирования на основе искусственного интеллекта оценило ее эссе как «сочинение, сгенерированное искусственным интеллектом», сообщает информационное агентство Bloomberg .

Уровень «непонимания» при тестировании ИИ вырос с 1% до более чем 10%

Профессор заявила, что приложение для тестирования на основе искусственного интеллекта ранее пометило её текст как несоответствующий требованиям. Олмстед оспорила это заключение, заявив, что её текст был «спроектирован» из-за расстройства аутистического спектра, а не потому, что текст был создан искусственным интеллектом. Позже университет отменил её оценку и прошёл курс.

В другом случае Кен Сахиб, американский студент, выросший в Италии, рассказал, что был шокирован, когда его работа получила нулевую оценку на курсе по компьютерным сетям в колледже Беркли в Нью-Йорке (США).

Профессор объяснил: «Все инструменты, которые я пробовал, давали один и тот же результат: ИИ сгенерировал это эссе». Однако Сахиб утверждал, что в подростковом возрасте он учился в Италии, где английский был лишь вторым языком, и его письмо было бы не таким естественным, как у носителя языка, и что приложение для тестирования с ИИ выставило ему неверную оценку. После протеста студента школа изменила оценку за эссе.

Согласно мартовскому отчёту Центра демократии и технологий, около двух третей из более чем 450 опрошенных учителей в США заявили, что регулярно используют приложения для проверки знаний с помощью ИИ. Преподаватели утверждают, что эти инструменты помогают им определить, сгенерировал ли ИИ отдельные предложения, абзацы или целые студенческие работы.

Ряд инструментов, таких как Turnitin, GPTZero и Copyleaks, используются во многих средних школах и университетах США.

Технологические компании утверждают, что приложения для тестирования на основе ИИ обеспечивают точность до 99%. Однако Bloomberg провёл тестирование с 500 эссе до запуска ChatGPT в конце 2022 года. Результаты показали, что частота, с которой приложения для тестирования на основе ИИ «принимают» эссе, написанные студентами, за «эссе, сгенерированные ИИ», варьировалась от 1% до более чем 10%.

Такой уровень ошибок, учитывая большое количество работ, которые необходимо проверять каждый год, сильно влияет на психологию студентов, создавая даже ненужную подозрительность и напряженность между преподавателями и студентами.

В частности, после того как ее пометили как «статью, созданную искусственным интеллектом», ученица Мойра Олмстед проявила такую впечатлительность, что использовала функцию видеозаписи всего экрана своего компьютера во время написания эссе, чтобы доказать это школе.

Многие студенты в США говорят, что теперь они тратят больше времени на написание эссе, поскольку им приходится тщательно проверять предложения, которые могут быть помечены инструментом проверки как «письмо ИИ».

Приложение Quillbot оценивает статью как на 43% состоящую из контента, созданного искусственным интеллектом.

Исследование Стэнфордского университета, проведённое в 2023 году, показало, что приложение для тестирования на основе искусственного интеллекта «практически идеально» справилось с проверкой сочинений восьмиклассников, родившихся в Америке. Однако приложение ошибочно пометило половину сочинений учеников, для которых английский был родным языком, как «сочинения, написанные искусственным интеллектом».

Не используйте приложения для тестирования ИИ в качестве «судей»

Столкнувшись с этой ситуацией, некоторые школы в США предоставляют учащимся инструменты проверки на базе искусственного интеллекта, чтобы они могли самостоятельно проверить свои работы перед их сдачей.

Кроме того, технологические компании подчеркивают, что школы должны рассматривать приложения для тестирования на базе ИИ только как вспомогательные инструменты, а не как «судей», выносящих суждения по сочинениям учащихся.

Некоторые студенты, желающие сэкономить время, даже вынуждены использовать инструменты «ИИ-гуманизатора», которые могут автоматически редактировать человеческий текст или переписывать его, чтобы пройти тестирование ИИ.

Для некоторых преподавателей и студентов, школ и преподавателей злоупотребление приложениями для тестирования на основе ИИ может повлиять на процесс преподавания и обучения.

«ИИ станет частью будущего, нравится нам это или нет», — отмечает Адам Ллойд, профессор английского языка в Мэрилендском университете. «Ошибочно считать ИИ чем-то, что нужно исключить из учебного процесса или отучить студентов от его использования». Вместо того, чтобы использовать приложения для тестирования ИИ, Ллойд полагается на свою интуицию. «Я хорошо знаю навыки письма своих студентов. Если у меня возникают какие-либо сомнения, я открыто обсуждаю их и не спешу обвинять студентов в использовании ИИ для написания работ», — говорит Ллойд.

Источник: https://thanhnien.vn/sinh-vien-bi-0-diem-vi-loi-cua-ung-dung-kiem-tra-ai-185241028001727599.htm