Студент получил ноль баллов из-за ошибки в приложении для тестирования ИИ

Многие университеты в США используют приложения для тестирования на основе искусственного интеллекта (ИИ), чтобы не дать студентам использовать ИИ для написания эссе. Однако есть много случаев, когда инструменты тестирования неверны, в результате чего студенты получают ноль баллов.

В конкретном случае Мойра Олмстед (24 года), студентка Центрального методистского университета (США), рассказала историю о получении оценки 0 после того, как приложение для тестирования на основе искусственного интеллекта оценило ее эссе как «письмо, сгенерированное искусственным интеллектом», сообщает информационное агентство Bloomberg .

Уровень «непонимания» при тестировании приложений ИИ вырос с 1% до более чем 10%

Профессор сказал, что приложение AI-testing ранее пометило ее письмо. Олмстед оспорил вывод, заявив, что ее письмо было «спроектировано», потому что у нее было расстройство аутистического спектра, а не потому, что письмо было создано AI. Позже школа отменила ее оценку и приняла курс.

В другом случае Кен Сахиб, американский студент, выросший в Италии, сказал, что был шокирован, когда его работа получила нулевую оценку на курсе компьютерных сетей в колледже Беркли в Нью-Йорке (США).

Профессор объяснил: «Каждый инструмент, который я пробовал, давал один и тот же результат: ИИ сгенерировал это эссе». Однако Сахиб утверждал, что провел свои подростковые годы, обучаясь в Италии, где английский был лишь вторым языком, и его письмо не было бы таким естественным, как у носителя языка, и что приложение для тестирования ИИ выставило ему неверную оценку. После протеста студента школа изменила оценку за эссе.

Около двух третей из более чем 450 опрошенных учителей в США заявили, что регулярно используют приложения для проверки ИИ, согласно мартовскому отчету Центра демократии и технологий. Преподаватели говорят, что эти инструменты помогают им определить, сгенерировал ли ИИ предложения, абзацы или целые студенческие работы.

Ряд инструментов, таких как Turnitin, GPTZero и Copyleaks, используются во многих средних школах и университетах США.

Технологические компании утверждают, что приложения для тестирования на основе ИИ имеют точность до 99%. Однако Bloomberg провел тест с 500 эссе до запуска ChatGPT в конце 2022 года. Результаты показали, что частота, с которой приложения для тестирования на основе ИИ «ошибочно принимают» написанные студентами эссе за «сгенерированные ИИ эссе», варьировалась от 1% до более чем 10%.

Такой уровень ошибок, учитывая большое количество работ, которые необходимо проверять каждый год, сильно влияет на психологию студентов, создавая даже ненужную подозрительность и напряженность между преподавателями и студентами.

В частности, после того, как ее пометили как «статью, созданную искусственным интеллектом», студентка Мойра Олмстед проявила такую ​​чувствительность, что использовала функцию видеозаписи всего экрана своего компьютера во время написания эссе, чтобы доказать это школе.

Многие студенты в США говорят, что теперь они тратят больше времени на написание эссе, поскольку им приходится тщательно проверять предложения, которые могут быть помечены инструментом проверки как «письмо ИИ».

Приложение Quillbot оценивает статью как на 43% состоящую из контента, созданного искусственным интеллектом

Исследование Стэнфордского университета 2023 года показало, что приложение для тестирования ИИ было «почти идеальным» при проверке эссе восьмиклассников, родившихся в Америке. Однако приложение ошибочно пометило половину эссе учеников, чьим вторым языком был английский, как «письмо ИИ».

Не используйте приложения для тестирования ИИ в качестве «судей»

Столкнувшись с этой ситуацией, некоторые школы в США предоставляют учащимся инструменты проверки на основе искусственного интеллекта, чтобы они могли самостоятельно проверить свои работы перед сдачей.

Кроме того, технологические компании подчеркивают, что школы должны рассматривать приложения для тестирования на основе ИИ только как вспомогательные инструменты, а не как «судей», выносящих суждения по сочинениям учащихся.

Некоторые студенты, желающие сэкономить время, даже вынуждены использовать инструменты «ИИ-гуманизатора», которые могут автоматически редактировать человеческий текст или переписывать его, чтобы пройти тестирование ИИ.

Для некоторых преподавателей и студентов злоупотребление приложениями для тестирования на основе ИИ со стороны школ и преподавателей может повлиять на процесс преподавания и обучения.

«ИИ станет частью будущего, нравится нам это или нет», — отмечает Адам Ллойд, профессор английского языка в Университете Мэриленда. «Ошибочно рассматривать ИИ как нечто, что нам нужно исключить из класса или отговорить студентов от его использования». Вместо того чтобы использовать приложения для тестирования ИИ, Ллойд полагается на свою интуицию. «Я хорошо знаю способности своих студентов к письму. Если у меня есть какие-либо сомнения, я открыто обсуждаю их и не спешу обвинять студентов в использовании ИИ для написания своих работ», — говорит Ллойд.

Источник: https://thanhnien.vn/sinh-vien-bi-0-diem-vi-loi-cua-ung-dung-kiem-tra-ai-185241028001727599.htm