Студент отримує нуль балів через помилку в додатку для тестування штучного інтелекту

Багато університетів у США використовують програми для тестування на основі штучного інтелекту (ШІ), щоб запобігти використанню ШІ студентами для написання есе. Однак є багато випадків, коли інструменти тестування є неправильними, через що студенти отримують нуль балів.

У конкретному випадку Мойра Олмстед (24 роки), студентка Центрального методистського університету (США), розповіла історію про отримання 0 балів після того, як додаток для тестування ШІ оцінив її есе як «письмо, згенероване ШІ», повідомляє інформаційне агентство Bloomberg .

Рівень «непорозумінь» у застосунках для тестування ШІ з 1% до понад 10%

Професорка сказала, що застосунок для тестування ШІ раніше позначав її письмові роботи. Олмстед заперечила це відкриття, заявивши, що її письмові роботи були «сфабриковані», оскільки в неї був розлад аутистичного спектру, а не тому, що письмові роботи були створені ШІ. Пізніше навчальний заклад скасував її оцінку та зарахував курс.

В іншому випадку Кен Сахіб, американський студент, який виріс в Італії, розповів, що був шокований, коли його робота отримала нульову оцінку на курсі комп'ютерних мереж у коледжі Берклі в Нью-Йорку (США).

Професор пояснив: «Кожен інструмент, який я спробував, дав однаковий результат: штучний інтелект створив це есе». Однак Сахіб стверджував, що підліткові роки він провів, навчаючись в Італії, де англійська була лише другою мовою, і його письмо не було б таким природним, як у носія мови, і що тестовий додаток зі штучним інтелектом дав йому неправильну оцінку. Після протесту студента школа змінила оцінку есе.

Згідно з березневим звітом Центру демократії та технологій, близько двох третин з понад 450 опитаних вчителів у Сполучених Штатах заявили, що регулярно використовують програми для перевірки ШІ. Освітяни кажуть, що ці інструменти допомагають їм визначити, чи ШІ згенерував речення, абзаци чи цілі учнівські роботи.

Серія таких інструментів, як Turnitin, GPTZero та Copyleaks, використовується в багатьох середніх школах та університетах США.

Технологічні компанії стверджують, що додатки для тестування ШІ мають точність до 99%. Однак Bloomberg провів тест із 500 есе до запуску ChatGPT наприкінці 2022 року. Результати показали, що рівень «помилкового» прийняття додатками для тестування ШІ есе, написаних студентами, за «есе, згенеровані ШІ», коливався від 1% до понад 10%.

З таким рівнем помилок, враховуючи велику кількість робіт, які потрібно перевіряти щороку, це сильно впливає на психологію студентів, навіть створюючи зайву підозру та напругу між викладачами та студентами.

Зокрема, після того, як її помітили за «статтю, створену штучним інтелектом», учениця Мойра Олмстед була настільки чутливою, що під час написання есе використала функцію відеозапису всього екрана свого комп’ютера, щоб довести це школі.

Багато студентів у США кажуть, що тепер вони витрачають більше часу на написання есе, оскільки їм доводиться ретельно перевіряти речення, які інструмент перевірки може позначити як «письмо, написане за допомогою штучного інтелекту».

Додаток Quillbot оцінює статтю як таку, що на 43% складається з контенту, створеного штучним інтелектом.

Дослідження Стенфордського університету 2023 року показало, що застосунок для тестування штучного інтелекту був «майже ідеальним» для тестування есе восьмикласників, народжених в Америці. Однак застосунок помилково позначив половину есе учнів, для яких англійська була другою мовою, як «письмо на основі штучного інтелекту».

Не використовуйте додатки для тестування ШІ як «суддів»

Зіткнувшись із цією ситуацією, деякі школи в США надають учням інструменти перевірки за допомогою штучного інтелекту для самостійної перевірки своїх робіт перед їх здачею.

Крім того, технологічні компанії наголошують, що школи повинні розглядати додатки для тестування ШІ лише як допоміжні інструменти, а не як «суддів», які виносять оцінку есе учнів.

Деякі студенти, які хочуть заощадити час, навіть змушені використовувати інструменти «гуманізатора штучного інтелекту», які можуть автоматично редагувати людський текст або переписувати його, щоб пройти тестування на штучний інтелект.

Для деяких викладачів та студентів, шкіл та викладачів зловживання програмами для тестування штучного інтелекту вплине на процес викладання та навчання.

«Штучний інтелект стане частиною майбутнього, подобається нам це чи ні», – зазначає Адам Ллойд, професор англійської мови в Університеті Меріленду. «Помилково розглядати ШІ як щось, що нам потрібно виключити з аудиторії або відбивати у студентів бажання його використовувати». Замість того, щоб використовувати додатки для тестування ШІ, Ллойд покладається на свою інтуїцію. «Я добре знаю письмові здібності своїх студентів. Якщо у мене є якісь сумніви, я відкрито обговорюю їх і не поспішаю звинувачувати студентів у використанні ШІ для написання своїх робіт», – каже Ллойд.

Джерело: https://thanhnien.vn/sinh-vien-bi-0-diem-vi-loi-cua-ung-dung-kiem-tra-ai-185241028001727599.htm