Прозорість продуктів штучного інтелекту

Багато продуктів штучного інтелекту (ШІ) сьогодні не розкривають рівень технологічного втручання, що ускладнює для користувачів розрізнення між справжніми та підробленими продуктами. З огляду на цю ситуацію, чітке визначення зобов'язання бути прозорими та маркувати продукти ШІ стало нагальною вимогою.

Виставковий стенд FPT , присвячений застосуванню штучного інтелекту в різних галузях.

Сьогодні, від створення візуального, аудіо та текстового контенту до автоматизованої підтримки рішень, багато продуктів штучного інтелекту не мають маркування та поширюються як звичайний контент. Наслідком цього є те, що користувачі не знають, чи взаємодіють вони з контентом, створеним людиною, чи штучним інтелектом, і можуть повірити в дезінформацію чи маніпуляції.

Наприклад, салон краси публікує рекламу, згенеровану штучним інтелектом, із зображенням моделі, помилково змушуючи клієнтів вважати її справжньою, але коли вони користуються послугою, то виявляють, що якість не відповідає заявленій. Ще небезпечніше те, що штучний інтелект створює фальшиві фотографії відомих людей, відео, що імітують заяви політиків, або статті, створені штучним інтелектом, але з іменами реальних людей, що шкодить особистій честі та репутації установ та організацій.

Крім того, відсутність механізму маркування знижує довіру користувачів до цифрових платформ та продуктів штучного інтелекту. Цифрове середовище, яке не є прозорим щодо походження контенту, зробить користувачів підозрілими та відстороненими. Тим часом більшість в'єтнамських користувачів не мають звички ідентифікувати та перевіряти походження контенту, а технічні інструменти для виявлення продуктів штучного інтелекту обмежені.

Чітке визначення зобов'язань щодо прозорості та маркування є не лише технологічною етичною вимогою, а й правовою основою для захисту як користувачів, так і розробників продуктів штучного інтелекту. Для виконання цієї вимоги Міністерство науки і технологій розробляє Закон про штучний інтелект, стаття 12 якого передбачає «Прозорість, маркування та підзвітність».

Відповідно, маркування — це застосування технічних заходів для чіткого, легко розпізнаваного та машинно-читаного повідомлення про те, що контент (текст, зображення, аудіо, відео) був створений або суттєво змінений системами штучного інтелекту. Повідомлення має бути зроблене, коли контент широко опублікований.

Цей регламент встановлює обов'язкові вимоги щодо маркування продуктів, створених або відредагованих за допомогою штучного інтелекту, з метою зробити цифровий простір прозорим, захистити споживачів та вимагати від постачальників і розповсюджувачів спільної відповідальності, якщо відсутність маркування призводить до плутанини або шкоди.

Для контенту, що імітує реальних людей, об'єкти, місця чи події, проект Закону передбачає, що постачальники повинні застосовувати заходи для чіткої ідентифікації того, що контент створено штучним інтелектом, та забезпечити можливість автентифікації та відстеження його походження. Це вважається важливим кроком в управлінні технологією штучного інтелекту, відповідно до міжнародних тенденцій, коли Європейський Союз (ЄС), Сполучені Штати, Японія та Південна Корея видали аналогічні правила.

Незважаючи на згоду з необхідністю, багато експертів та підприємств вважають, що правила маркування в законопроекті мають бути більш конкретними. Адвокат Хоанг Ле Куан з юридичної фірми «В'єтнамське комерційне право з обмеженою відповідальністю» (Lexcomm Vietnam LLC) вважає, що необхідно уточнити, чи можуть постачальники послуг штучного інтелекту самостійно вирішувати форму маркування, чи повинні дотримуватися вказівок уряду.

Якщо існують рекомендації, вони повинні бути чіткими та забезпечувати гармонію з міжнародними стандартами, уникаючи того, щоб вимоги В'єтнаму були повністю відмінними або створювали нові зобов'язання, особливо для багатонаціональних постачальників, що впливало б на конкурентоспроможність В'єтнаму у застосуванні та розробці штучного інтелекту порівняно з іншими ринками, такими як Європейський Союз (ЄС), Південна Корея чи Сполучені Штати.

У деяких думках наголошується на необхідності чіткого визначення сфери застосування та рівня, чи має бути позначений весь контент з елементами штучного інтелекту, чи лише продукти, створені повністю за допомогою штучного інтелекту або зі значним втручанням. Пан Тран Ван Трі, директор В'єтнамської юридичної медіаакціонерної компанії (LuatVietnam.vn), зазначив, що коли контент має лише невелику частину, що містить застосування штучного інтелекту, чи потрібно його позначати чи ні? Необхідно чітко вказати, чи це було створення за допомогою штучного інтелекту, чи це повністю створено штучним інтелектом.

У розважальній індустрії деякі компанії хочуть гнучкого механізму для звільнення продуктів штучного інтелекту від жорстких зобов'язань щодо маркування, а натомість застосовують попередження або прозоре самостійне розкриття інформації залежно від рівня використання. Штучний інтелект широко використовується для покращення звуку, зображення та ефектів. Якби всі вони мали бути обов'язковими для маркування, витрати та процедури зросли б, що перешкоджало б творчості.

Керівник Міністерства науки і технологій зазначив, що проект Закону про штучний інтелект побудований у напрямку пошуку розумного балансу між управлінням та заохоченням розвитку, забезпеченням прозорості, доцільності та наближенням до міжнародних стандартів. Мета маркування полягає в тому, щоб уточнити межу між контентом, створеним людиною, та контентом, згенерованим машиною, уникаючи обох крайнощів – недбалого управління або надмірного жорсткості, щоб технології могли розвиватися в прозорих та відповідальних рамках.

ХА ЛІНЬ

Джерело: https://nhandan.vn/minh-bach-hoa-san-pham-tri-tue-nhan-tao-post920112.html