Що має зробити В'єтнам, щоб уникнути ризику стати дешевим ресурсом?

(Ден Трі) - У контексті того, що В'єтнам є однією з країн-піонерів, які розглядають можливість прийняття Закону про штучний інтелект, проблема полягає не лише в просуванні технологій, а й у захисті цифрового суверенітету та безпеки людей.

Вибухове зростання штучного інтелекту (ШІ) приносить величезні переваги людству, але також тягне за собою незліченні наслідки: від расових упереджень, витонченого онлайн-шахрайства до ризику перетворення країн, що розвиваються, на дешеві «копальні даних».

З огляду на цю реальність, чи має бути відповідальне використання штучного інтелекту добровільним чи обов'язковим? Що має зробити В'єтнам, будуючи правовий коридор для цієї сфери?

У кулуарах заходу VinFuture Science and Technology Week репортер поспілкувався з професором Тобі Волшем – Університет Нового Південного Уельсу (Австралія), академіком Американського комп’ютерного товариства.

Професор пропонує розуміння того, як ми «поводимося» зі штучним інтелектом, від притягнення «машин» до відповідальності до порад для сімей, як захистити себе від хвилі високотехнологічних шахрайств.

Хто відповідає за ШІ?

Професоре, чи має бути відповідальне використання ШІ добровільним чи обов'язковим? І як насправді нам слід поводитися зі ШІ?

– Я твердо переконаний, що відповідальне використання штучного інтелекту має бути обов’язковим . Існують хибні стимули , за допомогою штучного інтелекту заробляються величезні гроші, і єдиний спосіб забезпечити належну поведінку – це запровадити суворі правила , щоб суспільні інтереси завжди були збалансовані з комерційними .

Коли ШІ робить помилку, хто несе відповідальність? Особливо у випадку з агентами ШІ, чи маємо ми можливість виправити їхні робочі механізми?

Основна проблема помилок ШІ полягає в тому, що ми не можемо притягнути ШІ до відповідальності. ШІ не є людиною – і це недолік кожної правової системи світу . Тільки люди можуть нести відповідальність за свої рішення та дії.

Раптом у нас з'являється новий «агент» – штучний інтелект, який може – якщо ми йому це дозволимо – приймати рішення та вживати заходів у нашому світі, що ставить перед нами виклик: кого ми будемо притягувати до відповідальності?

Відповідь така: компанії, які розгортають та експлуатують системи штучного інтелекту, повинні нести відповідальність за наслідки, спричинені цими «машинами».

Багато компаній також говорять про відповідальний ШІ. Як ми можемо їм довіряти? Як ми можемо знати, що вони серйозні та комплексні, а не просто використовують «відповідальний ШІ» як маркетинговий трюк?

- Нам потрібно підвищити прозорість. Важливо розуміти можливості та обмеження систем штучного інтелекту. Ми також повинні «голосувати діями», тобто вирішувати використовувати послуги відповідально.

Я щиро вірю, що те, як компанії відповідально використовують штучний інтелект, стане диференціатором на ринку, надавши їм комерційну перевагу.

Якщо компанія поважає дані клієнтів, це принесе користь та залучить клієнтів. Бізнес зрозуміє, що правильні дії не лише етичні, але й допоможуть йому досягти більшого успіху. Я розглядаю це як спосіб розрізнення бізнесу, а відповідальний бізнес – це той, з яким ми можемо комфортно вести бізнес.

В'єтнаму необхідно активно захищати культурні цінності.

В'єтнам — одна з небагатьох країн, яка розглядає можливість прийняття Закону про штучний інтелект. Яка ваша оцінка цього? На вашу думку, для країн, що розвиваються, таких як В'єтнам, які виклики щодо етики та безпеки під час розробки штучного інтелекту існують?

– Я дуже радий, що В’єтнам є однією з країн-піонерів, яка матиме спеціалізований Закон про штучний інтелект. Це важливо, тому що кожна країна має свої цінності та культуру, і потребує законів для захисту цих цінностей.

В'єтнамські цінності та культура відрізняються від австралійських, китайських та американських. Ми не можемо очікувати, що технологічні компанії з Китаю чи Сполучених Штатів автоматично захищатимуть в'єтнамську культуру та мову. В'єтнам повинен взяти на себе ініціативу щодо захисту цих речей.

Я пам'ятаю, що в минулому багато країн, що розвиваються, пережили період фізичної колонізації. Якщо ми не будемо обережними, ми можемо пережити період «цифрової колонізації». Ваші дані будуть використані, і ви станете дешевим ресурсом.

Це під загрозою, якщо країни, що розвиваються, розвиватимуть індустрію штучного інтелекту таким чином, що використовуватимуть лише дані, не контролюючи та не захищаючи власні інтереси.

Тож як подолати цю ситуацію?

– Це просто: інвестуйте в людей. Підвищуйте кваліфікацію людей, переконайтеся, що вони розуміють штучний інтелект. Підтримуйте підприємців, компанії, що займаються штучним інтелектом, підтримуйте університети. Будьте проактивними. Замість того, щоб чекати, поки інші країни передадуть нам технології або направлять нас, ми повинні бути проактивними та опанувати ці технології.

Професор Тобі Волш виступає на Тижні науки і технологій VinFuture (Фото: Організаційний комітет).

По-друге, нам потрібно рішуче виступати за те, щоб платформи соціальних мереж створювали безпечне середовище для користувачів у В'єтнамі, не впливаючи при цьому на демократію країни.

Насправді, існує безліч прикладів того, як контент соціальних мереж вплинув на результати виборів, розділив країни і навіть підбурював до тероризму.

Я 40 років працюю над штучним інтелектом. Перші 30 років мене хвилювало, як зробити ШІ потужнішим. В останні 10 років я дедалі більше цікавлюся та голосно висловлююся щодо відповідальної розробки ШІ.

Чи можете ви дати якісь поради, оскільки В'єтнам зараз розробляє закон про штучний інтелект?

– Є багато випадків, коли нові закони не потрібні. У нас уже є закони про конфіденційність, у нас вже є закони про конкуренцію. Ці чинні закони застосовуються до цифрового простору так само, як вони застосовуються до фізичного світу.

Важливо так само суворо дотримуватися цих законів у цифровому середовищі, як і у фізичному.

Однак, виникають деякі нові ризики, і ми починаємо їх бачити. Люди починають формувати стосунки зі штучним інтелектом, використовуючи його як терапевтів, і іноді це завдає шкоди користувачам, тому нам потрібно бути обережними.

Ми завжди вважаємо виробників відповідальними, коли вони випускають продукти. Наприклад, якщо компанії зі штучним інтелектом випускають продукти штучного інтелекту, які шкодять людям, вони також повинні нести відповідальність.

Тож як ми можемо запобігти шкідливому впливу ШІ на дітей та створити безпечне середовище для дітей щоразу, коли ШІ з'являється, сер?

– Я думаю, що ми не засвоїли багато уроків із соціальних мереж. Багато країн зараз починають усвідомлювати, що соціальні мережі мають великі переваги, але також і багато недоліків, особливо вплив на психічне здоров’я, рівень тривожності та сприйняття тіла молодими людьми, особливо дівчатами.

Багато країн вже почали впроваджувати заходи для вирішення цієї проблеми. В Австралії вікове обмеження для використання соціальних мереж набуде чинності 10 грудня. Я думаю, що нам потрібні аналогічні заходи для штучного інтелекту.

Ми створюємо інструменти, які можуть мати позитивний вплив, але також можуть завдати шкоди, і нам потрібно захистити розум і серця наших дітей від цього негативного впливу.

Крім того, я сподіваюся, що країни також запровадять суворі правила управління соціальними мережами, створюючи тим самим справді безпечне середовище для всіх, хто використовує штучний інтелект.

Насправді, не лише діти, а й дорослі стикаються з ризиками, спричиненими самим штучним інтелектом. Тож як люди можуть використовувати штучний інтелект для покращення свого життя, не становлячи небезпеки?

- Штучний інтелект застосовується в багатьох галузях, допомагаючи покращити якість нашого життя. У медицині ШІ допомагає відкривати нові ліки. В освіті ШІ також приносить багато позитивних переваг.

Однак надання доступу до штучного інтелекту без належних гарантій є надто ризикованим. Ми бачили судові позови в США, де батьки подали до суду на технологічні компанії, які довели їхніх дітей до самогубства після взаємодії з чат-ботами на базі штучного інтелекту.

Хоча відсоток користувачів ChatGPT, які мають проблеми з психічним здоров'ям, становить лише кілька відсотків, з сотнями мільйонів користувачів, фактична кількість сягає сотень тисяч.

Дані дуже важливі для розвитку ШІ, але з точки зору управління, якщо управління даними буде занадто жорстким, це перешкоджатиме розвитку ШІ. На вашу думку, які небезпеки може спричинити послаблення управління даними? Як збалансувати збір даних, безпечне управління даними та розробку ШІ?

– Я повністю згоден. Дані є основою прогресу ШІ , тому що саме дані його рушійною силою. Без даних ми не досягнемо жодного прогресу. Високоякісні дані є основою всього, що ми робимо. Фактично, комерційна цінність і конкурентна перевага, які отримують компанії, походять від даних. Ключове питання – чи маємо ми якісні дані, чи ні.

Мене обурює, коли книги авторів з усього світу, включно з моєю, використовуються без дозволу та без компенсації. Це крадіжка плодів чужої праці. Якщо така ситуація продовжуватиметься, автори втратять мотивацію писати книги, а ми втратимо культурні цінності, які ми цінуємо.

Нам потрібно знайти більш справедливе рішення, ніж те, що ми маємо зараз.

Зараз «Кремнієва долина» забирає контент і творчість у авторів, не платячи за це – це неприйнятно. Я порівнюю нинішню ситуацію з Napster та ранніми днями онлайн-музики у 2000-х. Тоді онлайн-музику «крали», але це не могло тривати вічно, бо музикантам потрібен був дохід, щоб продовжувати творити.

Зрештою, у нас є платні потокові системи , такі як Spotify чи Apple Music, або музика з рекламою, частина доходу від якої повертається виконавцю. Нам потрібно зробити те саме з книгами, щоб автори отримували цінність від своїх даних. Інакше ніхто не буде мотивований писати книги, і світ стане набагато гіршим без написання нових книг.

В рамках Тижня науки і технологій VinFuture у Центрі сучасного мистецтва Vincom Royal City також відбудеться виставка «Toa V – Touchpoint of Science» (Фото: Організаційний комітет).

Штучний інтелект у В'єтнамі дуже розвинений. Останнім часом у В'єтнамі було запроваджено багато політики щодо просування ШІ, але В'єтнам також стикається з проблемою шахрайства, спричиненого ШІ. Тож, на думку професора, як В'єтнаму слід вирішувати цю ситуацію? Яка порада професора тим, хто використовує ШІ сьогодні для забезпечення безпеки та захисту своїх даних?

– Для кожної окремої людини, я думаю, найпростіший спосіб – це перевірити інформацію. Наприклад, коли ми отримуємо телефонний дзвінок або електронний лист, наприклад, від банку, нам потрібно перевірити ще раз: ми можемо передзвонити на цей номер абонента або зв’язатися безпосередньо з банком, щоб перевірити інформацію.

У наші дні існує багато фальшивих електронних листів, фальшивих номерів телефонів, навіть фальшивих дзвінків у Zoom. Ці шахрайські схеми прості, недорогі та не займають багато часу.

У моїй родині також є власний захід безпеки: «секретне питання», яке знають лише члени родини, наприклад, ім’я нашого домашнього кролика. Це гарантує, що важлива інформація залишається в межах родини та не просочується.

В'єтнам також включив освіту зі штучного інтелекту до загальної освіти, тож на що слід звернути увагу в цьому процесі?

- Штучний інтелект змінює те, чого навчають, і як це навчають. Він впливає на важливі навички майбутнього, такі як критичне мислення, комунікативні навички, соціальний інтелект та емоційний інтелект. Ці навички стануть необхідними.

Штучний інтелект може допомогти у навчанні цим навичкам, наприклад, як особистий репетитор, особистий помічник з оцінювання, надаючи дуже ефективні освітні інструменти за допомогою застосувань штучного інтелекту.

Дякую, професоре, що знайшли час для нашої розмови!

Джерело: https://dantri.com.vn/cong-nghe/viet-nam-can-lam-gi-de-tranh-nguy-co-tro-thanh-nguon-luc-re-tien-20251203093314154.htm