Штучний інтелект: Ми повинні підвищити безпеку, а не просто зосереджуватися на розробці сильніших

Замість того, щоб зосередитися лише на розвитку ШІ, щоб стати сильнішим, впливові світові експерти зі ШІ попереджають, що людству потрібно терміново подумати про те, як жити зі ШІ – сутністю, розумнішою за них самих, що не дає йому перехопити контроль у людей.

Панельна дискусія «Штучний інтелект для людства: етика та безпека ШІ в нову епоху» в рамках Тижня науки і технологій VinFuture 2025 об’єднує вчених , політиків та винахідників для обговорення відповідального розвитку ШІ, спрямованого на гуманістичні цінності.

Терміново подумайте про те, як жити зі штучним інтелектом — сутністю, розумнішою за вас самих.

Виступаючи на семінарі, професор Тобі Волш з Університету Нового Південного Уельсу, Австралія, академік Американської комп’ютерної асоціації, підтвердив: «Я твердо переконаний, що відповідальне використання штучного інтелекту має бути обов’язковим. Сьогодні існує багато збочених стимулів, завдяки штучному інтелекту заробляються величезні суми грошей, і єдиний спосіб забезпечити належну поведінку — це застосовувати суворі правила, щоб суспільні інтереси завжди були збалансовані з комерційними інтересами».

Він навів типовий приклад важливих рішень, таких як винесення судових рішень та вироків у Сполучених Штатах, де система штучного інтелекту використовувалася для надання рекомендацій щодо терміну ув'язнення особи та ймовірності повторного вчинення злочину. На жаль, ця система була навчена на історичних даних і ненавмисно відображала минулі расові упередження, що призводило до дискримінації чорношкірих людей.

Професор Тобі Волш, Університет Нового Південного Уельсу, Австралія, член Американського комп'ютерного товариства.

Тому компанії, які розгортають та експлуатують системи штучного інтелекту, повинні нести відповідальність за наслідки, які спричиняють ці «машини».

Професор Джеффрі Хінтон, володар головного призу VF 2024, стурбований тим, що штучний інтелект поступово вдосконалюється у розробці небезпечних вірусів, кібератак, створенні фальшивих відео для зриву виборів. У наступні 20 років штучний інтелект стане розумнішим за нас, і ми не знатимемо, як запобігти його захопленню контролю у людей.

Тому цей професор наголосив: «Нам потрібно терміново подумати про те, як жити з сутностями, розумнішими за нас самих. Це ситуація, з якою людство ніколи раніше не стикалося, вона нова, і нам потрібно докласти багато дослідницьких зусиль, перш ніж це станеться».

Необхідність посилення міжнародної співпраці для обмеження ризиків, пов'язаних зі штучним інтелектом

Поділяючи це занепокоєння, професор Йошуа Бенхіо, переможець головного призу VinFuture 2024, зазначив, що моделі штучного інтелекту, їхні можливості та рівні автономності продовжують розвиватися швидкими та стабільними темпами. Якщо ця тенденція збережеться, автономні системи штучного інтелекту можуть перевершити людей у ​​більшості когнітивних завдань вже протягом 5-10 років.

Це був би історичний поворотний момент, який міг би кардинально покращити якість нашого життя. Але якщо до цього не підходити обережно, це також може становити величезні ризики для демократії, геополітичної стабільності та навіть майбутнього людства.

«Ми повинні підвищити безпеку передового штучного інтелекту, а не просто зосереджуватися на його посиленні. Безпека та довіра — це не другорядні фактори, а важливі в процесі розвитку на благо людства. Нам потрібно діяти разом як на політичному, так і на науковому рівні», — сказав він.

Професор Йошуа Бенхіо – переможець головного призу VinFuture 2024.

Цей вчений рекомендує, що з точки зору політики, світ потребує міжнародної співпраці. З точки зору науки, необхідно краще зрозуміти, як розробити штучний інтелект, який буде одночасно перевершувати можливості та бути нешкідливим для людей, зберегти здатність контролювати штучний інтелект, щоб він поводився безпечно, навіть коли люди просять його робити неправильно, та створити технічні та соціальні бар'єри, щоб забезпечити відповідність штучного інтелекту людським нормам, намірам, цінностям та інтересам.

Д-р Вінтон Грей Серт (віцепрезидент і директор з інтернет-євангелізації в Google - лауреат головного призу VF 2022) погоджується: нам потрібно притягнути штучний інтелект до відповідальності, встановити ланцюжок відповідальності, щоб знати, що він робить, коли, особливо коли щось йде не так. Багато принципів, що застосовуються до людей, також застосовуватимуться до агентів ШІ в онлайн-середовищі.

«Нам потрібно одночасно встановити нові норми, де використання надійної ідентифікації, криптографії для захисту інформації, застосування механізмів для забезпечення підзвітності та захисту особистих даних від викрадання іншими особами стане звичайною звичкою. Ми повинні використовувати технології для обмеження ризиків з самого початку та чітко заявити, що кожен, хто завдає шкоди громаді та суспільству, повинен нести відповідальність за наслідки такої поведінки. Це вимагає міжнародної співпраці», – сказав він.

В'єтнаму потрібно мати власний шлях у створенні даних штучного інтелекту.

Доцент Луу Ань Туан, Наньянський технологічний університет (Сінгапур), Університет ВінУні (В'єтнам), зазначив, що інші країни мають набори даних приблизно за 10 років, але В'єтнам починає з нуля. Тому ми можемо створювати стійкі дані з самого початку, забезпечуючи чисті, етичні та культурно доцільні дані.

Однак найбільшим викликом для В'єтнаму є специфіка в'єтнамської мови. У нас різноманітна діалектна система, багата регіональна культура та надзвичайно складні форми звернення. Великі моделі, такі як ChatGPT або Gemini, підтримують в'єтнамську мову, але якість недостатня, оскільки вони не розуміють в'єтнамського діалекту, звичаїв чи історії.

В'єтнаму потрібно побудувати власну в'єтнамську модель. Крім того, нам слід розробити модель з відкритим вихідним кодом, щоб малий бізнес міг використовувати її та робити свій внесок. «Якщо ми покладатимемося лише на іноземні моделі у вигляді «чорних скриньок», ми будемо лише користувачами штучного інтелекту , а не розробниками», – сказав він.

Наразі доцент Луу Ань Туан та його колеги створюють дані про в'єтнамський штучний інтелект. При цьому необхідно враховувати такі фактори, як діалект, історія та культура.

Він також сказав, що в зарубіжних країнах студентів дуже рано навчають штучному інтелекту. В'єтнам тільки починає це робити, але ми можемо пришвидшити процес, навчаючись та відповідно адаптуючись.

«Молоді в’єтнамці дуже динамічні; їм просто потрібно бути повністю просвітленими щодо цифрової відповідальності. У нас має бути єдиний орган для підтвердження та стандартизації якості даних та етичних стандартів. VinUni також бере участь у роботі ради з метою створення системи етичних стандартів і продовжуватиме робити свій внесок у цей процес», – сказав він.

Доцент Луу Ань Туан, Наньянський технологічний університет (Сінгапур), Університет ВінУні (В'єтнам).

У відповідь на стратегію прямих іноземних інвестицій, яка спрямована на те, щоб В'єтнам став лідером регіону в галузі штучного інтелекту до 2030 року, доцент Туан вважає, що В'єтнам має високоякісні людські ресурси, що підтверджується міжнародними досягненнями в математиці, фізиці та хімії. Якщо ми знатимемо, як об'єднати сили та мати сильну політику, мету на 2030 рік можна повністю досягти.

Професор Тобі Волш рекомендує В'єтнаму інвестувати в людей та проактивно покращувати їхні навички, забезпечувати розуміння ними штучного інтелекту; підтримувати підприємців, бізнес та університети, що працюють у сфері штучного інтелекту. Замість того, щоб чекати, поки інші країни передадуть нам технології чи направлять нас, ми повинні бути проактивними та опанувати ці технології.

Крім того, В'єтнаму необхідно активно мобілізувати платформи соціальних мереж, щоб створити безпечне середовище для місцевих користувачів, не впливаючи на демократію країни.

ТАО ЛЕ-ТХІЄН ЛАМ

Джерело: https://nhandan.vn/artificial-intelligence-should-strengthen-safety-rather-than-it-should-focus-on-manh-hon-development-post927530.html