เมื่อลองมองดูอีกครั้ง เธอจึงรู้ว่านี่เป็นเพียงภาพ AI ที่เพจ Facebook นำมาใช้ประกอบโพสต์ที่มีเนื้อหาซาบซึ้งใจเท่านั้น โดยเฉพาะอย่างยิ่ง นี่เป็นครั้งที่สองที่เธอ “เกือบ” โดน AI หลอก ก่อนหน้านั้น เธอยังเข้าใจผิดว่า วิดีโอ “คนเกษียณ” พบปะกับ “นักท่องเที่ยวช่วงฤดูร้อน” เป็นผู้คนจริงและเหตุการณ์จริง

ด้วยการทำงานในอุตสาหกรรมสื่อและต้องสัมผัสกับเนื้อหา AI เป็นประจำ คุณลินห์ต้องยอมรับว่าเทคโนโลยีนี้พัฒนาอย่างรวดเร็วและซับซ้อนมาก จนยากที่จะแยกแยะระหว่างของจริงและของปลอม

ภาพหน้าจอ 1749203761184.png
ภาพไวรัลบน Facebook ถูกสร้างขึ้นด้วย AI ภาพหน้าจอ

ผู้เชี่ยวชาญเห็นด้วยกับมุมมองนี้ เครื่องมืออย่าง Google Veo 3, Kling AI, DALL·E 3, Midjourney... สามารถสร้างภาพและวิดีโอที่สมจริงอย่างเหลือเชื่อได้

คุณ Do Nhu Lam ผู้อำนวยการฝ่ายฝึกอบรม สถาบันเทคโนโลยีบล็อคเชนและปัญญาประดิษฐ์ ABAII ชี้ให้เห็นว่าด้วยเทคโนโลยีหลายโหมดและโมเดลภาษาขั้นสูง เครื่องมือเหล่านี้สามารถซิงโครไนซ์ภาพ เสียง การแสดงออกทางสีหน้า และการเคลื่อนไหวที่เป็นธรรมชาติ เพื่อสร้างผลิตภัณฑ์ที่มีความน่าเชื่อถือสูง

W-Photo by คุณ Do Nhu Lam.jpg
นายโด นู ลัม ผู้อำนวยการฝ่ายฝึกอบรม สถาบันเทคโนโลยีบล็อคเชนและปัญญาประดิษฐ์ ABAII กล่าวว่าเทคโนโลยี AI ขั้นสูงนำมาซึ่งผลิตภัณฑ์ที่มีประสิทธิภาพสูงมาก ภาพ: NVCC

นายแลมแสดงความเห็นว่าความก้าวหน้าของ AI เปิดโอกาสให้เกิดศักยภาพที่ยิ่งใหญ่ในด้านต่างๆ เช่น การสร้างเนื้อหา การโฆษณา ความบันเทิง และ การศึกษา อย่างไรก็ตาม ความสามารถในการสร้างสิ่งที่ "แท้จริง" ขึ้นมาใหม่ยังก่อให้เกิดความท้าทายมากมายในด้านจริยธรรม การควบคุม และความปลอดภัยของข้อมูล เนื่องจากขอบเขตระหว่างความเป็นจริงและความเสมือนจริงนั้นพร่าเลือนมากขึ้นเรื่อยๆ

โพสต์บนเฟซบุ๊กที่นางสาวลินห์เห็นมียอดการโต้ตอบเกือบ 300,000 ครั้งและความคิดเห็นมากกว่า 16,000 รายการ ผู้ใช้จำนวนมากรีบแสดงความยินดีหรือแสดงความรู้สึกของตนโดยไม่รู้ว่านี่เป็นเพียงภาพประกอบของ AI บางคน "มีสติสัมปชัญญะ" วิจารณ์ "ชาวเน็ตที่ไร้เดียงสาเกินไป" ที่ปล่อยให้ AI หลอกพวกเขา

ในกลุ่มและฟอรัม Facebook นั้นไม่ใช่เรื่องยากที่จะดูวิดีโอ AI ที่สร้างและแชร์โดยผู้ใช้ โดยเฉพาะอย่างยิ่งรูปลักษณ์ของ Google Veo 3 ช่วยเพิ่มคุณภาพของวิดีโอได้อย่างมาก โดยเฉพาะเสียงที่ตรงกับรูปร่างปากของตัวละคร หากคุณไม่ใส่ใจและสังเกตอย่างระมัดระวัง ผู้ชมอาจสับสนได้ง่าย

การรักษาสติในยุค AI

ภาพถ่ายและวิดีโอที่สร้างโดย AI นั้นแยกแยะได้ยาก ก่อให้เกิดความเสี่ยงอย่างมากต่อผู้ใช้ โดยเฉพาะกลุ่มเปราะบางที่ไม่เชี่ยวชาญด้านเทคโนโลยี นาย Vu Thanh Thang ผู้อำนวยการฝ่ายปัญญาประดิษฐ์ (CAIO) ของ SCS Cyber ​​​​Security Joint Stock Company กล่าวว่า AI กำลังถูกอาชญากรทางไซเบอร์ใช้ในการฉ้อโกง (การหลีกเลี่ยงระบบไบโอเมตริกซ์ eKYC...) โดยแอบอ้างตัวเป็นคนดังเพื่อเผยแพร่ข้อมูลเท็จ ก่อให้เกิดความสับสนแก่สาธารณชน มีหลายกรณีที่อาชญากรทางเทคโนโลยีขั้นสูงใช้ประโยชน์จาก AI เพื่อสร้างภาพถ่ายปลอม แอบอ้างตัวเป็นญาติเพื่อโทรวิดีโอเพื่อหลอกลวงเงิน

นายหวู่ ทานห์ ทัง.jpg
คุณหวู่ ถัน ผู้อำนวยการฝ่ายปัญญาประดิษฐ์ (CAIO) ของบริษัท SCS Cyber ​​​​Security Joint Stock Company กล่าวว่า เราได้เข้าสู่ยุคที่ทุกสิ่งทุกอย่างสามารถปลอมแปลงได้ ภาพ: NVCC

นายทัง กล่าวว่าธุรกิจต่างๆ อาจเป็นเป้าหมายของอาชญากร AI ได้เช่นกัน พวกเขาสามารถใช้ AI Deepfake เพื่อปลอมตัวเป็นพนักงาน ข้ามระบบรักษาความปลอดภัยเพื่อปลดล็อกการเข้าร่วมงาน และปลอมตัวเป็นผู้นำธุรกิจเพื่อทำลายชื่อเสียง

นาย Do Nhu Lam จาก ABAII ซึ่งมีความเห็นตรงกัน ได้ชี้ให้เห็นถึงผลที่ตามมาสามประการต่อผู้ใช้แต่ละรายที่เกิดจาก AI ได้แก่ การฉ้อโกงทางการเงิน การหมิ่นประมาทชื่อเสียง และการแสวงหาประโยชน์จากข้อมูลส่วนตัว สำหรับธุรกิจ บริษัท Arup สูญเสียเงินไป 25 ล้านเหรียญสหรัฐ หลังจากพนักงานของสาขาในฮ่องกงถูกหลอกให้เข้าร่วมการประชุมวิดีโอปลอมและโอนเงินตามที่ร้องขอ

ทุกสิ่งที่คุณต้องการรู้เกี่ยวกับ Veo 3 เครื่องมือ AI สร้างวิดีโอไวรัลในปัจจุบัน โมเดล AI สร้างวิดีโอล่าสุดของ Google – Veo 3 – น่าประทับใจด้วยความสามารถในการสร้างเสียงที่สมจริงซึ่งซิงค์กับภาพ

ความเสี่ยงที่ร้ายแรงอีกประการหนึ่งก็คือ เมื่อผู้คนไม่สามารถแยกแยะระหว่างของจริงและของปลอมได้ ความไว้วางใจของสาธารณชนที่มีต่อสื่อและแหล่งข่าวอย่างเป็นทางการก็จะลดลง

นายลัมอ้างอิงรายงานของสถาบัน Reuters ในปี 2024 ซึ่งระบุว่าเปอร์เซ็นต์ของผู้ใช้ทั่วโลกที่เชื่อถือข่าวบนแพลตฟอร์มสื่อลดลงสู่ระดับต่ำสุดในรอบ 10 ปี ซึ่งส่วนใหญ่เกิดจากการเกิดขึ้นของเนื้อหาที่เป็น Deepfake

ตามที่ผู้เชี่ยวชาญ Vu Thanh Thang กล่าวว่า “เราอยู่ในยุคที่ข้อมูลทั้งหมดสามารถปลอมแปลงได้และไม่ใช่ ‘ความเสี่ยง’ อีกต่อไป” ดังนั้น จึงจำเป็นต้องสร้างความตระหนักรู้และใช้มาตรการป้องกันส่วนบุคคล เรียนรู้เพิ่มเติมเกี่ยวกับ AI เพื่อใช้ชีวิต อย่างสันติ

ผู้เชี่ยวชาญทั้งสองท่านแนะนำว่าผู้ใช้ควรตรวจสอบและรับรองข้อมูลก่อนตัดสินใจเสมอ เสริมความรู้เพื่อระบุเนื้อหาปลอม จำกัดการแชร์ข้อมูลส่วนบุคคลทางออนไลน์ และรายงานการกระทำที่เผยแพร่เนื้อหาปลอม “ผู้ใช้จะสามารถปกป้องตนเองได้อย่างแท้จริงและมีส่วนร่วมในการสร้างไซเบอร์สเปซที่ปลอดภัยยิ่งขึ้นในยุคดิจิทัลได้ก็ต่อเมื่อผู้ใช้มีความกระตือรือร้นและมีความรู้เท่านั้น” นายแลมกล่าว

'เจ้าพ่อ' โยชัว เบนจิโอ กังวลเรื่องการสูญพันธุ์ของมนุษย์จาก AI เพิ่งทำบางอย่าง 'เจ้าพ่อ' AI โยชัว เบนจิโอ เพิ่งก่อตั้งองค์กรไม่แสวงหากำไรที่มีเป้าหมายในการสร้างระบบปัญญาประดิษฐ์ที่ปลอดภัย แทนที่จะแสดงบุคลิกที่อันตรายให้มนุษย์เห็น

ที่มา: https://vietnamnet.vn/anh-ai-tran-ngap-facebook-tuong-vo-hai-nhung-cuc-nguy-hiem-2408883.html