Trang chủKhoa học - Công nghệCông nghệ sốNgành công nghệ tìm cách xác định hình ảnh do AI tạo...

Ngành công nghệ tìm cách xác định hình ảnh do AI tạo ra


Giám đốc điều hành Truepic Jeffrey McGregor cho rằng, vụ việc trên chỉ mới là phần nổi của “tảng băng chìm”. Sẽ có nhiều nội dung do AI tạo ra xuất hiện trên mạng xã hội và chúng ta chưa sẵn sàng cho điều đó, ông McGregor nói.

Theo CNN, Công ty Truepic muốn giải quyết vấn đề này bằng cách cung cấp công nghệ tuyên bố xác thực phương tiện tại thời điểm được tạo thông qua Truepic Lens. Ứng dụng thu thập dữ liệu sẽ cho người dùng biết ngày, giờ, địa điểm và thiết bị được sử dụng để tạo hình ảnh, đồng thời áp dụng chữ ký số để xác minh xem hình ảnh có phải là tự nhiên hoặc được AI tạo ra.

launamgoc.jpg

Bức ảnh giả mạo vụ nổ ở Lầu Năm Góc đã được lan truyền khắp Twitter

Truepic – công ty do Microsoft hậu thuẫn được thành lập vào năm 2015. Ông McGregor cho biết công ty đang nhận thấy sự quan tâm từ các tổ chức phi chính phủ đến các công ty truyền thông, ngay cả công ty bảo hiểm cũng cần tìm cách xác nhận yêu cầu bồi thường là hợp pháp.

McGregor cho biết khi mọi thứ đều có thể bị làm giả, khi trí tuệ nhân tạo đã đạt đến đỉnh điểm về chất lượng và khả năng tiếp cận, chúng ta không còn biết thực tế là gì khi online.

Các công ty công nghệ như Truepic đã làm việc để chống lại thông tin sai lệch trực tuyến trong nhiều năm. Nhưng sự gia tăng của một loạt công cụ AI mới có thể tạo ra hình ảnh và tác phẩm viết từ lệnh của người dùng đã làm tăng thêm tính cấp bách. Đầu năm nay, hình ảnh giả mạo về Giáo hoàng Francis trong chiếc áo phao Balenciaga và cựu Tổng thống Mỹ Donald Trump bị bắt được chia sẻ rộng rãi. Cả hai vụ việc đã khiến hàng triệu người hoang mang trước nguy hiểm tiềm tàng của AI.

Một số nhà lập pháp hiện kêu gọi các công ty công nghệ giải quyết vấn đề bằng cách dán nhãn nội dung do AI tạo ra. Phó chủ tịch Ủy ban châu Âu (EC) Vera Jourova cho biết các công ty bao gồm Google, Meta, Microsoft và TikTok đã tham gia Bộ quy tắc thực hành tự nguyện của Liên minh châu Âu (EU) về chống thông tin sai lệch.

Ngày càng có nhiều công ty khởi nghiệp và các “ông lớn” công nghệ, bao gồm một số công ty đang triển khai AI tạo sinh trong các sản phẩm của họ, đang cố gắng triển khai các tiêu chuẩn và giải pháp để giúp mọi người xác định xem hình ảnh hoặc video có được tạo bằng AI hay không.

Nhưng khi công nghệ AI phát triển nhanh hơn khả năng theo kịp của con người, thì vẫn chưa rõ liệu các giải pháp này có thể giải quyết triệt để vấn đề hay không. Ngay cả OpenAI, công ty đứng sau Dall-E và ChatGPT, đã thừa nhận rằng nỗ lực của chính họ trong việc giúp phát hiện tác phẩm viết do AI tạo ra là không hoàn hảo.

Các công ty phát triển giải pháp đang có hai cách tiếp cận để giải quyết vấn đề. Cách đầu tiên dựa vào việc phát triển các chương trình để xác định hình ảnh do AI tạo ra sau khi chúng được sản xuất và chia sẻ trực tuyến. Cách còn lại tập trung vào việc đánh dấu một hình ảnh là thật hoặc do AI tạo ra bằng một loại chữ ký số.

Reality Defender và Hive Moderation đang nghiên cứu về cách thứ nhất. Với nền tảng của họ, người dùng có thể tải lên các hình ảnh để quét và sau đó nhận được bảng phân tích hiển thị tỷ lệ phần trăm cho biết liệu đó là ảnh thật hay do AI tạo ra.

Reality Defender cho biết công ty sử dụng công nghệ lấy dấu vân tay nội dung tạo sinh và deepfake độc quyền để phát hiện video, âm thanh và hình ảnh do AI tạo ra. Trong một ví dụ do công ty cung cấp, Reality Defender đưa ra tấm hình Tom Cruise được tạo ra bằng deepfake, có độ “đáng ngờ” là 53% vì người trong ảnh có khuôn mặt biến dạng thường thấy ở những tấm ảnh bị chỉnh sửa.

tomcruise.jpg

Hình ảnh bị gắn nhãn do AI tạo ra

Các dịch vụ này cung cấp những phiên bản miễn phí và trả phí. Hive Moderation cho biết họ tính phí 1,5 USD cho mỗi 1.000 hình ảnh. Realty Defender nói rằng giá sản phẩm của họ có thể thay đổi dựa trên nhiều yếu tố khác nhau, trong trường hợp khách hàng đòi hỏi chuyên môn và sự hỗ trợ của công ty. CEO Reality Defender Ben Colman cho biết rủi ro đang tăng gấp đôi mỗi tháng vì bất kỳ ai cũng có thể tạo ra ảnh giả mạo bằng các công cụ AI. 

Một số công ty khác đang nỗ lực tích hợp một loại nhãn dán vào hình ảnh để chứng nhận nó là thật hay do AI tạo ra. Cho đến nay, nỗ lực này phần lớn được thúc đẩy bởi Liên minh về tính xác thực và nguồn gốc nội dung (C2PA).

C2PA được thành lập vào năm 2021 để tạo ra một tiêu chuẩn kỹ thuật chứng nhận nguồn gốc và lịch sử của phương tiện kỹ thuật số, kết hợp giữa Sáng kiến xác thực nội dung (CAI) của Adobe và Project Origin, do Microsoft và BBC đứng đầu, với mục tiêu tập trung vào việc chống lại thông tin sai lệch trong tin tức số. Các công ty khác tham gia vào C2PA bao gồm Truepic, Intel và Sony.

Dựa trên các nguyên tắc của C2PA, CAI sẽ đưa ra các công cụ mã nguồn mở cho các công ty tạo thông tin đăng nhập nội dung hoặc siêu dữ liệu chứa thông tin về hình ảnh. Theo trang web CAI, điều này cho phép người sáng tạo chia sẻ minh bạch các chi tiết về cách họ tạo ra một hình ảnh. Bằng cách này, người dùng cuối có thể truy cập bối cảnh xung quanh ai, cái gì và cách hình ảnh được thay đổi – sau đó tự họ đánh giá mức độ xác thực của hình ảnh đó.

Nhiều công ty đã tích hợp tiêu chuẩn C2PA và các công cụ CAI vào ứng dụng của họ. Firefly của Adobe – công cụ tạo hình ảnh AI mới được thêm vào Photoshop, tuân theo tiêu chuẩn C2PA thông qua tính năng Content Credentials (tạm dịch: thông tin xác thực nội dung). Microsoft cũng thông báo rằng những hình ảnh, video được tạo bởi Bing Image Creator và Microsoft Designer sẽ mang chữ ký được mã hóa trong những tháng tới.

Vào tháng 5, Google đã công bố tính năng “About This Image”, cho phép người dùng xem thời gian hình ảnh xuất hiện lần đầu trên Google và những nơi có thể nhìn thấy nó. “Gã khổng lồ” tìm kiếm cũng thông báo rằng mọi hình ảnh do AI tạo ra của Google sẽ mang một đánh dấu trong tệp gốc để “bổ sung ngữ cảnh” nếu hình ảnh được tìm thấy trên một trang web hoặc nền tảng khác.

Trong khi các công ty công nghệ đang cố gắng giải quyết những lo ngại về hình ảnh do AI tạo ra và tính toàn vẹn của phương tiện kỹ thuật số, các chuyên gia trong lĩnh vực này nhấn mạnh các doanh nghiệp sẽ cần phải hợp tác với nhau và với chính phủ để giải quyết vấn đề. Song, những công ty công nghệ vẫn đang chạy đua phát triển AI bất chấp rủi ro.



Source link

Cùng chủ đề

Apple sẽ ra mắt sản phẩm AI vào cuối năm nay?

Mặc dù tuyên bố của người đứng đầu “Nhà Táo” không cung cấp nhiều chi tiết, song cho thấy Apple muốn cạnh tranh trực tiếp với Microsoft, Google, Amazon, OpenAI, cũng như các công ty công nghệ khác đang nghiên cứu các mô hình AI tạo sinh tiên tiến khác. “Khi nhìn về phía trước, chúng tôi sẽ tiếp tục đầu tư vào những công nghệ này, cũng như những công nghệ khác sẽ định hình tương lai”, Cook...

Sinh viên ứng dụng trí tuệ nhân tạo làm mô hình dự báo giá cafe

Nhóm sinh viên RMIT Việt Nam phát triển mô hình có thể dự báo giá cafe Robusta bằng cách tận dụng dữ liệu lịch sử giá cafe, giá xăng dầu, nhiệt độ và lượng mưa. Việt Nam là nước xuất khẩu cafe lớn thứ hai thế giới và đóng góp hơn một nửa nguồn cung Robusta toàn cầu. Sản lượng cafe niên vụ 2022/23 đạt 29,75 triệu bao, trong đó Robusta chiếm hơn 95%. Tuy nhiên giá các mặt...

‘Bàn tay dính máu’ của các CEO gã khổng lồ công nghệ Mỹ

Phiên điều trần đánh dấu nỗ lực mới nhất của các nhà lập pháp nhằm giải quyết mối lo ngại của phụ huynh và các chuyên gia sức khỏe tâm thần rằng các công ty truyền thông xã hội đặt lợi nhuận lên trên các biện pháp bảo vệ trẻ em. "Ông Zuckerberg, ông và các công ty này, tôi biết ông không cố ý, nhưng tay ông cũng đã dính máu", Thượng nghị sĩ Đảng Cộng hòa Lindsey...

Phòng, chống bạo lực mạng ở Việt Nam

Giống như ở nhiều quốc gia khác, Việt Nam cũng đang phải đối phó với sự lan tràn của bạo lực mạng. Bạo lực mạng đã gây ra nhiều hệ quả với xã hội, vi phạm nghiêm trọng quyền con người trên không gian mạng. Vì vậy, phòng, chống bạo lực mạng là một yêu cầu cấp thiết ở nước ta hiện nay.

Microsoft, Google và AMD phải học công ty Trung Quốc cách kiếm tiền từ AI

Công ty ứng dụng chụp ảnh tự sướng khổng lồ Meitu của Trung Quốc cho biết các công cụ chỉnh sửa hình ảnh và video mới được hỗ trợ bởi trí tuệ nhân tạo (AI) đã giúp công ty tăng gấp ba lần lợi nhuận vào năm ngoái. Kết quả này trái ngược hoàn toàn với việc nhiều công ty khác đang phải vật lộn để kiếm tiền từ công nghệ này thông qua các sáng kiến AI riêng. Meitu,...

Cùng tác giả

Cùng chuyên mục

Apple sẽ ra mắt sản phẩm AI vào cuối năm nay?

Mặc dù tuyên bố của người đứng đầu “Nhà Táo” không cung cấp nhiều chi tiết, song cho thấy Apple muốn cạnh tranh trực tiếp với Microsoft, Google, Amazon, OpenAI, cũng như các công ty công nghệ khác đang nghiên cứu các mô hình AI tạo sinh tiên tiến khác. “Khi nhìn về phía trước, chúng tôi sẽ tiếp tục đầu tư vào những công nghệ này, cũng như những công nghệ khác sẽ định hình tương lai”, Cook...

Trung Quốc đặt mục tiêu dẫn đầu toàn cầu về AI vào năm 2027

Bộ Công nghiệp và Công nghệ thông tin Trung Quốc vừa tiết lộ những thông tin cơ bản nhất trong kế hoạch quốc gia về công nghệ thông tin. Trước mắt, đến năm 2025, Trung Quốc kỳ vọng sẽ chiếm vị trí dẫn đầu toàn cầu trong một số ngành công nghiệp tiên tiến có liên quan đến trí tuệ nhân tạo (AI). Để thực hiện được nhiệm vụ này, Trung Quốc có kế hoạch xây dựng ra một siêu...

Kỷ lục mới về khoảng cách truyền dữ liệu thông qua wifi

Công ty công nghệ không dây Morse Micro của Australia đã lập kỷ lục mới về khoảng cách truyền dữ liệu thông qua wifi. Sử dụng tiêu chuẩn HaLow tương đối mới (802.11ah), các kỹ sư có thể truyền tín hiệu ở khoảng cách lên tới 2,9 km. Tiêu chuẩn HaLow đã được giới thiệu vào năm 2016, nhưng việc triển khai rộng rãi chỉ mới bắt đầu. Công nghệ này được tối ưu hóa để truyền một lượng...

Tin mới nhất

Làng Vũ Đại rực lửa vụ Tết, đeo kính bơi kho cá thâu đêm

TPO - Làng Vũ Đại xưa (nay là thôn Nhân Hậu, xã Hòa Hậu, huyện Lý Nhân, Hà Nam) từ lâu nổi tiếng với món ăn dân dã truyền thống cá kho. Gần Tết Nguyên đán, nhà nhà trong làng lại tất bật kho thâu đêm, phục vụ thực khách trong cả nước. Nguyễn Trọng Tài - Tienphong.vn Source link

Mỹ-Hàn Quốc tập trận tác chiến đặc biệt, Bình Nhưỡng lên “kế hoạch khổng lồ”

Ngày 2/2, các lực lượng đặc nhiệm của Hàn Quốc và Mỹ đã kết thúc cuộc tập trận phối hợp đầu tiên trong năm nay, trong khi tại phía bên kia biên giới phía Bắc, nhà lãnh đạo Triều Tiên đã đi thị sát các tàu chiến tại một xưởng đóng tàu.

Bòng khổng lồ nặng 10kg, giá cả triệu đồng/quả ‘hút’ khách chơi Tết

(Dân trí) - Mỗi dịp cận Tết Nguyên đán, chị Ơn ở đường Lạc Long Quân (Tây Hồ, Hà Nội) lại bán bòng Kỳ Đà khổng lồ, mỗi quả nặng 4-10 kg. Loại trái này được nhiều khách hàng ưa thích. Càng gần Tết Nguyên đán, thị trường hoa quả càng trở nên nhộn nhịp, sôi động. Năm nay, loại...

Ngỡ ngàng vườn đào cổ thụ Tây Bắc trên cao nguyên Lâm Đồng

TPO - Kỳ công di thực hơn 200 cây đào cổ thụ từ Tây Bắc về Lâm Đồng làm nên vườn đào độc đáo có một không hai ở Tây Nguyên, khiến người thưởng ngoạn ngỡ ngàng. Vườn đào cổ thụ này ở thôn Đạ Tro (xã Đa Nhim, huyện Lạc Dương, Lâm Đồng), cách trung tâm TP Đà Lạt...

Nhật Bản chuẩn bị cho kịch bản ông Trump tái đắc cử?

Reuters dẫn nguồn thạo tin cho hay, những tuần gần đây, Nhật Bản đang đẩy mạnh nỗ lực tiếp cận những người thân cận với cựu Tổng thống Mỹ Donald Trump trong bối cảnh ông giành chiến thắng liên tiếp trong bầu cử sơ bộ tại bang Iowa, New Hampshire.Những nỗ lực của Nhật Bản bao gồm việc...

Tin nổi bật

Tin mới nhất