Từ vụ lộ clip đen: Deepfake ẩn chứa nhiều nguy hiểm vì sao giới trẻ vẫn mê?

Ngày 2/3, từ khóa tìm kiếm về Ninh Dương Lan Ngọc bất ngờ đạt top 1 trên công cụ Google Trend do liên quan tới vụ lộ clip đen, mà nhân vật xuất hiện bên trong clip thực tế ra là một "diễn viên" có ngoại hình khá giống với nữ diễn viên này.

Trong bài viết được đăng tải trên Facebook cá nhân, Lê Duy Tường - người đại diện của Ninh Dương Lan Ngọc lên tiếng buộc tội công nghệ deepfake đã tạo nên scandal gây chấn động cộng đồng mạng trong ngày hôm qua, nói rằng nữ diễn viên nổi tiếng là nạn nhân của công nghệ này, và đã bị bôi nhọ qua mạng.

Vậy deepfake là gì? Tại sao nó lại có sức hút mãnh liệt và gây ra những "vụ nổ" Internet lớn đến vậy.

Từ ứng dụng giải trí triệu like đến thú vui "bệnh hoạn"

Nếu là người thích cập nhật các ứng dụng về camera, chỉnh sửa ảnh trên thiết bị di động, bạn ắt hẳn có nghe nói về FaceApp, Faceswap, Doublicat, hay mới đây nhất là Avatarify.

Các ứng dụng này có đặc điểm chung là sử dụng thuật toán phân tích chuyển động trên khuôn mặt của bạn rồi ghép vào ảnh chân dung của người khác, hoặc biến đổi khuôn mặt trở thành một hình dạng khác lạ.

Khoảng từ 4, 5 năm về trước, các ứng dụng này đem lại tràng cười sảng khoái khi chúng ta xuất hiện trước camera để trở thành những nhân vật hoạt hình, hoặc nhân vật nổi tiếng.

Tuy nhiên sau đó, với sự phát triển của công nghệ, một khái niệm mới hình thành, được gọi là deepfake (tên ghép của "deep learning" và "fake") - với khả năng "bóp méo sự thật" được tăng cường.

Độ chân thực của hình ảnh giờ đây được chuyển thể sang dạng video ngắn, có nội dung rõ ràng, và có khả năng định hình suy nghĩ người xem, khiến họ thực sự tin vào những gì nhìn thấy, và không còn phân biệt đâu là video thật, đâu là ghép.

Gần đây, có một câu chuyện thú vị được chia sẻ trên mạng xã hội, khi một lập trình viên đã sử dụng khuôn mặt của tỷ phú Elon Musk để tham gia vào phòng chat Zoom.

Kết quả là hành động này khiến những người trong phòng vô cùng ngạc nhiên, bất ngờ, và hoàn toàn tin "sái cổ". Đến cuối video, họ mới phát hiện ra rằng người vừa tham gia phòng chat không phải là CEO Tesla, mà đây chỉ là một sản phẩm của deepfake.

Bản thân ứng dụng Avatarify cũng nhanh chóng có được hàng chục ngàn lượt download trong thời gian gần đây, tạo doanh thu xấp xỉ 6.000 USD, và cũng là ứng dụng được giới trẻ vô cùng ưa chuộng, đánh giá 5 sao,...

Cách đây không lâu, câu chuyện về ứng dụng FaceApp làm "điên đảo" cộng đồng mạng với những biến thể hình ảnh hài hước, nhưng rất đỗi chân thực, cũng đã khiến người ta nửa thích thú, nửa sợ hãi vì "sức mạnh" của công nghệ.

Dần theo thời gian, từ khóa deepfake xuất hiện nhan nhản trên Internet. Nhưng thay vì làm các nội dung gây cười, các lập trình viên bắt đầu hướng đến những mục đích "đen tối" hơn. Đó là làm giả clip sex, hay các nội dung 18+ với nạn nhân là người nổi tiếng, hay thậm chí là chính trị gia, quan chức cấp cao,...

Những tiếng cười vẫn còn đó, nhưng giờ đây chúng mang đậm sự vô cảm, chứ không chỉ đơn thuần mang tính chất giải trí. Người ta sẵn sàng cười và thích thú khi xem một ai đó xuất hiện trong đoạn clip nóng - dù biết chắc họ thậm chí không hề có mặt, hay biết đến sự tồn tại của video ấy.

Việc tạo ra các video bằng công nghệ deepfake cũng đang trở nên dễ dàng hơn bao giờ hết, khi phần mềm dùng để tạo ra những video giả mạo này đang được phổ biến rộng rãi trên những trang web chia sẻ mã nguồn như Github, hay các diễn đàn trực tuyến nổi tiếng như 4chan.

Bất kỳ người dùng có một chút kiến thức về công nghệ và máy tính đủ mạnh giờ đây đều có thể tải những bộ công cụ và tự mình tạo ra các video deepfake cho riêng mình, với "khách mời" là bất kỳ ai mà họ thích.

Scarlett Johansson, Gal Gadot, Emma Watson hay bất kì một minh tinh màn bạc nào cũng không thể thoát khỏi "bóng ma Internet" - nơi họ dù có lên tiếng minh oan, nhưng chẳng thể gột bỏ.

"Bóng ma" deepfake trỗi dậy

Theo thống kê của Deeptrace, một công ty có trụ sở tại Amsterdam chuyên phát hiện những nội dung được tạo ra bởi trí tuệ nhân tạo, hiện có tới 96% video deepfake có nội dung đồi trụy.

Công ty này cũng cho biết tính đến tháng 12/2020, có khoảng 14.678 video deepfake trên Internet, tăng tới 84% so với con số của 1 năm trước đó.

"Tác động của deepfake đã có thể cảm nhận được trên phạm vi toàn cầu", Deeptrace cho biết, đồng thời nhấn mạnh rằng công nghệ AI đã bị lạm dụng để tạo ra các video khiêu dâm không đồng thuận, với nạn nhân chủ yếu là nữ giới.

Dẫu vậy, sự phát triển của deepfake không thể bùng nổ nếu như chỉ có sự hưởng ứng từ một phía.

Trên thực tế, bất chấp nhiều biện pháp ngăn cản của các nền tảng như Facebook, Google trước những video deepfake khi chúng "bẻ cong" sự thật, người dùng vẫn tìm mọi cách để xem, chia sẻ, và thích thú trước các nội dung liên quan tới chúng.

Chính nhờ sự hưởng ứng tưởng chừng như vô tình này, chúng ta đã gián tiếp tạo thêm sức mạnh cho cộng đồng deepfake, khiến chúng thêm phần hoàn thiện, và cũng ngày càng khó để phân biệt.

Lượng người xem quá lớn đối với video deepfake cho thấy sự tồn tại của một thị trường nơi các trang web tạo và lưu trữ các video có nội dung khiêu dâm bằng công nghệ này. Xu hướng mới của công nghệ sẽ tiếp tục phát triển, trừ khi các biện pháp ngăn chặn được đưa ra.

Deepfake còn bị kẻ xấu sử dụng để lừa đảo, thao túng thị trường. Tháng 3/2019, một nhóm tội phạm đã lợi dụng deepfake và AI để giả dạng làm CEO một công ty có trụ sở tại Đức để lừa tiền nhân viên.

Điều nguy hiểm của deepfake đó là ngay cả người am hiểu về nó cũng dễ bị đánh lừa, bởi ranh giới giữa thật - giả là vô cùng mong manh.

Thậm chí tại một số quốc gia, deepfake còn đi kèm với việc truyền bá tin tức giả, kích động nỗi sợ hãi và bạo lực cũng như khiến mọi người nghi ngờ mọi thứ xung quanh.

Có thể nói rằng sự nổi lên của công nghệ AI deepfake trong vài năm trở lại đây thực sự đã khiến vấn đề về hình ảnh, video trên Internet trở nên phức tạp hơn bao giờ hết.

Những nội dung sai lệch do deepfake tạo ra có thể để lại những hậu quả khôn lường. Thử tưởng tượng xem vào một ngày nào đó, bạn tìm thấy video của chính mình, hay của vợ, người thân, con cái của chúng ta xuất hiện trên Internet và bị gán vào những nội dung "bẩn". Ắt hẳn khi ấy, bạn sẽ hiểu được "mặt tối" của công nghệ.

Sẽ ra sao khi công nghệ deepfake biến bản tin fake news thành bản tin thời sự mỗi sáng, hay giả mạo những người nổi tiếng để truyền bá những điều sai sự thật trên mạng xã hội? Từ những hệ lụy sẵn có, deepfake có thể phá hủy thanh danh của một người, khiến họ chịu những vết nhơ dẫu bản thân hoàn toàn trong sạch, để rồi cả cộng đồng có thể bị "dắt mũi", hay sinh ra những hậu quả còn tệ hơn thế nhiều lần.

(Theo Dân Trí)

Microsoft ra mắt phần mềm phát hiện ảnh và video giả mạo

Microsoft cho biết phần mềm xác thực Video Authenticator sử dụng kỹ thuật "deepfake" có tính năng phân tích một hình ảnh hoặc từng bố cục của một video, phát hiện bằng chứng giả mạo.