"Video deepfake nhắm vào các cá nhân không xác định đã lan truyền nhanh chóng trên mạng xã hội", Tổng thống Hàn Quốc Yoon Suk Yeol phát biểu trong một cuộc họp nội các ngày 28/8. "Nhiều nạn nhân là trẻ vị thành niên. Hầu hết thủ phạm cũng được xác định là thanh thiếu niên".

Trước diễn biến phức tạp của vấn nạn, người đứng đầu Hàn Quốc yêu cầu cơ quan chức năng vào cuộc, điều tra và giải quyết triệt để tội phạm tình dục kỹ thuật số.

“Gần đây, các video deepfake nhắm vào một số lượng người không xác định đã lan truyền nhanh chóng trên mạng xã hội. Nhiều nạn nhân là trẻ vị thành niên và hầu hết thủ phạm cũng được xác định là thanh thiếu niên”, Tổng thống Yoon Suk Yeol nói thêm.

20240828050634_0.jpg
Các hình ảnh, video khiêu dâm deepfake đang tràn ngập mạng xã hội, trong đó có ứng dụng nhắn tin Telegram. Ảnh: The Korea Herald

Cùng ngày, Yonhap dẫn nguồn tin chính phủ cho biết cảnh sát sẽ tích cực truy lùng những người tạo và phát tán video khiêu dâm deepfake. Chiến dịch sẽ kéo dài 7 tháng, bắt đầu từ 28/8, tập trung vào những kẻ lạm dụng trẻ em và thanh thiếu niên.

Số liệu từ cảnh sát Hàn Quốc cho thấy, trong 7 tháng đầu năm, nước này ghi nhận 297 vụ phạm tội deepfake tình dục, tăng từ 180 vụ vào năm ngoái và gần gấp đôi năm 2021 - năm đầu tiên dữ liệu được thu thập. Trong số 178 người bị buộc tội, 113 là thanh thiếu niên.

Tuy nhiên, vấn đề nghiêm trọng hơn so với số liệu chính thức. Theo Guardian, trong một phòng chat Telegram có 220.000 thành viên, rất nhiều hình ảnh deepfake được chia sẻ, chủ yếu là phụ nữ và trẻ em gái. Truyền thông Hàn Quốc cho biết nạn nhân gồm sinh viên, giáo viên và quân nhân.

Liên đoàn Giáo viên và Nhân viên Giáo dục Hàn Quốc nói đã ghi nhận về video deepfake khiêu dâm liên quan đến học sinh. Đơn vị này cũng gửi yêu cầu Bộ Giáo dục Hàn Quốc điều tra.

Trước đó, vào năm 2020, cảnh sát Hàn Quốc phát hiện một đường dây tống tiền tình dục trực tuyến hoạt động chủ yếu trong các phòng chat của ứng dụng nhắn tin Telegram. Khi đó, thủ lĩnh đường dây Cho Ju-bin bị kết án 40 năm tù vì tống tiền ít nhất 74 phụ nữ, trong đó có 16 thiếu niên.

Theo Đạo luật Bảo vệ nạn nhân và Phòng ngừa bạo lực tình dục của Hàn Quốc, hành vi tạo video deepfake có nội dung khiêu dâm với mục đích phát tán có thể bị phạt tù 5 năm hoặc phạt tiền 50 triệu won (37.500 USD).

Deepfake là sự kết hợp giữa "deep learning" (học sâu) và "fake" (giả). Công nghệ này sử dụng AI phân tích cử chỉ, nét mặt và giọng nói của một người, từ đó tái tạo và chỉnh sửa để cho ra đời ảnh hoặc video trông như thật về người đó, thậm chí tạo được cả giọng nói.

(Tổng hợp)