Sử dụng trí tuệ nhân tạo lọc nội dung độc hại với trẻ em trên Internet

CyberPurify Kids sẽ sử dụng trí tuệ nhân tạo (AI) trên trình duyệt để nhận dạng, ngăn chặn hiển thị 15 loại nội dung độc hại với trẻ em. Sản phẩm này sẽ được cung cấp miễn phí cho trường học, phòng lab và những nơi có máy tính công cộng.

Công cụ giúp nhận diện, ngăn chặn 15 loại nội dung độc hại với trẻ em

CyberPurify - một startup sử dụng machine learning (học máy) để nhận dạng nội dung độc hại vừa chính thức ra mắt giải pháp miễn phí CyberPurify Kids giúp phụ huynh trên toàn cầu thiết lập một môi trường an toàn cho con cái chỉ sau vài cú click chuột.

Sử dụng trí tuệ nhân tạo lọc nội dung độc hại với trẻ em trên Internet
Theo đại diện CyberPurify, bên cạnh nhận dạng 15 loại nội dung độc hại, CyberPurify Kids còn ngăn chặn được các trang lừa đảo (Ảnh minh họa: Internet)

Sản phẩm chạy một mô hình deep learning (học sâu - PV) trên trình duyệt để nhận dạng và ngăn chặn hiển thị 15 loại nội dung độc hại với trẻ em, gồm cả nội dung bạo lực đẫm máu. Sản phẩm được cung cấp dưới dạng tiện ích mở rộng trên các trình duyệt phổ biến như Google Chrome, Microsoft Edge, Firefox và Safari.

Theo BBFC - Cơ quan quản lý nội dung truyền thông độc lập và phi lợi nhuận về hệ thống phân loại nội dung, phim, game đáng tin cậy ở Vương quốc Anh, giai đoạn dưới 10 tuổi là giai đoạn trẻ tiếp xúc và khám phá với thế giới bên ngoài, do đó trẻ rất dễ bắt chước và bị tác động bởi tác nhân tiêu cực. Các nội dung không phù hợp như hình ảnh tai nạn, máu me, ngược đãi động vật, bạo lực... có thể khiến trẻ bị ám ảnh về sau.

Tuy nhiên, theo ông Nguyễn Hữu Bình, đồng sáng lập, CEO CyberPurify, việc xâm phạm quyền riêng tư của trẻ em bằng cách theo dõi trẻ làm gì, xem gì cũng sẽ gián tiếp ảnh hưởng đến tính cách, tinh thần và khả năng phát triển của chúng.

Trước đây, phụ huynh đối mặt với việc để bọn trẻ sử dụng máy tính bất chấp sự nguy hiểm đến từ không gian mạng hoặc xâm phạm nghiêm trọng không gian cá nhân riêng tư của trẻ khi sử dụng các phần mềm bảo mẫu truyền thống.

Cũng vì thế, CyberPurify tập trung vào việc xây dựng mô hình ứng dụng công nghệ AI cho phép nhận dạng và phân loại những nội dung độc hại; định nghĩa lại khái niệm về sự an toàn cho trẻ em bằng cách thay thế sự theo dõi kiểm soát bằng sự bảo vệ chủ động của AI trong việc nhận dạng theo thời gian thực ngay khi nội dung chưa hiển thị.

“Việc này giống như bạn đã trao cho mỗi đứa trẻ một người bảo vệ trung thành tận tụy, lại không phán xét hay soi mói đời tư, nó sẽ là một người bạn đồng hành thật sự với mỗi đứa trẻ trong hành trình khám phá tri thức trên Internet”, ông Nguyễn Hữu Bình chia sẻ.

CyberPurify Kids liên tục “tự học” để thông minh hơn

Theo nhóm phát triển, việc sử dụng CyberPurify Kids khá đơn giản, phụ huynh chỉ cần nhấn nút cài đặt CyberPurify Kids trong kho tiện ích mở rộng của các trình duyệt.

Mỗi khi đứa trẻ truy cập Internet trên trình duyệt, CyberPurify sẽ tự động phân tích các nội dung đang hiển thị, che mờ nếu phát hiện chúng độc hại hoặc gửi báo cáo đến phụ huynh khi phát hiện trẻ tìm hiểu về ma túy, dược phẩm. Khi đứa trẻ tìm cách gỡ bỏ bộ lọc này, phụ huynh cũng nhận được thông báo.

Sử dụng trí tuệ nhân tạo lọc nội dung độc hại với trẻ em trên Internet
Ông Nguyễn Hữu Bình, đồng sáng lập và cũng là CEO CyberPurify.

Ông Nguyễn Hữu Bình cho biết, ngoài các vấn đề về kỹ thuật như phải dùng thiết bị đặc biệt để huấn luyện mô hình AI với hàng chục triệu dữ liệu đầu vào, vấn đề lớn nhất vẫn là việc thu thập và phân loại để xây dựng dữ liệu cho AI.

Dù chỉ là một startup với 10 nhân sự nhưng đến nay, tập dữ liệu dữ liệu về các hình ảnh kinh dị và bạo lực được CyberPurify thu thập đã lên tới khoảng 1 triệu data.

“Hàng ngày chúng tôi phải thu thập hàng chục nghìn hình ảnh độc hại, ví dụ như cảnh máu me , tai nạn, kinh dị, xác chết... Việc nhìn những hình ảnh này có thể gây những tác động tiêu cực đến sức khỏe tinh thần của người tham gia thu thập dữ liệu. Vì thế, CyberPurify không thuê ngoài được mà đều phải tự làm việc này liên tục trong nhiều tháng”, ông Nguyễn Hữu Bình bộc bạch.

Ngoài ra, trước đây CyberPurify cung cấp dịch vụ B2B dưới dạng phần cứng và phần mềm chuyên dụng với khách hàng là những doanh nghiệp cung cấp nội dung số hoặc platform sử dụng như một công cụ thay thế con người để kiểm duyệt tự động những nội dung do người dùng tạo ra; hiện xử lý trên 10 triệu nội dung hình ảnh và video mỗi ngày, tương đương với sức lao động của 20.000 người.

Với sự phát triển của 5G, smartphone và các mạng xã hội, thế giới hiện có 4,66 tỷ người dùng Internet, trung bình mỗi người tạo ra tới 1,7 GB dữ liệu mỗi ngày, tương đương 2.000 bức ảnh hoặc 150 video và ngày càng tăng cao trong tương lai, dẫn đến lượng nội dung cần được kiểm duyệt trước khi tiếp cận trẻ em ngày càng lớn.

"Đây là cơ hội để CyberPurify lấn sân sang cung cấp sản phẩm đến người dùng cuối, bắt đầu với phiên bản Kids trên trình duyệt. Điểm đặc biệt của CyberPurify Kids là bản thân nó cũng như một đứa trẻ, liên tục tự học thêm những nội dung độc hại được phát hiện mỗi ngày để trở nên thông minh hơn, ngăn chặn triệt để hơn về sau”, ông Nguyễn Hữu Bình nhấn mạnh. 

Vân Anh

Ông Tây và câu chuyện làm khóa xe máy Make in Vietnam

Ông Tây và câu chuyện làm khóa xe máy Make in Vietnam

Sau 6 năm sinh sống và làm việc tại Việt Nam,“ông Tây” Robert Thorwath đã phát minh ra một loại khóa đặc biệt để giải 'nỗi đau' của những người đi xe máy. 

 

tin nổi bật

Tưởng đóng cửa, hạ màn, “Airbnb” phiên bản Việt bất ngờ quay trở lại

Nhiều người đã nghĩ đến việc phải nói lời tạm biệt với Luxstay, tuy vậy có vẻ như startup này đang chuẩn bị cho màn lội ngược dòng quay trở lại.

Giao đề, chấm thi online trong 2 phút, startup Việt Nam nhận 2,4 triệu USD tiền đầu tư

Azota là một trong những sản phẩm xuất sắc từng được vinh danh tại Diễn đàn quốc gia phát triển doanh nghiệp công nghệ số Việt Nam.

Hai startup công nghệ giáo dục “song đấu” tại Shark Tank

Đây là lần đầu tiên trong lịch sử show truyền hình Shark Tank chứng kiến màn “song đấu” giữa 2 startup để giành quyền nhận đầu tư từ "cá mập".

“Cơn khát” sạc, tai nghe điện thoại và cơ hội của startup Make in Việt Nam

Chỉ mới xuất hiện 2 năm, Velaboost đã phát triển được 29 loại sản phẩm khác nhau và bán ra thị trường khoảng 24.500 sản phẩm phụ kiện công nghệ.

Số hóa ngành khách sạn, startup Việt ôm mộng cạnh tranh "kỳ lân" Ấn Độ

HANZ là một trong những startup nổi bật tại Shark Tank về chuyển đổi số mảng đặt phòng và quản lý khách sạn.

Việt Nam sẽ phát triển công nghiệp vũ trụ và sở hữu chùm vệ tinh?

Nhóm nghiên cứu Nhật Bản đang đề xuất lộ trình ứng dụng chùm vệ tinh nhỏ và phát triển công nghiệp vũ trụ ở Việt Nam.

CEO Axie Infinity Nguyễn Thành Trung nói gì về việc đóng cửa bản “play to earn”?

CEO Axie Infinity - Nguyễn Thành Trung cho biết công ty chưa hề thông báo về việc phiên bản “play to earn” sẽ dừng hoạt động.

"Nền tảng Uber” bất động sản nhận 100.000 USD đầu tư khi lên Shark Tank

Đây là ứng dụng cung cấp dịch vụ nền tảng cho những người làm trong lĩnh vực môi giới bất động sản tại Việt Nam.

Startup thuê nhà online nhận 10 tỷ từ “cá mập” công nghệ Shark Tank

Trước PATHLAND, từng có khá nhiều startup ở mảng dịch vụ lưu trú gọi vốn thành công từ Shark Tank và đã đạt những kết quả ấn tượng.

Trả lương 30 triệu/tháng, lập trình game Việt vẫn "bói không ra người"

Thiếu hụt nhân lực trầm trọng đang là vấn đề báo động đỏ, ngáng đà phát triển của các doanh nghiệp sản xuất game nói chung và game Việt nói riêng.

Nền tảng Make in Việt Nam: Những cột mốc chủ quyền trên không gian số

Những cột mốc chủ quyền ảo sẽ giúp người Việt làm chủ dữ liệu quốc gia. Đây còn là giải pháp căn cơ để tăng tính cạnh tranh, giảm sự phụ thuộc trên không gian số.

Bộ TT&TT phát động Giải thưởng Sản phẩm công nghệ số Make in Viet Nam 2022

“Sản phẩm công nghệ số Make in Viet Nam” là giải thưởng thường niên được Bộ Thông tin & Truyền thông (TT&TT) chủ trì tổ chức liên tục từ năm 2020.

Startup Fintech Coin98 sẽ tham gia vào mảng game?

Là một startup về công nghệ tài chính (Fintech), thế nhưng Coin98 vừa có một bước đi bất ngờ khi tuyên bố sáp nhập với một studio game.

Học người Nhật, startup trứng gà premium Make in Việt Nam bán 8.000 đồng/quả

Dù giá bán mỗi quả trứng lên đến hơn 8.000 đồng, startup này khẳng định trứng của mình không hề đắt và cho biết sẽ không sợ sự cạnh tranh từ các “ông lớn”.

Nhà sáng chế cao tuổi không cần tiền, chỉ muốn cả thế giới biết đến Việt Nam

Đây là tuyên bố của ông Nguyễn Vĩnh Sơn - kỹ sư, nhà sáng chế, đồng thời là Ủy viên Ban sáng lập Hội Sáng Chế Việt nam khi tham gia chương trình Shark Tank - Thương vụ bạc tỷ.