Theo chuyên gia chuyển đổi số Pháp, việc liên thông và tái sử dụng dữ liệu giữa cơ quan thuế và bảo hiểm xã hội đã giúp tiết kiệm hàng trăm triệu Euro chi phí hành chính cho cộng đồng doanh nghiệp nước này.
Cảnh báo được bà Manon Lafitte, chuyên gia dữ liệu số thuộc dự án Hợp tác Chính phủ điện tử Pháp - Việt, đưa ra tại buổi trao đổi chuyên đề về chuyển đổi số và AI cho 800 cán bộ, quản lý diễn ra sáng 10/10 tại Hà Nội.
Theo bà Lafitte, việc ứng dụng trí tuệ nhân tạo (AI) trong cơ quan nhà nước cần đặc biệt lưu tâm đến "Shadow AI" - hiện tượng cán bộ, công chức sử dụng những công cụ AI không nằm trong kế hoạch.
Tình trạng cán bộ ứng dụng tràn lan các nền tảng AI thương mại tự do cho các công việc nghiệp vụ của cơ quan tiềm ẩn nhiều nguy cơ mất an toàn thông tin và vi phạm bảo mật dữ liệu.
Để khắc phục tình trạng này, chuyên gia Pháp khuyến nghị bước đầu tiên là phải rà soát thực tế việc sử dụng AI tại các cơ quan nhà nước: thống kê ai đang dùng, dùng vào mục đích gì, công cụ đó là AI có chủ quyền hay AI thương mại trôi nổi để lập bản đồ quản lý.
Từ đó, nghiên cứu đề xuất các mô hình AI có chủ quyền do đơn vị tự thiết kế để thay thế việc sử dụng tùy tiện bên ngoài.
Bên cạnh đó, AI có thể gặp hiện tượng ảo giác, đưa ra câu trả lời sai lệch hoặc chứa định kiến, thiên lệch khi phản hồi. “Nếu không có cơ chế giám sát chặt chẽ ngay từ đầu, các mô hình này sẽ dẫn đến sự cố nghiêm trọng trong vận hành”, chuyên gia cảnh báo.
Chia sẻ kinh nghiệm từ Pháp, bà Lafitte cho biết nước này có một cơ quan riêng đóng vai trò như một phòng thí nghiệm độc lập để kiểm toán các giải pháp AI và thuật toán trước khi đưa vào ứng dụng.
Cơ quan này sẽ đánh giá xem giải pháp AI có đáp ứng tiêu chí về tính minh bạch, khả năng giải thích được và truy vết được hay không, nhằm bảo đảm cơ quan nhà nước hoàn toàn làm chủ hệ thống thông tin của mình.
Bà Lafitte nhấn mạnh nguyên tắc tiên quyết khi đưa AI vào phục vụ công vụ là phải duy trì sự kiểm tra, giám sát và phê duyệt của con người.
Con người bắt buộc phải trực tiếp xác minh nguồn dữ liệu AI sử dụng để tránh hiện tượng ảo giác và sai lệch thông tin.
Tùy theo mức độ rủi ro của từng mô hình AI, nhà quản lý sẽ áp dụng các tiêu chuẩn và quy định khắt khe tương ứng.
Mô hình AI càng có khả năng giải thích và minh bạch cao thì các yêu cầu ràng buộc pháp lý đặt ra sẽ càng thuận lợi hơn khi đưa vào triển khai thực tế.
Trước đó, Tổ chức Hợp tác và Phát triển Kinh tế (OECD) cũng cảnh báo tình trạng Shadow AI đang lan rộng trong bộ máy hành chính.
Khảo sát tại 14 quốc gia cho thấy hướng dẫn thực tế về thiết kế, giám sát và đánh giá thử nghiệm AI vẫn còn rời rạc, dẫn đến nguy cơ lộ lọt dữ liệu nhạy cảm và làm xói mòn trách nhiệm giải trình.
OECD khuyến nghị các chính phủ cần bắt đầu bằng các thử nghiệm có cấu trúc và kiểm soát rủi ro từ quy mô nhỏ.
Việc đánh giá không nên chỉ dừng ở mức độ hài lòng, mà phải đo lường liên tục qua 5 khía cạnh: hiệu suất, giá trị công, tính khả thi, khả năng sử dụng và quản trị rủi ro.
Từ câu chuyện rác thải tồn đọng trước khu dân cư đến nỗi lo về nguồn gốc thực phẩm trong bữa ăn học đường, ông Nguyễn Anh Tuấn, Phó Giám đốc Sở KH&CN Hà Nội, chia sẻ cách iHanoi đưa chuyển đổi số vào những vấn đề gần gũi nhất của đời sống người dân.
Thiếu dữ liệu, nền tảng chưa đồng bộ, hạ tầng còn khoảng trống, doanh nghiệp chậm ứng dụng AI và thiếu nhân lực là 5 thách thức lớn của chuyển đổi số Việt Nam. Đáng chú ý, giải ngân cho lĩnh vực này vẫn thuộc nhóm chậm nhất.
.svg){kind=icon}
