Tại tọa đàm chiều 18/11 trong khuôn khổ AI360 - Diễn đàn Trí tuệ nhân tạo Việt Nam 2026, câu chuyện đưa trí tuệ nhân tạo (AI) vào hoạt động quản lý nhà nước được mổ xẻ từ góc nhìn của những người trực tiếp triển khai ở hai đô thị lớn nhất cả nước. 

Thay vì chỉ nói về các thành tựu công nghệ, đại diện TP Hà Nội và TPHCM đã chia sẻ nhiều vướng mắc, điểm nghẽn thực tế - hay những "nỗi đau" phải trải qua trước khi tìm ra hướng đi phù hợp.

Hà Nội: Dữ liệu phân tán và rào cản định mức khi kiểm toán

Theo ông Trịnh Tất Thắng, Giám đốc Trung tâm Dữ liệu và Trí tuệ nhân tạo (Sở Khoa học và Công nghệ Hà Nội), rào cản đầu tiên và lớn nhất khi bắt tay làm AI là bài toán dữ liệu. Trước khi tái cấu trúc bộ máy, thành phố chưa có một tổ chức tập trung vào quản trị dữ liệu. Dữ liệu nằm rải rác ở các ứng dụng phần mềm khác nhau với cấu trúc không đồng nhất, thậm chí nằm ở các bảng tính Excel do cán bộ tự quản lý thủ công.

so khcn ha noi ai360
Ông Trịnh Tất Thắng, Giám đốc Trung tâm Dữ liệu và Trí tuệ nhân tạo (Sở Khoa học và Công nghệ Hà Nội). Ảnh: BTC

Qua rà soát 93 cơ sở dữ liệu của thành phố, chỉ có hơn 60 cơ sở có hệ thống công nghệ thông tin đáp ứng; phần còn lại đang được quản lý bằng tay hoặc lưu trữ trong các kho giấy. Tình trạng này khiến dữ liệu luôn đứng trước nguy cơ thất thoát khi nhân sự thay đổi.

"Khi họ chuyển công tác thì dữ liệu cũng mất luôn, không bàn giao cho người sau. Thậm chí trong quá trình công tác, nếu thấy có vấn đề, người ta có thể xóa tất dữ liệu đi, để nó chìm vào dĩ vãng", ông Thắng nói về thực trạng đáng tiếc tại nhiều đơn vị.

Bên cạnh đó, việc đầu tư hạ tầng phân tán trước đây cũng bộc lộ nhiều bất cập. Nhắc lại kinh nghiệm khi từng công tác tại quận Hoàn Kiếm, ông Thắng cho biết địa phương từng đầu tư máy chủ đặt riêng tại quận, nhưng sau đó gặp khó vì chi phí duy trì quá tốn kém trong khi thiếu nhân lực vận hành và đảm bảo an toàn thông tin. 

Ngoài ra, sau khi bỏ rất nhiều tiền để thu thập dữ liệu từ các nguồn thủ công, thành phố lại vướng bài toán xác thực tính pháp lý và độ tin cậy "đúng, đủ, sạch, sống" của nguồn dữ liệu này khi chưa có phần mềm đồng bộ.

Về triển khai AI, Hà Nội từng trải qua giai đoạn mong muốn xây dựng một nền tảng AI khổng lồ, đa năng theo hướng từ trên xuống (top-down). Tuy nhiên, khi chưa có dữ liệu sẵn sàng, hệ thống quá rộng không giải quyết được công việc cụ thể, trong khi các mô hình AI trên thế giới lại thay đổi quá nhanh. 

Ở chiều ngược lại, khi khảo sát nhu cầu từ dưới lên, nhiều cán bộ tại các phòng ban bày tỏ mong muốn có AI hỗ trợ, nhưng bản thân đơn vị lại không có dữ liệu đầu vào và người làm chưa thành thạo quy trình nên không có tri thức để huấn luyện hệ thống.

Khi họ chuyển công tác thì dữ liệu cũng mất luôn, không bàn giao cho người sau. Thậm chí trong quá trình công tác, nếu thấy có vấn đề, người ta có thể xóa tất dữ liệu đi, để nó chìm vào dĩ vãng.

Ông Trịnh Tất Thắng, Giám đốc Trung tâm Dữ liệu và Trí tuệ nhân tạo (Sở Khoa học và Công nghệ Hà Nội)

Một "nỗi đau" khác được ông Thắng nhắc tới là vướng mắc về cơ chế tài chính và kiểm toán. Cách đây hơn ba năm, khi còn làm việc tại Trung tâm Phục vụ hành chính công, ông mạnh dạn tiên phong thuê một giải pháp AI để phục vụ người dân hỏi đáp thủ tục hành chính. 

Dù người dân đánh giá cao và thích thú với tiện ích này, nhưng khi cơ quan kiểm toán vào làm việc, nhiều hạng mục bị bóc tách, yêu cầu xuất toán (loại bỏ một phần hoặc toàn bộ các khoản chi phí hay số tiền mà doanh nghiệp hoặc đơn vị đã hạch toán, kê khai - PV) vì chưa có tiêu chuẩn, định mức kinh tế - kỹ thuật cho AI. Một dự án AI khác có tính năng tương đồng cũng bị đánh giá là "trùng thừa" và buộc phải hủy bỏ.

"Mình mới tiếp cận thì chỉ nghĩ làm sao cho tốt thôi, nhưng quay ra lại đối diện với loạt xem xét, kỷ luật. Khi ứng dụng cái mới với AI như vậy thì bước tiếp theo của câu chuyện tài chính thế nào? Đó là câu chuyện cực kỳ khó", ông Thắng chia sẻ. “Muốn đầu tư số tiền lớn để phục vụ người dân bằng AI, phải cân nhắc người dân được thụ hưởng như thế nào, khi kiểm toán vào nhưng chưa có định mức, chưa có quy định pháp luật thì hậu quả ra sao, chúng tôi phải trả lời câu hỏi đó”.

Ngoài ra, vị giám đốc trung tâm cũng cảnh báo một rủi ro trong vận hành thực tế là tình trạng AI "thành tinh" - tức mô hình quá khôn khéo, đưa ra các câu trả lời xuôi theo ý muốn của lãnh đạo, dễ gây định kiến nếu người đứng đầu quá tin tưởng mà thiếu kiểm chứng.

TP HCM: "Không ai chịu ai" khi dùng AI và tâm lý ngại nghiệm thu

Tại TPHCM, bà Võ Thị Trung Trinh, Giám đốc Trung tâm Chuyển đổi số Thành phố Hồ Chí Minh, cũng chỉ ra hàng loạt điểm nghẽn từ hạ tầng, dữ liệu đến yếu tố con người trong quá trình đưa AI vào phục vụ công vụ.

so khcn ha noi ai360
Bà Võ Thị Trung Trinh, Giám đốc Trung tâm Chuyển đổi số Thành phố Hồ Chí Minh. Ảnh: BTC

Dù TPHCM tiếp cận kiến trúc hạ tầng dùng chung từ sớm, bà Trinh thừa nhận việc chuẩn hóa và liên thông dữ liệu là bài toán nan giải diễn ra thường xuyên, bởi dữ liệu giữa các bộ phận trong một cơ quan đã khó khớp nối, dữ liệu toàn thành phố còn phức tạp hơn. 

Thói quen lưu trữ tài liệu trên máy tính cá nhân của cán bộ vẫn phổ biến, dễ dẫn đến mất mát dữ liệu khi nghỉ việc. Từ kinh nghiệm từng phụ trách công nghệ thông tin, bà cũng nhấn mạnh việc các đơn vị tự đầu tư và vận hành các trung tâm dữ liệu nhỏ nội bộ là vô cùng vất vả và tốn kém nguồn lực.

Khi công cụ AI phổ biến, một rủi ro mới về an toàn thông tin nảy sinh từ thói quen làm việc của cán bộ công chức. Theo bà Trinh, nếu không có nền tảng quản lý tập trung, nhiều người sẽ "vô tư đưa tài liệu nội bộ lên ChatGPT, NotebookLM hay Claude rồi yêu cầu 'Hãy làm báo cáo giúp tôi đi'", tiềm ẩn nguy cơ lộ lọt dữ liệu nhà nước.

Ngay trong nội bộ Trung tâm Chuyển đổi số TPHCM - nơi có phần lớn nhân sự là đội ngũ kỹ thuật, quá trình thử nghiệm AI ban đầu cũng gây ra không ít căng thẳng. Khi cho phép mỗi người tự chọn một công cụ để trải nghiệm, nội bộ rơi vào cảnh "không ai chịu ai": người khen Copilot, người chọn Gemini, ChatGPT, người lại bảo vệ Claude, Grok hay DeepSeek.

Ở góc độ triển khai diện rộng tại các sở, ngành và địa phương, Giám đốc Trung tâm Chuyển đổi số TPHCM chỉ ra hai rào cản lớn trong khâu nghiệm thu và vận hành thực tế.

Thứ nhất là tâm lý e ngại từ chính người sử dụng cuối. Nhiều cán bộ công chức ngần ngại hoặc từ chối nghiệm thu sản phẩm vì lo sợ hiệu quả của AI sẽ khiến họ bị giao thêm việc.

Thứ hai là nghịch lý từ quy trình nghiệm thu kéo dài. Tại các cơ quan nhà nước, thời gian nghiệm thu một dự án công nghệ thường mất 5-6 tháng hoặc hơn, khiến doanh nghiệp cung cấp giải pháp e ngại. Có trường hợp doanh nghiệp đổ nhiều công sức triển khai, nhưng tới khi nghiệm thu xong và đưa vào sử dụng được một, hai tháng thì trên thị trường đã xuất hiện công nghệ mới hoặc ứng dụng dùng chung khác thay thế.

Bà Trung Trinh cho biết TPHCM sẽ tổ chức hội nghị để lắng nghe cái khó của các đơn vị khi ứng dụng AI - về con người, mô hình hay tri thức huấn luyện - để nắm bắt, tìm cách triển khai một cách hiệu quả.