Các binh sĩ Mỹ tham gia huấn luyện về hệ thống bay không người lái. Ảnh: US Army
Các binh sĩ Mỹ tham gia huấn luyện về hệ thống bay không người lái. Ảnh: US Army

Sự việc diễn ra vào mùa xuân năm nay, khi Mỹ đang ở giai đoạn đầu của chiến dịch chống Iran. Tình huống nguy hiểm này bắt nguồn từ một báo cáo tình báo do một chuyên gia phân tích lập ra với sự hỗ trợ của chatbot AI, trong đó đưa ra thông tin sai rằng một tàu Trung Quốc ở Trung Đông đang vận chuyển các bộ phận phục vụ chương trình vũ khí hạt nhân.

Theo 4 nguồn tin nắm rõ sự việc, quân đội Mỹ lập tức lên kế hoạch chặn con tàu. Các binh sĩ Mỹ có vũ trang đã chuẩn bị đổ bộ tàu và máy bay quân sự cũng được triển khai trên không.

Ngay trước thời điểm chiến dịch dự kiến diễn ra, các quan chức Mỹ mới kiểm tra kỹ hơn báo cáo do một chuyên gia phân tích thuộc bộ phận tác chiến đặc biệt soạn thảo. Họ phát hiện báo cáo này được lập với sự hỗ trợ của trí tuệ nhân tạo (AI) và chatbot mà chuyên gia phân tích sử dụng đã nhận diện sai loại hàng hóa con tàu đang vận chuyển. CNN không xác định được loại hàng hóa thực tế đã bị AI nhận diện sai.

Theo một nguồn tin, báo cáo này “hoàn toàn sai” nhưng “suýt châm ngòi một cuộc chiến”. Bất kỳ chiến dịch nào của Mỹ nhằm vào một tàu Trung Quốc đều có nguy cơ leo thang thành một cuộc xung đột vũ trang giữa hai nước.

Trong quân đội và cộng đồng tình báo Mỹ, các quan chức đang nỗ lực tích hợp AI vào gần như mọi lĩnh vực công việc, từ phân tích khối lượng dữ liệu tình báo thô khổng lồ mà Mỹ thu thập và lựa chọn mục tiêu không kích cho đến những ứng dụng ít thường nhật hơn như quản lý ngân sách, hậu cần và chuỗi cung ứng.

Tuy nhiên, sự việc trên cho thấy những rủi ro nghiêm trọng khi sử dụng công nghệ mới mạnh mẽ nhưng chưa được hiểu thấu đáo để hỗ trợ xác định mục tiêu trong bối cảnh xung đột.

Các chuyên gia phân tích từ lâu lo ngại việc sử dụng AI có thể dẫn đến một sai lầm thảm khốc nếu các quốc gia dựa vào dữ liệu kém chất lượng hoặc bị làm sai lệch, chẳng hạn một sai lầm có thể khiến Mỹ nổ súng nhằm vào một tàu Trung Quốc dựa trên thông tin không chính xác.

Trong trường hợp này, chuyên gia phân tích đã đặt câu hỏi cho một chatbot về thông tin tình báo liên quan đến bản kê khai hàng hóa của con tàu. Thông tin bắt nguồn từ Bộ Tư lệnh Đặc nhiệm Thái Bình Dương của Mỹ, có trụ sở ở Hawaii. Hiện chưa rõ chatbot được sử dụng là một sản phẩm thương mại hay công cụ do chính phủ Mỹ phát triển.

Một cựu quan chức cấp cao Mỹ am hiểu các hệ thống AI được quân đội và giới phân tích tình báo sử dụng nhận xét: “Các công cụ nội bộ phần lớn chỉ là bản sao của những sản phẩm thương mại được trang điểm lại cho khác mà thôi”.

Lầu Năm Góc hiện chưa bình luận gì về thông tin CNN đưa ra.