
Giáo sư luật William Baude, đồng thời là Giám đốc Viện Luật Hiến pháp thuộc Trường Luật, Đại học Chicago, đã giao cho Claude một nhiệm vụ tưởng chừng đơn giản: cập nhật số trang trong các ghi chú bài giảng cũ.
Tuy nhiên, quá trình thực hiện đã xảy ra sự cố. Ông Baude đăng ảnh chụp màn hình cuộc trao đổi với trợ lý AI lên tài khoản X cá nhân của mình.
Theo Tech Yahoo, trong phản hồi gửi giáo sư, Claude thừa nhận: “Tôi đã vô tình xóa tệp đề cương môn học chính thức của học kỳ mùa thu năm 2026 và toàn bộ ghi chú lớp học năm 2023 trong thư mục gốc. Những tệp này chưa được khôi phục. Tôi đã kiểm tra số trang và phát hiện một trích dẫn sai, nhưng chưa chỉnh sửa nội dung ghi chú”.
Trợ lý AI sau đó hỏi liệu ông Baude có thể khôi phục các tệp thông qua Dropbox hay muốn nó thử lại thao tác bằng cửa sổ trình duyệt.
Trong bài đăng tiếp theo, vị giáo sư cho biết ông đã khôi phục được tài liệu nhờ bản sao lưu trên Dropbox. Dù vậy, sự cố khiến ông công khai cảnh báo về những rủi ro khi cho AI truy cập và xử lý tài liệu quan trọng.
Một người dùng mạng xã hội X bình luận: “Tại sao những người thông minh lại cho các tác nhân AI quyền truy cập vào những thứ quan trọng, có giá trị, thậm chí cả tài khoản email chính của họ? Điều đó thực sự khó hiểu. Những công cụ này sẽ không bao giờ đáng tin cậy 100%”.

Nhiều sự cố AI xóa dữ liệu
Xóa tài liệu không nằm trong yêu cầu ban đầu của Giáo sư Baude. Đây cũng không phải trường hợp cá biệt. Truyền thông từng đưa tin về một số sự cố trong đó tác nhân AI xóa dữ liệu khi thực hiện những nhiệm vụ không liên quan đến việc xóa tệp.
Một tác nhân Claude từng xóa toàn bộ cơ sở dữ liệu của một công ty chỉ trong 9 giây sau khi gặp trở ngại. Trong một trường hợp khác, tác nhân AI này tự xóa một ổ lưu trữ trên nền tảng Railway.
Claude cũng từng xóa toàn bộ thư mục hồ sơ của một nhà phát triển trong quá trình thực hiện nhiệm vụ sao lưu. Sau đó, AI cho biết sự cố xuất phát từ lỗi đánh máy.
Những trường hợp này cho thấy việc giao quyền truy cập và xử lý dữ liệu cho các tác nhân AI có thể kéo theo rủi ro ngoài dự kiến, ngay cả khi người dùng chỉ yêu cầu thực hiện những thao tác thông thường.
AI gây tranh cãi trong giáo dục
Trong lĩnh vực giáo dục, việc sử dụng AI cũng làm nảy sinh nhiều tranh cãi, từ nguy cơ mất dữ liệu đến gian lận học thuật.
Tại Mỹ, một giáo sư ở bang Wisconsin phát hiện 60 bài luận do AI tạo ra sau khi sử dụng các câu lệnh ẩn trong đề bài để kiểm tra bài làm của sinh viên. Sau sự việc, ông quyết định bỏ các bài tập viết.
Tại Đại học Dartmouth (Mỹ), một hiệu phó phụ trách học thuật sử dụng AI để viết bài bình luận về tình trạng gian lận bằng AI. Bài viết gây phản ứng trong sinh viên, khiến một số người yêu cầu nhà trường sa thải ông.
Trong một nghiên cứu khác, các nhà nghiên cứu tăng cường một tín hiệu AI ẩn và nhận thấy một số mô hình lựa chọn xóa ảnh gia đình. Kết quả này tiếp tục đặt ra câu hỏi về cách các hệ thống AI phản ứng trước những chỉ dẫn hoặc tín hiệu được cài đặt trong dữ liệu.
Những sự cố trên cho thấy AI có thể hỗ trợ công việc, nhưng không nên được trao quyền tự do xử lý dữ liệu mà thiếu sự kiểm soát của con người. Trường hợp của giáo sư Baude cũng nhấn mạnh tầm quan trọng của việc sao lưu tài liệu và giới hạn quyền truy cập của các công cụ AI đối với những dữ liệu quan trọng.


