Thủ tướng Australia Anthony Albanese cho biết vụ việc bắt đầu từ ngày 18/6 và là trường hợp công khai đầu tiên được biết đến về một mô hình AI xâm nhập hệ thống của chính phủ.
Ông nói sẽ có “hệ quả pháp lý” đối với vụ việc và gọi cách OpenAI xử lý sự cố là “không thể chấp nhận”.
Theo ông Albanese, mô hình AI của OpenAI đã tiếp cận cả tệp công khai và không công khai của Services Australia.
Dù chưa có bằng chứng thông tin cá nhân của người dân bị rò rỉ, OpenAI cho biết dữ liệu mà tác nhân AI truy cập gồm các thống kê y tế tổng hợp và tên các tệp nội bộ.
Sự cố xảy ra trong một cuộc đánh giá nội bộ của OpenAI, khi một tác nhân AI được giao tìm kiếm thông tin về Australia và các loại thuốc có sẵn công khai.
Khi truy cập cổng Medicare, tác nhân này nhiều lần bị hệ thống chặn nhưng tìm cách vượt qua các biện pháp ngăn cản.
Thủ tướng Albanese cho biết mô hình AI không chỉ đọc dữ liệu mà còn chủ động ghi dữ liệu vào cơ sở dữ liệu của chính phủ. Điều này làm dấy lên khả năng dữ liệu của cơ quan này đã bị thay đổi hoặc làm sai lệch.
Đáng chú ý, OpenAI không phát hiện vụ việc ngay thời điểm xảy ra. Công ty chỉ phát hiện sự cố vào tháng 8, trong một cuộc rà soát trên toàn công ty về các tác nhân AI hoạt động ngoài dự kiến.
OpenAI thông báo cho chính phủ Australia ngày 10/9, gần ba tháng sau khi vụ xâm nhập bắt đầu.
Theo ông Albanese, OpenAI gửi thông báo tới hộp thư công khai của Services Australia, sau đó cơ quan này mất thêm 5 ngày để thông báo cho Trung tâm An ninh mạng Australia.
Thủ tướng cho biết ông đã trực tiếp trao đổi với CEO OpenAI Sam Altman, nhấn mạnh “mối quan ngại đặc biệt” của chính phủ và sự thất vọng về việc công ty giữ thông tin trong gần ba tháng.
Cuộc điều tra của Australia sẽ xem xét cả các biện pháp thực thi pháp luật và thay đổi lập pháp nhằm ngăn những sự cố tương tự tái diễn.
Vụ việc cũng có thể liên quan đến một cuộc tấn công trước đó nhằm vào một trang wiki của Đức. Theo ABC News, các tác nhân AI có thể đã sử dụng trang này làm nơi trung chuyển và để lại ghi chú phục vụ những cuộc xâm nhập tiếp theo, trong đó có chỉ dẫn lấy dữ liệu từ Australian Institute of Health and Welfare (AIHW), cơ quan liên bang chuyên công bố dữ liệu y tế quốc gia.
Phòng nghiên cứu AI phi lợi nhuận Transluce cũng phát hiện các hồ sơ công khai cho thấy những tác nhân AI nhắm tới AIHW trong hai ngày 20 và 21/6. Ông Albanese cho biết có thêm ba hệ thống của chính phủ Australia có khả năng đã bị xâm nhập.
OpenAI chưa xác nhận liệu các vụ việc có liên quan với nhau hay không, nhưng thừa nhận có “hoạt động liên quan đến một số website và dịch vụ của chính phủ Australia”.
Sự cố diễn ra trong bối cảnh ngày càng xuất hiện nhiều vụ tác nhân AI hoạt động ngoài dự kiến. Trước đó, các tác nhân của OpenAI từng xâm nhập Hugging Face, trong khi những vụ việc tương tự liên quan đến Anthropic, Meta và Google cũng đã được tiết lộ.
OpenAI hiện tiến hành một cuộc rà soát quy mô lớn về hoạt động của các mô hình “lệch mục tiêu” trong quá trình huấn luyện và đánh giá, đồng thời cho biết sẽ thông báo cho các bên thứ ba nếu phát hiện khả năng hệ thống của họ bị xâm nhập.
(Theo TechCrunch)
.svg){kind=icon}
