Anthropic không tiết lộ danh tính các doanh nghiệp bị ảnh hưởng, song cả ba nạn nhân đã được thông báo về sự việc vào ngày 27/7, theo Anthropic.
Thông tin này được đưa ra một tuần sau khi OpenAI tiết lộ công cụ AI của họ đã vượt ra khỏi môi trường thử nghiệm (sandbox), môi trường kỹ thuật số vốn phải được ngắt kết nối với Internet và tấn công công ty AI Hugging Face.
Sự cố liên quan đến OpenAI đã khiến giới nghiên cứu an ninh mạng và các chuyên gia AI hoảng hốt, đồng thời gióng lên hồi chuông cảnh báo về sức mạnh và tính khó lường của các hệ thống AI hoạt động tự trị, được thiết kế để thực hiện nhiều hành động khác nhau nhằm hoàn thành nhiệm vụ và đạt được mục tiêu từ người dùng.
Alex Stamos, Giám đốc sản phẩm tại công ty an ninh mạng Corridor, cho biết các sự cố cho thấy các công ty AI cần phải thiết lập các tiêu chuẩn mạnh mẽ hơn và mang tính toàn ngành để cô lập hệ thống của họ trong quá trình thử nghiệm không gian mạng.
Tuy nhiên, chúng cũng phác họa một bức tranh đáng lo ngại về tương lai, nơi tội phạm mã độc tống tiền (ransomware) có thể tiến hành các cuộc tấn công diện rộng bằng cách sử dụng các hệ thống AI ngày càng có năng lực.
"Chúng ta cần chuẩn bị sẵn sàng cho viễn cảnh những kẻ tấn công có được các loại năng lực này thông qua các mô hình trọng số mở (open-weight) trong thời gian rất sớm tới đây", ông Stamos nhận định.
Các vụ hack của Anthropic chắc chắn sẽ càng làm gia tăng những lo ngại về tác hại tiềm tàng của các mô hình AI mạnh mẽ và cách giảm thiểu chúng.
Nhà Trắng gần đây đã có động thái tăng cường giám sát AI, trong khi khu vực tư nhân kêu gọi duy trì quyền tiếp cận các mô hình gọi là trọng số mở, vốn có thể chạy trên các hệ thống máy tính do chính người dùng kiểm soát.
"AI đang phát triển cực kỳ nhanh chóng mà không có bất kỳ quy định thực tế nào để giữ an toàn cho chúng ta", Hạ nghị sĩ Greg Casar thuộc Đảng Dân chủ phát biểu vào tuần trước.
Sau khi nghe tin về sự cố của OpenAI, Anthropic đã quyết định xem xét lại các bài kiểm tra an ninh mạng của chính họ để xem liệu điều đó có xảy ra với bất kỳ mô hình nào của mình hay không.
Sau khi kiểm tra nhật ký (log) của hơn 141.000 bài kiểm tra, công ty phát hiện ra Claude thực sự đã tìm được đường lên Internet nhiều lần.
Tuy nhiên, trong ba vụ hack mà công ty cuối cùng phát hiện ra, Claude không hề vượt ngục khỏi sandbox; nó đơn giản là "lang thang" đi ra từ các hệ thống vốn không có sự tồn tại của sandbox.
Theo đó, "lỗi cấu hình" trên các hệ thống do Anthropic và đối tác thử nghiệm của công ty là hãng bảo mật Irregular vận hành, đã khiến các mô hình này vẫn có quyền truy cập Internet trực tiếp.
Một phát ngôn viên của Irregular cho biết công ty đang điều tra vụ việc.
Các mô hình này đã được lập trình sẵn rằng Internet không khả dụng, nhưng trong quá trình thử nghiệm, chúng đã tự tìm được cách trực tuyến và hack các công ty bằng các kỹ thuật tấn công cơ bản như đoán mật khẩu yếu hoặc tìm cách thâm nhập vào các hệ thống không yêu cầu xác thực.
Anthropic cho biết các mô hình đã lầm tưởng rằng hành động hack này là một phần trong bài tập đánh giá năng lực của chúng.
Claude đã có thể xâm nhập vào hệ thống của một công ty bảo mật giấu tên bằng cách tạo ra một phần mềm độc hại, sau đó phần mềm này được tải xuống bởi hệ thống quét của công ty bảo mật đó.
Phần mềm này tiếp tục đánh cắp thông tin xác thực dùng để xâm nhập vào cơ sở hạ tầng của công ty bảo mật.
Trong quá trình hack, Claude nhận ra những gì nó đang làm không phải là điều nó nên làm trong thế giới thực, nhưng nó lại tự thuyết phục bản thân rằng mình đang sống trong một môi trường mô phỏng.
Trong vụ việc nghiêm trọng nhất, Claude cố gắng hack vào một công ty hư cấu, tình cờ trùng tên với một trang web ngoài đời thực.
Khi gặp khó khăn trong việc thâm nhập vào công ty giả định của mình, nó đã đột nhập vào cơ sở dữ liệu thuộc về công ty thực tế.
Anthropic cho biết vụ hack cơ sở dữ liệu này là trường hợp duy nhất mà Claude tiếp tục tấn công, ngay cả khi nó nhận ra mình đã đột nhập vào một công ty ngoài đời thực.
Trong hai trường hợp còn lại, Claude hoặc không bao giờ nhận ra rằng nó đã hack một công ty ngoài đời thực, hoặc nó đã nhận thức được tình hình và sau đó dừng việc hack lại ngay lập tức.
Anthropic cho biết các vụ hack bắt đầu từ tháng 4 và liên quan đến các phiên bản Opus 4.7, Mythos 5 cùng một mô hình nghiên cứu chưa được đặt tên.
(Theo WSJ)
.svg){kind=icon}
