CEO Anthropic Dario Amodei cho biết Mythos – mô hình AI mới nhất của hãng – đã phát hiện hàng chục nghìn lỗ hổng trong các phần mềm quan trọng. Đáng chú ý, ông cảnh báo các chính phủ, công ty công nghệ, ngân hàng chỉ còn 6-12 tháng để khắc phục trước khi AI Trung Quốc bắt kịp.
Những bình luận trên được đưa ra trong một sự kiện của Anthropic hôm 5/5, nơi ông Amodei cùng xuất hiện với CEO JPMorgan Chase Jamie Dimon và công bố bộ trợ lý AI mới nhằm tự động hóa các công việc tài chính.
"Mối nguy hiểm nằm ở sự gia tăng khổng lồ về số lượng lỗ hổng, các vụ vi phạm và thiệt hại tài chính do mã độc tống tiền gây ra cho trường học, bệnh viện, chưa kể đến các ngân hàng", ông Amodei nhấn mạnh.
Anthropic đã giới hạn quyền truy cập Mythos cho một số ít công ty đối tác do lo ngại những gì tội phạm hoặc các quốc gia đối địch có thể lợi dụng. Dù các bản cập nhật mô hình trước đây của công ty đều gây tiếng vang trên thị trường, Mythos lại là sản phẩm gây lo ngại nhất cho cả giới doanh nghiệp và các nhà hoạch định chính sách.
Quy mô các lỗ hổng có thể bị khai thác mạng đã bùng nổ qua từng thế hệ của Claude. Một mô hình Anthropic trước đây tìm thấy khoảng 20 lỗ hổng trong trình duyệt Firefox. Tuy nhiên, Mythos đã phát hiện gần 300 lỗi và tổng số lỗ hổng trên toàn bộ các phần mềm hiện lên tới hàng chục nghìn.
Hầu hết các lỗ hổng do Mythos tìm ra chưa được công bố vì chúng chưa được vá và "kẻ xấu sẽ lợi dụng" nếu chúng bị nhận diện.
Bất chấp điều này, cả Amodei và Dimon đều bày tỏ sự lạc quan - nhưng có điều kiện.
"Đây là khoảnh khắc nguy hiểm mà nếu ứng phó đúng cách, chúng ta có thể hướng tới một thế giới tốt đẹp hơn ở phía bên kia", ông Amodei nói.
Ông Dimon cũng nhận định dù những lo ngại về không gian mạng là hoàn toàn có cơ sở, rủi ro an ninh mạng do AI tạo ra chỉ là một "giai đoạn chuyển tiếp".
Về vấn đề quy định, Amodei cho rằng việc giám sát AI nên tương tự như trong ngành công nghiệp ô tô, cần sự cân bằng giữa an toàn cho người tiêu dùng và cho phép ngành công nghiệp này cạnh tranh.
"Bạn không thể cứ thế mở một công ty sản xuất ô tô mà không tự hỏi 'Chiếc xe này có phanh không?'. Chúng ta cần tìm ra một quy trình cho phép ngành công nghiệp hoạt động nhanh chóng, công bằng nhưng vẫn đặt ra các rào chắn đối với những vấn đề nghiêm trọng nhất", ông lập luận.
(Theo CNBC)
.svg){kind=icon}
