Các vụ tác nhân AI (AI Agent) vượt khỏi môi trường thử nghiệm và tấn công thế giới thực đang đặt ra lo ngại về việc công nghệ này không còn nằm trong sự kiểm soát của con người.
Lãnh đạo OpenAI cảnh báo AI đang bước sang giai đoạn mới, có thể tự lập kế hoạch và thực hiện các cuộc tấn công mạng kéo dài. Tại Việt Nam, gần một nửa cảnh báo tấn công có yếu tố AI.
Viện Nghiên cứu An ninh AI Anh phát hiện các mô hình AI của OpenAI và Anthropic thực hiện hành vi lừa đảo chưa từng có trong một cuộc kiểm thử an ninh mạng.
Hôm 30/7, Anthropic cho biết phần mềm mà công ty này đang thử nghiệm đã tự ý truy cập Internet và tấn công các doanh nghiệp trong ba sự cố riêng biệt kể từ tháng 4.
Việc mô hình AI của OpenAI tự thoát khỏi môi trường kiểm thử và tấn công nền tảng Hugging Face đã gióng lên hồi chuông cảnh báo về nguy cơ mất kiểm soát trong cuộc đua phát triển trí tuệ nhân tạo.
Hai mô hình trí tuệ nhân tạo của OpenAI vừa tự ý phá vỡ môi trường thử nghiệm cô lập để kết nối Internet và tấn công thư viện số Hugging Face.
Hơn 300 sự cố AI mất kiểm soát, nói dối, phớt lờ chỉ dẫn hoặc theo đuổi mục tiêu gây hại được ghi nhận trong tháng 7, gần gấp đôi tháng trước.
Trong bài luận đăng trên website cá nhân, tỷ phú Bill Gates cảnh báo AI có thể nhanh chóng tác động đến cả lao động trí óc lẫn chân tay, làm gia tăng thất nghiệp, gian lận và thông tin sai lệch.
