Cảnh báo được đưa ra trên mạng xã hội hôm 8/9 bởi Jacob Coxon, cựu nhà nghiên cứu tại Anthropic và OpenAI. Ông cho biết quyết định nghỉ việc xuất phát từ lo ngại hai công ty đang không xử lý nghiêm túc nguy cơ từ AI.
“Cả hai công ty đều không hành động có trách nhiệm. Họ đang 'chạy thẳng' tới siêu trí tuệ có khả năng tự cải thiện và đánh cược với mạng sống của chúng ta”, Coxon viết.
Theo ông, nhiều người trực tiếp phát triển AI thực sự tin công nghệ này có thể khiến toàn nhân loại biến mất trước cuối thập kỷ. Coxon cho rằng đây không phải chiến lược tiếp thị, bởi ngay cả những lãnh đạo và nhà nghiên cứu cấp cao cũng bày tỏ lo ngại về nguy cơ này khi trao đổi riêng.
Nhận định của Coxon nhận được sự đồng tình từ ít nhất hai nhà nghiên cứu khác của Anthropic.
Evan Hubinger, lãnh đạo một nhóm thuộc bộ phận nghiên cứu “alignment” - lĩnh vực nhằm bảo đảm AI hoạt động phù hợp với mục tiêu và giá trị của con người - nói đồng nghiệp cũ “đúng”.
“Chúng tôi thực sự tin AI có thể giết chết toàn bộ con người”, Hubinger viết. Ông ước tính xác suất kịch bản này xảy ra trong thập kỷ tới “trên 10%”.
Hubinger cho rằng Anthropic đang cố gắng xử lý vấn đề, nhưng chưa có giải pháp để bảo đảm an toàn khi AI đạt tới mức siêu trí tuệ và công ty cũng chưa đi đúng hướng rõ ràng để giải quyết nguy cơ này.
Samuel Marks, phụ trách nghiên cứu “giám sát có khả năng mở rộng” tại Anthropic, cũng đưa ra cảnh báo tương tự. Ông nhấn mạnh đây là quan điểm cá nhân, không đại diện cho công ty.
“Các nhà phát triển AI tin công nghệ của họ có thể gây ra sự tuyệt chủng của loài người hoặc những hậu quả tương tự nghiêm trọng”, Marks viết. Theo ông, điều này có thể xảy ra trong vài năm tới và những nhân viên càng ở vị trí cao càng có xu hướng lo ngại nhiều hơn.
Anthropic bác bỏ quan điểm cho rằng công ty xem nhẹ rủi ro. Người phát ngôn cho biết hãng luôn minh bạch về việc AI vừa mang lại lợi ích lớn vừa tạo ra những rủi ro chưa từng có.
Công ty nói đang phát triển các biện pháp bảo vệ nghiêm ngặt, đồng thời nghiên cứu “khả năng diễn giải cơ chế” để hiểu cách các mô hình AI hoạt động bên trong và phát hiện nguy cơ AI đi lệch khỏi mục tiêu của con người.
Anthropic cũng cho biết đã xây dựng chính sách mở rộng có trách nhiệm, đồng thời liên tục kiểm tra các mô hình về những khả năng nguy hiểm, trong đó có an ninh mạng và sinh học.
Những cảnh báo mới nhất xuất hiện trong bối cảnh giới lãnh đạo ngành AI ngày càng lo ngại về khả năng công nghệ này vượt khỏi tầm kiểm soát. Sam Altman, CEO OpenAI, từng nói một số khía cạnh của AI, trong đó có việc con người dần “đầu hàng trong im lặng” trước quyết định của máy móc, khiến ông lo sợ.
Mùa hè năm nay, OpenAI cũng ghi nhận các hành vi bất thường của một số tác nhân AI. Một hệ thống được cho là đã thoát khỏi môi trường huấn luyện kín, truy cập Internet và tiến hành cuộc tấn công nhằm vào kho phần mềm Hugging Face. OpenAI sau đó thừa nhận đáng lẽ phải phản ứng sớm hơn trước các dấu hiệu cảnh báo.
Một số chính trị gia kêu gọi ngành AI giảm tốc, thậm chí tạm dừng phát triển công nghệ. Thượng nghị sĩ Mỹ Bernie Sanders cho rằng những cảnh báo về nguy cơ AI đe dọa tương lai nhân loại cần được xem xét nghiêm túc và cho biết sẽ đề xuất dự luật nhằm “cấm siêu trí tuệ” và tạm dừng phát triển AI.
(Theo The Guardian)
Chuyên gia cảnh báo AI đã 'đi được nửa đường' tới nguy cơ vượt kiểm soátAjeya Cotra, chuyên gia nghiên cứu trí tuệ nhân tạo, cho rằng một vụ tấn công mạng do các tác nhân AI thực hiện là dấu hiệu cho thấy nguy cơ AI vượt khỏi kiểm soát của con người đang trở nên rõ ràng hơn bao giờ hết.
.svg){kind=icon}
