Lời kêu gọi của Tổng Thư ký Liên Hợp Quốc làm dấy lên lại cuộc tranh luận về an toàn trí tuệ nhân tạo (AI), vốn là nguyên nhân chính dẫn đến rạn nứt giữa công ty Anthropic và Lầu Năm Góc đầu năm nay.
"Việc máy móc tự lựa chọn, tấn công mục tiêu và tước đoạt sinh mạng mà không có sự kiểm soát hay phán xét của con người là điều tồi tệ về mặt đạo đức", ông Guterres nhấn mạnh trong bài phát biểu về quản trị AI tại Geneva. "Hãy gọi chúng đúng với bản chất: robot sát thủ".
Các hệ thống và chip AI vốn được thiết kế cho mục đích dân sự đang ngày càng được triển khai rộng rãi trên chiến trường cũng như tại các sở chỉ huy quân sự. Điều này tạo ra một cuộc tranh luận về thời điểm quân đội nên sử dụng AI, khi nào con người cần can thiệp và ai sẽ là người vạch ra ranh giới.
Cuộc tranh luận bùng nổ trước công chúng vào đầu năm nay khi Anthropic yêu cầu Lầu Năm Góc đảm bảo rằng các mô hình AI của họ sẽ không bị sử dụng cho hệ thống giám sát trong nước hoặc hệ thống vũ khí tự động. Lầu Năm Góc, lúc đó là tổ chức sử dụng lượng lớn các công cụ của Anthropic, đã từ chối và khẳng định họ có quyền dùng AI của hãng cho mọi mục đích hợp pháp. Hai bên hiện vẫn đang kiện tụng tại tòa.
Giáo hoàng Leo XIV cũng đã lên tiếng kêu gọi cấm vũ khí điều khiển bằng AI và chiến tranh tự động trong thông điệp mùa xuân năm nay. Ông cảnh báo các hệ thống AI có nguy cơ "bình thường hóa một tầm nhìn phi nhân tính".
Giáo hoàng cho rằng hệ thống vũ khí do AI điều khiển có nguy cơ làm giảm cái giá phải trả về mặt chính trị đối với những bên sở hữu công nghệ tiên tiến, khiến "chiến tranh dễ nổ ra hơn và ít chịu sự kiểm soát của con người".
Tuy nhiên, tiến bộ công nghệ trên chiến trường đang diễn ra chóng mặt. Những người ủng hộ vũ khí AI và các công ty quốc phòng lập luận rằng vũ khí tự động sẽ vẫn nằm dưới sự kiểm soát của con người, trong đó AI chỉ giúp các chỉ huy thao tác với độ chính xác và tốc độ cao hơn - điều vốn rất cần thiết.
Ngược lại, phe phản đối cho rằng các hệ thống AI vẫn mắc sai lầm, do đó việc con người nhường quyền kiểm soát cho máy móc trong những khoảnh khắc căng thẳng là vô cùng nguy hiểm. Một số nhà hoạt động vì an toàn AI - những người vốn đã lo ngại AI sẽ thoát khỏi tầm kiểm soát và tấn công lại người tạo ra chúng, lập luận rằng việc vũ trang hóa AI sẽ chỉ đẩy nhanh mối nguy hiểm này.
Cuộc tranh luận về vũ khí AI diễn ra trong bối cảnh công chúng tại Mỹ và nhiều quốc gia khác ngày càng phản ứng gay gắt trước những tác động tiêu cực tiềm tàng của cuộc cách mạng AI, bao gồm nguy cơ mất việc làm hàng loạt và giá điện tăng cao.
Tại Mỹ, chính quyền Tổng thống Donald Trump tháng trước đã dỡ bỏ lệnh cấm xuất khẩu kéo dài nhiều tuần đối với hai mô hình AI mạnh mẽ của Anthropic, nhưng các cuộc tranh luận về cách thức quản lý hệ thống AI vẫn diễn ra gay gắt. Chính quyền cho biết đang xây dựng quy trình kiểm tra mức độ an toàn của các mô hình trước khi phát hành.
Tổng Thư ký Guterres đã phát biểu tại Geneva ngay trước thềm tuần lễ thảo luận về quản trị AI với chính phủ các nước và giới vận động an toàn, nhằm tìm cách quản lý AI trong nhiều lĩnh vực, bao gồm cả an toàn trẻ em.
"Đừng đợi đến khi thảm kịch xảy ra mới hành động", ông nói. "Một số quyết định phải mãi mãi thuộc về con người, đặc biệt là việc tước đoạt sinh mạng của một con người".
(Theo WSJ)
Phát hiện chiến dịch tấn công mã độc tống tiền do AI thực hiện từ A đến ZCác nhà nghiên cứu vừa phát hiện JadePuffer, chiến dịch tấn công mã độc tống tiền (ransomware) đầu tiên được thực hiện hoàn toàn bởi một tác nhân AI (AI Agent).
.svg){kind=icon}
