Hệ thống AI đề xuất 40.000 vũ khí hóa học mới chỉ trong 6 giờ

Điều đáng sợ là hầu hết các phát kiến này đều khả thi.

AI hiện được sử dụng trong nhiều lĩnh vực khác nhau, trong đó có quá trình tìm kiếm các cấu trúc phân tử mới để làm thuốc chữa bệnh.

Nhưng, bằng cách lạm dụng và đảo ngược quá trình này, một nghiên cứu mới đây đã đưa ra kết quả gây sốc khi hệ thống AI của họ đã tìm ra khoảng 40.000 loại phân tử có thể sử dụng làm vũ khí hóa học, trong vòng chỉ 6 giờ đồng hồ. Một số "ứng cử viên" này thậm chí được xác định còn độc hại hơn cả VX, chất độc thần kinh nổi tiếng từng gây ra cái chết của nhiều nhân vật chính trị quan trọng và hiện đã bị cấm sử dụng trong chiến tranh trên toàn thế giới.

Hệ thống AI đề xuất 40.000 vũ khí hóa học mới chỉ trong 6 giờ - Ảnh 1.

Theo Fabio Ubina, thành viên nhóm nghiên cứu về AI phát triển thuốc tại công ty Collaborations Pharmaceuticals, thì trong quá trình điều chỉnh AI để phát triển thuốc có tên "MegaSyn", ông và các đồng nghiệp đã thử thay đổi lựa chọn từ "giảm độc tính" thành "tăng độc tính" trong yêu cầu tìm kiếm. Và kết quả của việc chạy hệ thống này trong 6 giờ đã đưa ra kết quả đầy bất ngờ nêu trên.

Thậm chí, nhiều ứng viên phân tử được xác định tương tự như VX và các loại vũ khí hóa học hiện có. Chưa hết, một số phân tử không giống với vũ khí hóa học hiện có và được cho là còn độc hại hơn cả VX.

Từ kết quả này, Ubina cho biết: "Các công cụ vô hại liên quan đến việc phát triển các loại thuốc hữu ích đã được biến đổi thành công cụ tìm kiếm phân tử chết người bằng cách đảo ngược công dụng của chúng."

Hệ thống AI đề xuất 40.000 vũ khí hóa học mới chỉ trong 6 giờ - Ảnh 2.

"Điều khiến chúng tôi thất vọng nhất là rất nhiều hợp chất được tạo ra được dự đoán là thực sự độc hại hơn VX. Và vấn đề là VX về cơ bản là một trong những chất độc mạnh nhất được biết đến. Có nghĩa là bạn sẽ chỉ cần một lượng rất, rất, rất ít để có thể gây chết người", ông cho biết. "Tất nhiên, đây là những dự đoán mà chúng tôi chưa xác minh và chắc chắn chúng tôi không muốn tự mình xác minh điều đó. Nhưng các mô hình dự đoán nói chung là khá tốt. Vì vậy, ngay cả khi có rất nhiều kết quả dương tính giả, chúng tôi e rằng có một số phân tử mạnh hơn trong đó."

Mặc dù Ubina không tiết lộ chi tiết nội dung thí nghiệm để ngăn chặn việc lạm dụng, nhưng ông cho biết các công cụ miễn phí như Python và bộ dữ liệu thuốc miễn phí đã được sử dụng trong thí nghiệm này. Vì vậy, nếu bạn là một người am hiểu công nghệ và khoa học thì nội dung thí nghiệm này có thể được mô phỏng lại, với chi phí thấp và trong thời gian ngắn.

"Tôi không muốn mọi thứ nghe có vẻ quá giật gân, nhưng khá dễ dàng để ai đó có thể lặp lại những gì chúng tôi đã làm", ông nói thêm.

Hệ thống AI đề xuất 40.000 vũ khí hóa học mới chỉ trong 6 giờ - Ảnh 3.

 

Tất nhiên, việc đó sẽ đòi hỏi một số yếu tố chuyên môn. Nếu ai đó kết hợp những điều này lại với nhau mà không biết gì về hóa học, thứ cuối cùng được tạo ra sẽ không hữu ích cho lắm. Và vẫn còn bước tiếp theo là phải tổng hợp các phân tử đó. Tìm kiếm một loại thuốc tiềm năng hoặc phân tử độc hại mới tiềm năng là một chuyện, bước tiếp theo của quá trình tổng hợp - tạo ra một phân tử mới trong thế giới thực - sẽ là một rào cản khác.

Và vấn đề lớn nhất là không ai thực sự biết liệu những phân tử này có thực sự độc hại hay không. Sẽ có một số kết quả dương tính giả.

Tuy nhiên, nhóm nghiên cứu vẫn muốn nâng cao nhận thức về vấn đề này để khiến mọi người thực sự lưu tâm đến nó. Ông Ubina đã cảnh báo về tình trạng có thể dễ dàng xác định các phân tử ứng viên cho vũ khí hóa học bằng cách sử dụng AI và đang kêu gọi các nhà khoa học trên thế giới cùng thảo luận về một cơ chế ngăn chặn việc lạm dụng các hệ thống AI mã nguồn mở.

"Tôi không muốn đề xuất rằng AI sẽ bắt đầu tạo ra các phân tử độc hại và sắp tới sẽ có một loạt tác nhân chiến tranh sinh hóa mới. Tôi không muốn tỏ ra lo lắng khi nói rằng sẽ có chiến tranh hóa học do AI điều khiển. Tôi không nghĩ đó là trường hợp này. Tôi cũng không nghĩ rằng nó sẽ sớm xảy ra như vậy. Nhưng, chuyện đó đang bắt đầu trở thành một khả năng tiềm ẩn."

Báo cáo hiện đã được công bố trên tạp chí Nature Machine Intelligence.

(Theo Pháp luật và Bạn đọc, TheVerge)

Tình báo Anh cảnh báo cuộc đua AI, Trung Quốc chuyển hướng nỗ lực về chip

Tình báo Anh cảnh báo cuộc đua AI, Trung Quốc chuyển hướng nỗ lực về chip

Tình báo Anh cảnh báo về cuộc đua nắm quyền khống chế AI; Grab IPO kỳ vọng vốn hóa 40 tỷ USD; Trung Quốc chuyển hướng nỗ lực về chip tiên tiến;... là những thông tin nổi bật trong bản tin Công nghệ thứ 7 tuần này.

 

tin nổi bật

Xem xe tăng robot tự hành "thả" drone và khai hoả

Xe tăng robot chiến đấu không người lái hạng trung (M-RCV) vừa được Bộ Quốc phòng Israel giới thiệu tại Triển lãm Quốc phòng và An ninh Eurosatory ở Paris mới đây.

NFT “dùng thử” lần đầu xuất hiện trên thị trường crypto

Startup Calo Metaverse vừa giới thiệu rộng rãi phiên bản Trial NFTs. Đây là dự án đầu tiên trên thế giới triển khai NFTs bản “dùng thử” có giới hạn.

Bệnh viện không giấy tờ, không xếp hàng, không thanh toán bằng tiền mặt

Người dân không phải xếp hàng, sử dụng một loại giấy tờ chung và thanh toán số khi đến bệnh viện, đó là những gì chuyển đổi số có thể mang lại cho ngành y tế Việt Nam.

Đèn đường thông minh, logistic xanh là tương lai của smart city ở Việt Nam

Sau một khoảng thời gian tăng trưởng nóng, các đô thị ở Việt Nam đang hướng tới những mô hình phát triển đô thị bền vững, đô thị xanh, đô thị thông minh.

Không chỉ là tiền điện tử, Blockchain sẽ là “cơn sóng thần” công nghệ

Khẳng định Blockchain không chỉ là tiền điện tử, Giám đốc Công nghệ (CTO) Tập đoàn FPT cho rằng, công nghệ Blockchain sẽ được ứng dụng trong rất nhiều lĩnh vực của đời sống.

Miraway liên tiếp giành những giải thưởng danh giá

Công ty Cổ phần Miraway Giải pháp Công nghệ vừa nhận danh hiệu Top 10 Thương hiệu Dẫn đầu Việt Nam 2022 và giải thưởng Best Solution Awards 2021.

Xem chó robot bơi qua suối, vượt đường rừng

Chó robot có thể bơi qua suối nhẹ nhàng và thuần thục. Đây là phiên bản robot Vision 60 mới nhất vừa được công ty Ghost Robotics giới thiệu.

Chuyển đổi số thành hay bại phụ thuộc vào người đứng đầu

Người đứng đầu có vai trò quyết định trong tháo gỡ, thay đổi thể chế để chuyển đổi số diễn ra nhanh hơn.

Tra cứu online, nhận diện khuôn mặt: Chuyện thường ngày ở thành phố thông minh

Tìm chỗ đỗ xe online, nhắn tin địa chỉ cửa hàng để kiểm tra vệ sinh an toàn thực phẩm... đó là những điều khi nghe qua nhiều người nghĩ chỉ có ở nước ngoài. Thế nhưng, không khó để trải nghiệm điều này tại các thành phố thông minh ở Việt Nam.

Hàng năm, mỗi người Việt thải 54 kg rác thải nhựa ra môi trường

Lượng rác thải nhựa người Việt thải ra môi trường đã tăng lên rất nhanh. Đây là lý do nhiều dự án thí điểm đang được Việt Nam cùng các tổ chức quốc tế phối hợp triển khai nhằm giảm thiểu rác thải nhựa.

Xem nông dân sử dụng smartphone điều khiển máy gặt không người lái trên đồng

Công nghệ đã giúp những người nông dân Trung Quốc trồng trọt, thu hoạch, quản lý đồng ruộng dễ dàng ngay cả trong điều kiện thời tiết khắc nghiệt.

Bitcoin giảm sốc còn 20.000 USD, vẫn tiếp tục dò đáy

Trong 2 năm trở lại đây, chưa khi nào giá Bitcoin lại tụt giảm thê thảm đến vậy.

80% thị phần điện toán đám mây Việt Nam nằm trong tay doanh nghiệp ngoại

Đây là một thực trạng cần lưu ý trong bối cảnh hạ tầng thông tin truyền thông sẽ đóng vai trò ngày càng quan trọng trong đời sống kinh tế, xã hội số.

Cuộc thi Oraichain Hackathon 2022 đã tìm ra người chiến thắng

Oraichain Hackathon 2022 là cuộc thi lập trình Blockchain do Trung ương Đoàn TNCS Hồ Chí Minh và Công ty Cổ phần Oraichaion Labs phối hợp tổ chức.

Bitcoin giảm sốc nhất 2 năm qua, thị trường crypto chìm trong sắc đỏ

Kể từ cuối năm 2020 đến nay, chưa khi nào giá Bitcoin lại giảm sâu đến vậy. Đây là một tín hiệu xấu cho cả thị trường crypto.