Trợ lý ảo có thể bị thao túng, nhận lệnh từ giọng nói siêu âm

Những câu lệnh được phát dưới dạng sóng siêu cao tần mà con người không nghe được. Chúng có thể được lồng vào các bản nhạc nhằm ngầm ra lệnh cho thiết bị của người dùng.

Các nhà nghiên cứu Mỹ và Trung Quốc đã thực hiện loạt bài kiểm tra nhằm chứng minh sự tồn tại của lệnh ẩn. Đó là những câu lệnh mà con người không thể nghe thấy nhưng lại tác động được đến trợ lý ảo, buộc chúng thực hiện các hành động vượt ngoài mong muốn của chủ nhân.

Thông tin từ tờ New York Time cho biết, kẻ xấu có thể tích hợp câu lệnh ẩn khi gọi vào số điện thoại, mở trang web hoặc nhiều hành động nguy hiểm khác.

Trợ lý ảo có thể bị thao túng, nhận lệnh từ giọng nói siêu âm

Một nhóm sinh viên đại học California và đại học Geogie Town (Mỹ) đã xuất bản bài nghiên cứu về chủ đề tương tự trong tháng này. Họ khẳng định đã tìm ra cách nhúng câu lệnh vào bản ghi âm hoặc văn bản nói.

Chúng được thể hiện dưới dạng âm thanh phát ra gần nơi đặt thiết bị có chứa trợ lý ảo. Người bình thường sẽ chỉ nghe được bài nhạc, trong khi các trợ lý ảo như Siri hay Amazon còn nhận về nhiều thông khác. Đó có thể là câu lệnh ngầm yêu cầu mở khóa máy hoặc chuyển tiền từ tài khoản.

Theo Nicholas Carlini, một thạc sĩ đang theo đuổi công trình nghiên cứu này, anh đang cố tìm hiểu xem liệu còn cách nào để truyền đi các đi các thông điệp ẩn hay không. “Khi không có bằng chứng chứng minh công nghệ này đã rời khỏi phòng thí nghiệm, sẽ chỉ còn là vấn đề thời gian khi ai đó bắt đầu khai thác chúng”, Nicholas Carlini chia sẻ.

 

Trợ lý ảo có thể bị thao túng, nhận lệnh từ giọng nói siêu âm

Hồi năm ngoái, các nhà khoa học tại Đại học Princeton và đại học Zhejjang (Trung Quốc) đã thực hiện một thí nghiệm tương tự nhằm chứng minh trợ lý ảo AI có thể được kích hoạt bằng các tần số mà con người không nghe được.

Trong kỹ thuật, người ta gọi đó là “DolphinAttack”. Các nhà nghiên cứu đã phát triển một máy phát (transmitter) để gửi lệnh ẩn yêu cầu máy gọi tới một nhân vật cụ thể. Họ còn thực hiện thêm các thử nghiệm khác với khả năng chụp ảnh và gửi tin nhắn. Kết quả cho thấy, việc thao túng có thể thực hiện nhưng gặp phải giới hạn về phạm vi. Nguồn phát phải ở rất gần thiết bị nhận mới có thể thực hiện được.

“DolphinAttack” có thể ngấm ngầm ra lệnh cho 7 hệ thống nhận dạng giọng nói khác nhau, trong đó bao gồm cả các công cụ nổi tiếng như Siri, Alexa để kích hoạt hệ thống.

Một nhóm nghiên cứu khác tại đại học Illinos cho biết, giới hạn việc truyền tải lệnh ẩn có thể lên tới hơn 7 mét. Với nhóm nghiên cứu của Nicolas Carlini, ông tự tin rằng đội ngũ của mình có thể đánh lừa bất kỳ hệ thống thông minh nào hiện có trên thị trường. Nhóm nghiên cứu muốn khẳng định rằng đây là một lỗ hổng tiềm tàng và sẽ phải sớm được khắc phục.

Tuấn Nghĩa(Theo Macrumors)

Trợ lý ảo Google thay chủ nhân trò chuyện như người thật

Trợ lý ảo Google thay chủ nhân trò chuyện như người thật

Google Assistant đang ngày càng trở nên thật hơn khi có thể thực hiện các nhiệm vụ phức tạp như thực hiện một cuộc gọi điện và hiểu rõ sắc thái của cuộc trò chuyện.

Trợ lý ảo Google được nâng cấp, biết tự gợi ý

Trợ lý ảo Google được nâng cấp, biết tự gợi ý

Khi người dùng lên tiếng, trợ lý ảo Google Assistant sẽ tự đặt câu hỏi gợi ý một loạt các vấn đề liên quan. Nhiệm vụ của người dùng lúc này chỉ đơn giản là lựa chọn.  

 
 
 

Tin liên quan