Công cụ này được biết đến với tên gọi GLTR (Giant Language Model Test Room - Phòng thử nghiệm mô hình ngôn ngữ khổng lồ). Công việc của GLTR là sử dụng trí thông minh nhân tạo để phát hiện các mẫu văn bản được tạo ra bởi AI.

GLTR làm nổi bật các từ ngữ trong một đoạn văn bản dựa trên khả năng xuất hiện trở lại của chúng. Màu xanh lá cây là dễ dự đoán nhất, màu đỏ và vàng ít được dự đoán hơn, trong khi màu tím rất ít được dự đoán. 

{keywords}
Cách GLTR bôi màu một đoạn văn bản để từ đó tìm ra fake news tạo bởi AI. 

Có vẻ như, dựa vào màu sắc của đoạn văn bản, các nhà phân tích sẽ có thể nhìn vào đây để đánh giá xem liệu chúng có phải tạo ra bởi thuật toán hay không. 

Ví dụ, đoạn văn bản được bôi màu (tím, đỏ, vàng) sẽ ít có khả năng được tạo ra bằng AI do sử dụng nhiều từ ngữ khó. Trong khi đó, với những đoạn văn bản toàn một màu xanh, chúng được cấu thành từ ngữ từ phổ biến hơn, và khả năng một con bot tạo ra chúng vì vậy cũng sẽ nhiều hơn. 

{keywords}
Công cụ này sẽ đóng góp trong cuộc chiến chống lại fake news đang ngày càng diễn biến phức tạp. 

Theo nhóm nghiên cứu, công cụ này có ích cho các trang mạng xã hội như Facebook và Twitter khi họ phải đối mặt với các nội dung tràn lan do những con bot tạo ra. Khi được kết hợp với một người chưa qua đào tạo, công cụ này giúp tăng tỷ lệ phát hiện văn bản giả mạo từ 54% lên thành 72%.

GLTR được xây dựng nhờ việc phân tích và cả những hiểu biết sâu sắc về cách mà AI làm việc. Trong báo cáo của mình, nhóm nghiên cứu cho rằng sản phẩm của họ sẽ giúp cho người đọc tỉnh táo hơn trong việc phát hiện ra các văn bản giả mạo. 

Tuấn Nghĩa (Theo CNET)