Nghiên cứu của các nhà khoa học tại MIT, Đại học Stanford, Đại học Columbia và một số cơ sở khác cho thấy AI nhìn chung giúp cả người không chuyên và bác sĩ nâng cao độ chính xác khi chẩn đoán bệnh da liễu. Tuy nhiên, cách AI giải thích quyết định của mình lại tạo ra những tác động rất khác nhau tùy vào kiến thức của người sử dụng.
Kết quả đáng chú ý nhất là những người không có chuyên môn y khoa thường dựa rất nhiều vào AI. Khi AI đưa ra lời giải thích bằng mô hình ngôn ngữ lớn (LLM), họ có xu hướng tin vào lời giải thích đó dù kết luận đúng hay sai.
Ngược lại, các bác sĩ ít bị ảnh hưởng bởi những thông tin sai từ AI. Thậm chí, nhóm này đạt kết quả tốt nhất khi chỉ được cung cấp dự đoán của mô hình mà không kèm theo lời giải thích dài dòng.
Khi lời giải thích của AI khiến người dùng tin hơn
Các hệ thống AI có khả năng giải thích thường được thiết kế để giúp người dùng hiểu vì sao mô hình đưa ra một kết luận nhất định.
Chẳng hạn, AI có thể sử dụng bản đồ nhiệt để đánh dấu vùng bất thường trên ảnh da, đưa ra những hình ảnh tương tự để đối chiếu hoặc dùng LLM giải thích kết luận bằng ngôn ngữ thông thường.
Nhóm nghiên cứu đã thử nghiệm nhiều hình thức như vậy với bác sĩ chăm sóc ban đầu và những người không có chuyên môn.
Người tham gia không chuyên được yêu cầu xác định một nốt ruồi có nguy cơ ung thư hay không. Trong khi đó, các bác sĩ phải thực hiện nhiệm vụ khó hơn là đưa ra chẩn đoán phân biệt đối với các bệnh da liễu.
Kết quả cho thấy tất cả các hình thức hỗ trợ bằng AI đều giúp nhóm không chuyên nâng độ chính xác, đặc biệt khi nhận diện những tổn thương không phải ung thư.
Tuy nhiên, nguyên nhân cải thiện lại đặt ra một vấn đề đáng lo ngại: họ làm tốt hơn chủ yếu vì tin và làm theo AI.
Khi mô hình đưa ra kết luận sai, sự phụ thuộc này khiến người dùng dễ mắc lỗi hơn. Hiệu ứng rõ nhất xuất hiện với những lời giải thích do LLM tạo ra. Người dùng không chỉ dễ chấp nhận kết luận sai mà còn tự tin hơn vào câu trả lời sai của mình.
Đáng chú ý, những lời giải thích chung chung hoặc có vẻ hợp lý đôi khi lại khiến người không chuyên cảm thấy thuyết phục hơn.
Bác sĩ kiểm tra AI, người không chuyên lại để AI định hướng
Sự khác biệt nằm ở cách hai nhóm sử dụng thông tin.
Một bác sĩ thường đã hình thành nhận định dựa trên kiến thức và kinh nghiệm trước khi xem gợi ý của AI. Vì vậy, họ có thể so sánh đề xuất của hệ thống với đánh giá chuyên môn của mình và phát hiện những lời giải thích không hợp lý.
Người không chuyên thì ngược lại. Họ có thể sử dụng chính lời giải thích của AI để hình thành nhận định ban đầu. Một lập luận nghe hợp lý, được trình bày tự tin và mạch lạc vì thế có thể kéo họ về phía một kết luận sai.
Cùng một công cụ có thể trở thành trợ thủ với chuyên gia nhưng lại là nguồn gây nhầm lẫn đối với người mới.
Nghiên cứu cũng phát hiện những người phụ thuộc AI nhiều nhất thường là những người thực hiện nhiệm vụ kém nhất khi không có AI hỗ trợ.
Thời điểm cung cấp thông tin cũng rất quan trọng. Nếu người dùng nhìn thấy lời giải thích của AI trước khi tự đưa ra nhận định, họ có xu hướng dựa vào mô hình nhiều hơn.
Không nên để AI trả lời trước con người
Các nhà nghiên cứu cho rằng thiết kế hệ thống AI y tế cần tính đến trình độ và cách tư duy của từng nhóm người dùng, thay vì áp dụng một mô hình chung cho tất cả.
Một hướng tiếp cận có thể hiệu quả hơn là yêu cầu người dùng tự đưa ra giả thuyết chẩn đoán trước, sau đó mới hiển thị đề xuất của AI để họ so sánh và cân nhắc những khả năng khác.
Cách thiết kế này có thể khuyến khích tư duy phản biện thay vì khiến người dùng mặc nhiên coi AI là nguồn thông tin đúng.
Nghiên cứu cũng cho thấy AI và con người có những thế mạnh khác nhau. AI thường làm tốt khi biểu hiện bệnh rất tinh tế và khó nhận biết, trong khi con người lại xử lý tốt hơn khi xuất hiện những triệu chứng bất thường hoặc những đặc điểm ngoài dự đoán.
Điều đó cho thấy vai trò phù hợp nhất của AI có thể không phải là thay con người đưa ra quyết định, mà là bổ sung những gì con người dễ bỏ sót.
Trong bối cảnh ngày càng nhiều người sử dụng chatbot và công cụ AI để hỏi về sức khỏe, phát hiện này đặc biệt đáng chú ý. Những người có ít kiến thức y khoa nhất có thể chính là nhóm hưởng lợi nhiều nhất từ AI, nhưng đồng thời cũng dễ bị dẫn sai nhất nếu hệ thống đưa ra một câu trả lời nghe có vẻ thuyết phục.
Vì vậy, thách thức của AI y tế không chỉ nằm ở việc tạo ra mô hình chính xác hơn. Điều quan trọng không kém là AI phải được thiết kế để giúp người dùng suy nghĩ tốt hơn, chứ không khiến họ ngừng suy nghĩ.
(Nguồn: MIT News)
.svg){kind=icon}
