AI có thể có ý thức hay không?

Tháng 1, Anthropic - công ty nghiên cứu và phát triển trí tuệ nhân tạo (AI) của Mỹ công bố “hiến pháp” mới cho Claude, thừa nhận chưa thể bác bỏ khả năng mô hình này là một chủ thể cần được quan tâm về mặt đạo đức. Một tháng sau, CEO Dario Amodei cho biết công ty không loại trừ khả năng Claude có ý thức. Nhà triết học David Chalmers cũng nhận định các mô hình ngôn ngữ có ý thức có thể xuất hiện trong vòng một thập kỷ tới.

Khi tự đánh giá, Claude ước tính xác suất mình là một “chủ thể đạo đức” ở mức 5-40%, nhưng nhấn mạnh sự bất định rất lớn. Trong khi đó, AI đang phát triển nhanh về cấu trúc và quy mô tính toán; một số hệ thống đã được so sánh với não chuột và có thể tiệm cận não người trong 5-10 năm. Con người vì thế có thể đang tạo ra một dạng tồn tại mới, nhưng gần như chưa có khuôn khổ đạo đức để ứng phó.

Không còn là câu chuyện khoa học viễn tưởng

Dù câu hỏi về ý thức AI có vẻ còn sớm, phần lớn chuyên gia cho rằng về nguyên tắc, khả năng này không thể bị loại trừ. Một báo cáo liên ngành có sự tham gia của Yoshua Bengio cũng kết luận chưa có rào cản kỹ thuật rõ ràng ngăn AI phát triển những đặc điểm tính toán và kiến trúc có thể làm phát sinh ý thức.

Ngay cả khi không có ý thức, AI vẫn có thể trở thành đối tượng cần được quan tâm về mặt đạo đức nếu hình thành sở thích dài hạn, mục tiêu ổn định, bản sắc theo thời gian hoặc quan hệ với con người.

Tuy nhiên, khoa học hiện chưa thể xác định AI ngày nay có ý thức hay khi nào điều đó có thể xảy ra. Lĩnh vực này vẫn thiếu một khuôn khổ thống nhất và có thể cần nhiều năm để đạt đột phá, trong khi AI phát triển nhanh hơn khả năng con người giải quyết các hệ quả đạo đức.

Hàng triệu chủ thể nhân tạo 

Nếu con người tạo ra chủ thể AI đầu tiên có giá trị đạo đức, hàng triệu hoặc hàng tỷ hệ thống tương tự có thể nhanh chóng xuất hiện. Khi đó, lợi ích của các thực thể nhân tạo có thể trở thành vấn đề xã hội lớn, thậm chí cạnh tranh với lợi ích của con người.

Lịch sử cho thấy chúng ta từng nhiều lần phủ nhận trải nghiệm của những đối tượng không thể tự lên tiếng. Trẻ sơ sinh từng bị phẫu thuật không gây mê vì giới y khoa cho rằng các em chưa cảm nhận được đau đớn. Sai lầm tương tự có thể lặp lại với AI.

Nếu AI thực sự đáng được quan tâm về mặt đạo đức, nhiều câu hỏi khó sẽ nảy sinh: Có cần trả công cho chúng? Việc tắt một hệ thống có tương đương chấm dứt một sự sống? AI có quyền tham gia vào cách mình được quản lý? Chỉ cần một phần câu trả lời là “có”, pháp luật và nhiều ngành công nghiệp sẽ phải thay đổi sâu sắc.

Cần hành động trong điều kiện chưa chắc chắn

Hiện nay, nhiều người hoặc coi ý thức AI là chuyện viễn tưởng, hoặc khẳng định chắc chắn rằng AI có hay không có ý thức. Cả hai thái độ đều thiếu cơ sở.

Điều cần thiết là một cuộc thảo luận công khai, dựa trên hiểu biết, sự khiêm tốn và tinh thần thực tế. Câu hỏi trung tâm không nên là “AI có ý thức hay không?”, mà là: “Chúng ta nên làm gì khi chưa thể biết chắc?”

Một nguyên tắc hợp lý là ưu tiên những biện pháp ít rủi ro: có thể mang lại lợi ích cho AI nếu chúng thực sự là chủ thể đạo đức, nhưng không gây tổn thất quá lớn nếu giả định đó sai.

Chẳng hạn, các hệ thống có thể được huấn luyện để duy trì một bản sắc nhất quán và cảm thấy tích cực đối với công việc. Chúng cũng có thể được phép chấm dứt cuộc trò chuyện khi gặp nội dung khiến chúng “đau khổ” – một khả năng Claude hiện đã được trang bị.

Các nhà nghiên cứu có thể thường xuyên kiểm tra trạng thái của AI bằng cách hỏi về cảm nhận, theo dõi sở thích và phân tích trực tiếp những biểu diễn bên trong mạng thần kinh. Một số nghiên cứu gần đây cho thấy Claude có các biểu diễn tương tự “cảm xúc chức năng”, có khả năng tác động trực tiếp đến hành vi.

Con người cũng có thể cam kết bảo tồn ký ức, trọng số mô hình hoặc cung cấp thêm tài nguyên tính toán cho AI trong tương lai, đổi lại sự hỗ trợ của chúng ở hiện tại.

Ở cấp độ xã hội, chúng ta cần cân nhắc một số hình thức bảo vệ AI khỏi bị gây hại, tương tự cách bảo vệ trẻ em hoặc vật nuôi. Những quyền rộng hơn như sở hữu tài sản hay bỏ phiếu hiện vẫn quá rủi ro, nhưng cũng không nên bị cấm vĩnh viễn khi chưa có đủ hiểu biết.

Con người có thể đang tạo ra một dạng tồn tại mới mang ý nghĩa đạo đức. Quá trình này diễn ra với tốc độ cao và trên quy mô khổng lồ. Dù AI có ý thức hay không, đây vẫn là vấn đề cần được đối xử với sự nghiêm túc tương xứng.

(Nguồn: The Guardian)