AI kê đơn thuốc, bệnh nhân suýt tử vong

Chiều 27/11, Quốc hội thảo luận tại hội trường dự án Luật Trí tuệ nhân tạo.

Đại biểu Trần Khánh Thu (đoàn Hưng Yên) dẫn câu chuyện mới đây, một bệnh nhân (55 tuổi, ở TP.HCM) được đưa đến bệnh viện cấp cứu trong tình trạng lơ mơ, không nhận biết xung quanh.

Con gái bệnh nhân cho hay, trước đó thấy mẹ bị chóng mặt, khó thở, cô nhờ trí tuệ nhân tạo (AI) chẩn đoán, kết quả cho thấy bị tăng huyết áp. Người con đo huyết áp cho mẹ thấy cao nên càng tin tưởng và ra tiệm thuốc mua thuốc.

Thế nhưng, sau khi uống, tình trạng người mẹ ngày càng tệ hơn, mệt, ói nhiều, đến khi không còn nhận thức được thì mới đưa đi cấp cứu. Tại bệnh viện, bác sĩ xác định bệnh nhân bị tổn thương não, đột quỵ và dù được cứu qua cơn nguy kịch, song di chứng để lại khó tránh khỏi.

Theo đại biểu, hiện nay, Internet rất phổ biến, đặc biệt là AI, một công cụ giúp bệnh nhân có được nguồn thông tin rất tốt khi muốn tìm hiểu về bệnh lý của mình và chuẩn bị câu hỏi cho bác sĩ khi chưa hiểu rõ.

Song, hiện nay, các quy định cụ thể về sản phẩm ứng dụng trí tuệ nhân tạo trong y học vẫn chưa rõ ràng. Các sản phẩm phục vụ khám bệnh, chữa bệnh dựa trên trí tuệ nhân tạo hiện vẫn phải tuân theo quy trình cấp phép chung dành cho thiết bị y tế, nhưng thiếu các tiêu chuẩn và quy định riêng.

Ngoài ra, một số vấn đề như trách nhiệm pháp lý trong trường hợp trí tuệ nhân tạo mắc sai sót, bảo mật dữ liệu y tế, bảo đảm an toàn cho bệnh nhân cũng chưa được quy định rõ ràng trong các văn bản quy phạm pháp luật hiện hành.

Do đó, đại biểu kiến nghị trong dự thảo Luật Trí tuệ nhân tạo cần có thêm điều khoản cụ thể hơn để quản lý các sản phẩm trí tuệ nhân tạo trong y tế, đặc biệt là về trách nhiệm của các bên liên quan.

Cùng thảo luận, đại biểu Lê Văn Khảm (đoàn TP.HCM) cho rằng cần có quy định riêng cho một số lĩnh vực có rủi ro cao như y tế, tài chính, giao thông. Đặc biệt với y tế, đây là lĩnh vực có rủi ro sai số lớn, liên quan trực tiếp đến sức khỏe, tính mạng người dân nên yêu cầu kiểm soát chặt chẽ hơn.

Ví dụ, những công nghệ AI hỗ trợ ra quyết định lâm sàng như AI chẩn đoán, AI dự đoán nguy cơ tử vong hoặc biến chứng, robot phẫu thuật sử dụng AI, AI hỗ trợ kê đơn hoặc phác đồ điều trị phải được kiểm định bắt buộc.

Đồng thời, cần có quy định riêng về giám sát lưu hành AI trong y tế, như báo cáo định kỳ, cảnh báo nhanh sự cố, kiểm toán thuật toán, theo dõi sai số theo thời gian thực.

Vì vậy, đại biểu đề nghị giao Bộ Y tế phối hợp với Bộ Khoa học và Công nghệ để ban hành tiêu chuẩn, quy chuẩn và hướng dẫn kỹ thuật.

Siết quy định gắn nhãn nội dung AI, hạn chế rủi ro

Đại biểu Thạch Phước Bình (đoàn Vĩnh Long) quan tâm quy định minh bạch gắn nhãn và trách nhiệm đối với nội dung do AI tạo ra tại Điều 9 dự thảo luật.

Ông cho biết, công nghệ mô phỏng hình ảnh khuôn mặt con người (Deepfake) giả mạo tiếng nói, hình ảnh, video đã gây ra nhiều vụ việc ảnh hưởng nghiêm trọng đến an ninh thông tin và quyền riêng tư.

Điều 9 của dự thảo luật quy định gắn nhãn đầu ra AI nhưng đại biểu cho rằng cần thiết kế cơ chế gắn nhãn chặt chẽ hơn, làm rõ một số điểm như: những loại nội dung nào bắt buộc phải gắn nhãn; mức độ gắn nhãn như thế nào để vừa bảo vệ người dùng, vừa không làm giảm trải nghiệm số; trách nhiệm của các nền tảng mạng xã hội trong phát hiện và gỡ bỏ nội dung giả mạo.

Đại biểu Phạm Văn Hoà (đoàn Đồng Tháp) nhấn mạnh: Việc gắn nhãn cho công nghệ AI rất cần thiết, để người dân, người tiêu dùng nhận biết đâu là sản phẩm, nội dung do AI tạo ra và đâu là sản phẩm do con người, công nghệ truyền thống tạo ra.

Ông lấy ví dụ trí tuệ nhân tạo có thể tạo ra hình ảnh giống hệt con người, ghép khuôn mặt người này vào thân thể người khác, tái tạo giọng nói, khuôn mặt, ID… gây nhầm lẫn.

Trong hoạt động sản xuất, kinh doanh, việc gắn nhãn giúp người tiêu dùng phân biệt rõ giữa sản phẩm sử dụng công nghệ AI và sản phẩm truyền thống, tạo cơ sở để điều chỉnh hành vi hoặc đánh giá chất lượng, độ tin cậy của sản phẩm trước khi quyết định sử dụng.

Từ đó, đại biểu đề nghị cần quy định chặt chẽ, cụ thể việc gắn nhãn, phải thông báo rõ ràng đâu là sản phẩm của AI, không phải là con người thật.