Câu chuyện ảo, nỗi đau thực

Nhìn lại vụ lật tàu Vịnh Xanh 58 tại Quảng Ninh cuối tháng 7 vừa qua, trong khi toàn xã hội hướng về cùng sự thương cảm, xót xa, nhiều tài khoản mạng xã hội lại lợi dụng bi kịch này để câu view, câu like bằng các hình ảnh, clip và thông tin bịa đặt. Đáng lo ngại hơn, một số người còn sử dụng AI để sáng tác những câu chuyện đau lòng về các nạn nhân nhằm thu hút sự chú ý.

Fanpage M.C.O là một ví dụ, khi sử dụng AI tạo hình ảnh minh họa và dựng những câu chuyện hư cấu đầy kịch tính xoay quanh vụ chìm tàu. Chỉ trong chưa đầy 24 giờ sau tai nạn, trang này đăng hơn 10 bài viết với tiêu đề giật gân, miêu tả cảnh sinh ly tử biệt, khiến nhiều người tưởng đây là thông tin thật.

Dù có ghi chú "tình tiết hư cấu" hay "hình ảnh minh họa", hàng loạt bình luận tiếc thương nhân vật trong bài cho thấy không ít người bị đánh lừa.

Chị Linh Anh, một nhà báo công tác tại Hà Nội chia sẻ: "Tôi được giao nhiệm vụ tiếp cận gia đình nạn nhân ở Linh Đàm có 3 người tử vong, chỉ còn cậu bé 10 tuổi sống sót. Một người bạn thân gửi cho tôi đường link bài viết chi tiết, sống động khiến tôi ngỡ ngàng.

Nhưng đọc kỹ, tôi nhận ra nhiều chi tiết không đúng sự thật, vì nhà tôi gần đó, tôi theo sát thông tin và biết gia đình trong lúc tang gia rất bối rối, không thể tiếp cận. Những tình tiết thê lương trong bài chỉ là bịa đặt vô đạo đức".

Anh Đ, một người thân của nạn nhân, bức xúc: "Gia đình đang rất rối thì những thông tin nhiễu loạn trên mạng xã hội câu like như vậy thật vô cảm, làm thân nhân người xấu số thêm đau lòng".

Xuyên tạc, gây hiểu lầm

Mới đây, tại Thanh Hóa và Nghệ An lan truyền hàng loạt video giả mạo do AI tạo ra, gây hoang mang dư luận và ảnh hưởng đến nhận thức cộng đồng. Chỉ với vài từ khóa như "rúng động Thanh Hóa", "rùng rợn Nghệ An", "kinh hoàng Hải Phòng"… người dùng dễ dàng bắt gặp hàng loạt video án mạng giả tưởng được sản xuất bằng AI.

Ví dụ, video "Vụ án rúng động xứ Nghệ: Sát hại chồng, dựng kịch hoàn hảo để đến với nhân tình" nêu rõ xã, phường, tên tuổi nhân chứng và chi tiết gọi điện đến đường dây nóng lực lượng chức năng, khiến người xem khó nhận biết thật giả. Video về vụ thảm sát giả ở Hải Phòng hút 99.000 lượt xem chỉ sau một tuần đăng tải.

Ngoài ra, mạng xã hội cũng ghi nhận trào lưu đăng ảnh "phú bà, đại gia" tạo dáng cùng xe sang trong tình huống bị CSGT xử phạt, phần lớn do AI tạo ra nhằm câu view, thu hút tương tác. Dù có gắn nhãn "Hình ảnh được tạo bởi AI", trào lưu này vẫn gây tranh cãi và lo ngại về khả năng gây hiểu lầm, xuyên tạc sự thật liên quan đến lực lượng chức năng.

Cuối tháng 7 vừa qua, Phòng An ninh mạng và phòng, chống tội phạm công nghệ cao, Công an TP Hà Nội đã phát hiện và xử phạt N.V.D (trú tại Hà Nội) 7,5 triệu đồng về hành vi sử dụng AI đăng tải hình ảnh sai sự thật về lực lượng CSGT.

Trước đó, D đăng hình ảnh được vẽ bằng AI cảnh một thanh niên đứng bên xe ô tô hạng sang biển kiểm soát có chữ "Tập Nái" ký nộp phạt giữa đường, đánh lừa người xem.

Cần hành lang pháp lý và chế tài xử lý cụ thể

Luật sư Diệp Năng Bình, Trưởng Văn phòng luật sư Tinh Thông Luật cho biết, hành vi tạo và phát tán video AI giả mạo để câu view, lừa đảo có thể bị xử lý theo nhiều quy định.

Theo Nghị định 15/2020/NĐ-CP (sửa đổi 2022), cá nhân vi phạm bị phạt 5-10 triệu đồng, tổ chức 10-20 triệu đồng và buộc gỡ bỏ nội dung vi phạm.

Tùy theo tính chất và hậu quả, người vi phạm có thể bị xử lý về tội vu khống, tội đưa hoặc sử dụng trái phép thông tin mạng máy tính, mạng viễn thông hoặc tội lừa đảo chiếm đoạt tài sản, Bộ luật hình sự, với mức án lên tới tù chung thân.

Tuy nhiên, theo luật sư, hiện chưa có khung pháp lý chuyên biệt cho nội dung do AI tạo ra. Việc xác định chủ thể chịu trách nhiệm rất khó khi nội dung vi phạm do AI tự động sinh ra hoặc chỉnh sửa. Công nghệ deepfake còn làm việc thu thập chứng cứ số phức tạp hơn, trong khi chế tài chưa đủ sức răn đe.

Do đó, luật sư kiến nghị bổ sung định nghĩa pháp lý về "nội dung AI" và "deepfake" vào Luật An ninh mạng, Luật Công nghệ thông tin; nâng mức phạt hành chính, áp dụng hình phạt bổ sung và ban hành bộ quy tắc đạo đức cho việc sử dụng AI.

Theo chuyên gia An ninh mạng Ngô Minh Hiếu, công nghệ deepfake và AI hiện nay đã phát triển ở mức rất cao, có thể tái tạo khuôn mặt, giọng nói và biểu cảm với độ chính xác gần như thật. Các mô hình AI tiên tiến có thể học hàng nghìn khung hình, dữ liệu giọng nói chỉ từ vài phút video/audio để tạo ra nội dung giả mạo khó phân biệt bằng mắt thường.

Tuy nhiên, vẫn có thể phát hiện qua phân tích kỹ thuật như kiểm tra metadata, phân tích ánh sáng, bóng, khung hình bất thường, hoặc sử dụng các công cụ AI phát hiện deepfake.

Để tự bảo vệ mình, người dùng mạng xã hội cần nâng cao nhận thức, hiểu rằng nội dung trên mạng có thể bị giả mạo, không chia sẻ hoặc tin tưởng ngay khi chưa xác minh nguồn.