AI giả giọng lãnh đạo và hệ lụy khôn lường

Khi công nghệ đủ sức giả giọng lãnh đạo, cơ quan công quyền hay người thân, mối đe dọa không còn dừng ở những vụ lừa đảo chiếm đoạt tài sản mà đã chạm tới nền tảng niềm tin của xã hội số.

Bẫy công nghệ deepfake

Chị Phạm Thị Thu Hà, trú tại phường Bạch Mai, Hà Nội đang chuẩn bị chuyển khoản 200 triệu đồng cho một tài khoản lạ, sau cuộc điện thoại chỉ kéo dài chưa đầy hai phút. Ở đầu dây bên kia là giọng một người đàn ông tự xưng cán bộ điều tra.

Giọng nói chuẩn mực, điềm tĩnh, cách nhấn nhá giống hệt những gì nạn nhân thường nghe trên truyền hình. Người này thông báo tài khoản ngân hàng của chị liên quan đến một đường dây rửa tiền và yêu cầu phối hợp xác minh khẩn cấp.

Không phải nội dung cuộc gọi khiến chị hoảng sợ. Mà điều khiến chị tin tưởng là giọng nói.

Đó cũng là cách hàng loạt nạn nhân tại Việt Nam đang bị dẫn dụ vào những chiếc bẫy công nghệ mới mang tên deepfake (công nghệ ứng dụng trí tuệ nhân tạo (AI) để tạo ra các sản phẩm giả mạo như âm thanh, hình ảnh hoặc video với độ chân thực cực cao).

Theo cảnh báo của cơ quan công an, tội phạm mạng hiện không còn dừng ở những cuộc gọi mạo danh thông thường. Chúng sử dụng AI để giả giọng, giả hình ảnh, giả video, thậm chí mô phỏng khuôn mặt và biểu cảm của người quen nhằm tạo ra những kịch bản lừa đảo có độ tin cậy rất cao.

Thực tế cho thấy, chỉ cần vài giây âm thanh đăng tải trên Facebook, TikTok, YouTube hay các nền tảng mạng xã hội, các hệ thống AI hiện nay đã có thể tái tạo gần như hoàn chỉnh chất giọng, ngữ điệu, cảm xúc và phong cách giao tiếp của một cá nhân.

Điều đáng sợ là công nghệ này đang ngày càng rẻ, dễ tiếp cận và gần như không còn rào cản kỹ thuật.

Thiệt hại 40.000 tỷ đồng trong 5 năm

Tại Việt Nam, các hình thức giả danh công an, viện kiểm sát, ngân hàng, lãnh đạo doanh nghiệp bằng công nghệ AI đang xuất hiện với tần suất ngày càng dày đặc.

Đại tá Nguyễn Hồng Quân, Phó Cục trưởng Cục An ninh mạng và phòng chống tội phạm sử dụng công nghệ cao (A05), Bộ Công an cho biết, thủ đoạn sử dụng deepfake để đóng giả cơ quan chức năng nhằm thao túng tâm lý và chiếm đoạt tài sản. Có trường hợp công an thật tới tận nơi khuyên ngăn nhưng nạn nhân vẫn chuyển tiền cho "công an giả" trên điện thoại.

Theo thống kê được công bố từ Bộ Công an, từ năm 2020 - 2025, Việt Nam ghi nhận hơn 24.000 vụ lừa đảo trên không gian mạng với tổng thiệt hại gần 40.000 tỷ đồng.

Tiền bạc có thể chưa phải thiệt hại lớn nhất. Điều nguy hiểm hơn là công nghệ đang bắt đầu làm lung lay một trong những cơ chế xác thực tự nhiên nhất của con người: Niềm tin vào điều mình nghe thấy.

Điển hình là nguy cơ từ những phát ngôn giả mang danh lãnh đạo. Trong hàng nghìn năm phát triển xã hội, giọng nói luôn được xem là dấu hiệu nhận diện có độ tin cậy rất cao. Con người có thể nghi ngờ một tin nhắn, nghi ngờ một tài khoản mạng xã hội. Tuy nhiên, rất ít người có phản xạ nghi ngờ giọng nói quen thuộc của người thân, lãnh đạo hay cơ quan công quyền.

Thật giả khó lường

Nếu như trước đây deepfake chủ yếu được sử dụng cho các hành vi lừa đảo tài chính, thì hiện nay giới chuyên gia cảnh báo công nghệ này đang mở ra một dạng tấn công mới: Tấn công vào nhận thức cộng đồng.

Nguy cơ không còn nằm ở vài trăm triệu hay vài tỷ đồng bị chiếm đoạt mà ở khả năng tạo ra những phát ngôn giả của lãnh đạo Đảng, Nhà nước hoặc các cơ quan quản lý trong những thời điểm nhạy cảm.

Chỉ cần một đoạn ghi âm giả liên quan tới chính sách tiền tệ, thiên tai, dịch bệnh, an ninh năng lượng hay hệ thống ngân hàng được phát tán đúng thời điểm, hiệu ứng hoang mang có thể lan truyền với tốc độ cấp số nhân trên mạng xã hội. Khi đó, thiệt hại không còn đo bằng tiền mà là sự bất ổn tâm lý xã hội.

Ông Hoàng Đỗ Thanh Tùng, Trưởng phòng Hệ thống AI và Tối ưu hóa Quản lý, Viện Công nghệ thông tin (Viện Hàn lâm khoa học và công nghệ Việt Nam) cho rằng: Giả giọng lãnh đạo và các cơ quan để lừa người dân là "cuộc tấn công vào nền tảng niềm tin".

Trong thời đại số, niềm tin đã trở thành một dạng hạ tầng vô hình quan trọng không kém điện, nước hay viễn thông. Niềm tin giúp người dân tiếp nhận thông tin chính thống. Niềm tin giúp thị trường vận hành ổn định. Niềm tin giúp các thiết chế quản trị duy trì hiệu quả.

Cần nhiều giải pháp đồng bộ

Trước làn sóng deepfake ngày càng tinh vi, các cơ quan quản lý Nhà nước đang bắt đầu siết chặt các biện pháp kiểm soát.

Theo Cục A05, Bộ Công an đang xây dựng các quy định mới nhằm xử lý nghiêm hành vi sử dụng AI và deepfake để tạo lập, phát tán thông tin sai sự thật, giả mạo hình ảnh, video, giọng nói trên không gian mạng.

Các dự thảo nghị định mới cũng đặt trách nhiệm lớn hơn đối với các nền tảng số xuyên biên giới trong việc kiểm định, kiểm soát và gỡ bỏ nội dung giả mạo theo yêu cầu của cơ quan chức năng.

Theo ông Vũ Thành Thắng, Chủ tịch AIZ (chuyên phát triển giải pháp doanh nghiệp AI), các cơ quan chức năng cần xây dựng tiêu chuẩn kỹ thuật quốc gia về nhận diện deepfake, phát triển công nghệ xác thực nội dung số và thúc đẩy các nền tảng AI có trách nhiệm; tăng cường quản lý môi trường nội dung số, bảo vệ hình ảnh, danh dự cá nhân trước các hành vi giả mạo bằng AI; nâng cao năng lực giám sát, phát hiện sớm và xử lý nhanh các nội dung deepfake độc hại có nguy cơ gây hoang mang xã hội hoặc ảnh hưởng tới an ninh thông tin quốc gia.