Trái với giai đoạn tiếp cận các công cụ nhân tạo để làm video Deepfake ghép mặt khá giới hạn như trước đây, hiện tại nhiều công cụ AI như Grok, ChatGPT, Meta AI, Gemeni, DeepSeek đã được phát hành đại trà và cho phép sử dụng miễn phí các tính năng cơ bản, trong đó có tạo hình ảnh. Người dùng có thể tạo được hình mong muốn hoặc thậm chí cắt ghép, chỉnh sửa mà không cần am hiểu về các kỹ thuật xử lý chuyên dụng. Điều này khiến tình trạng lợi dụng AI để ghép mặt cho các mục đích từ giải trí tới đe dọa ngày càng tăng trên internet.
Chị Y.N (quận 1, TP.HCM) cho biết từng là nạn nhân của nạn lợi dụng AI ghép hình ảnh để đe dọa và bị yêu cầu đưa số tiền lớn nếu muốn lấy lại các dữ liệu "nhạy cảm" dù toàn bộ được tạo bởi công cụ trí tuệ nhân tạo. Cụ thể, những hình ảnh cá nhân của chị đã bị kẻ gian thu thập và cắt ghép khuôn mặt vào các nội dung xấu, tạo những đoạn chat nhạy cảm rồi tìm tới chị Y.N để tống tiền.
Kẻ gian lợi dụng AI để chỉnh sửa, cắt ghép và tống tiền nạn nhân
Ảnh: NVCC
"Chúng cho tôi xem ảnh chụp màn hình các đoạn trò chuyện, hình ảnh, video giả mạo chúng tạo ra rồi yêu cầu đưa 100 triệu đồng để xóa các nội dung trên. Phải thừa nhận rằng hình ảnh ghép nhìn không thể nhận ra là thật hay giả", nạn nhân chia sẻ và cũng cho biết đã báo cơ quan chức năng về hành vi trên.
Trường hợp như chị Y.N chỉ là một trong số nhiều những vụ việc liên quan đến hành vi lợi dụng AI và các công cụ chỉnh sửa hình ảnh để phục vụ cho mục đích xấu gần đây. Hiện nay, người dùng mạng xã hội tại Việt Nam vẫn rất "vô tư" chia sẻ hình ảnh cá nhân, bạn bè và người thân lên mạng và công khai, dù đã có nhiều cảnh báo từ các chuyên gia trong lĩnh vực an toàn thông tin về vấn đề này.
Mới đây, Bộ Công an cũng gửi đi cảnh báo tới người dùng điện thoại về sự xuất hiện của tình trạng tội phạm lợi dụng các hình ảnh, video của người dân được công khai trên không gian mạng rồi chỉnh sửa, cắt, ghép tạo nội dung nhạy cảm nhằm đe dọa, tống tiền. "Khuyến cáo người dân cảnh giác khi nhận được các tin nhắn, cuộc gọi có nội dung như trên, không chuyển tiền khi bị đe dọa. Khi phát hiện dấu hiệu bị lừa đảo, cưỡng đoạt tài sản cần nhanh chóng trình báo cơ quan công an nơi gần nhất và phản ánh qua ứng dụng VNeID", thông báo ghi.
Ngoài mục đích tống tiền, kẻ gian cũng có thể sử dụng nhiều hình ảnh, video cá nhân được công khai của nạn nhân để tạo dựng nội dung giả nhằm bôi nhọ uy tín trong môi trường làm việc, trả thù cá nhân, gây tổn hại đến tinh thần, danh dự. Đáng chú ý, các tài liệu giả này ngày càng được làm tinh vi và khó phân biệt với cả người bình thường lẫn những ai quan tâm tới lĩnh vực trí tuệ nhân tạo.
Một nghiên cứu do Tidio - doanh nghiệp chuyên phát triển chatbot AI hỗ trợ bán hàng của Ban Lan - thực hiện vào cuối năm ngoái đã chỉ ra rằng phần lớn người dùng internet ngày càng khó phân biệt hình ảnh do AI tạo ra. Công ty tuyên bố có tới 87% người tham gia đã nhầm lẫn giữa ảnh AI và ảnh chụp người thật. Bên cạnh đó, 62% người được hỏi bày tỏ sự quan tâm đến lĩnh vực AI và máy học, nhưng một nửa trong nhóm này lại không nhận diện đúng các hình ảnh do trí tuệ nhân tạo tạo nên.
Hiện chưa có quy định riêng cho hành vi lợi dụng AI trong tội phạm mạng, nhưng việc sử dụng hình ảnh người khác để đe dọa, tống tiền hoặc phát tán thông tin giả mạo vẫn có thể bị xử lý theo các điều khoản liên quan đến tội làm nhục người khác, cưỡng đoạt tài sản hoặc truyền bá văn hóa phẩm đồi trụy.
Trước tình hình này, các chuyên gia khuyến cáo người dùng nên thận trọng khi chia sẻ hình ảnh cá nhân lên mạng xã hội, đồng thời sử dụng các công cụ bảo mật để kiểm soát quyền riêng tư.
Bình luận (0)