Ghi âm giả giọng tổng thống Mỹ bằng AI

Dùng AI (trí tuệ nhân tạo) để sản xuất thông tin thất thiệt gây tác động đến cuộc bầu cử tổng thống Mỹ không còn là nỗi lo mà đã trở thành hiện thực. Ngày 22.1 qua, Sở Tư pháp tiểu bang New Hampshire (Mỹ) đăng thông cáo về tình trạng một số người dân nhận được bản ghi âm giả mạo giọng Tổng thống Joe Biden yêu cầu họ không bỏ phiếu trong cuộc bầu cử sơ bộ tại địa phương.

Ghi âm được tạo bằng công nghệ Deepfake có sử dụng AI, khuyến cáo cử tri "tiết kiệm" lá phiếu của mình và khẳng định "phiếu bầu của công dân sẽ mang đến sự khác biệt vào tháng 11, không phải vào thứ ba sắp tới".

AFP

Theo Bloomberg, công ty chuyên phát hiện giả mạo giọng nói Pindrop Security đã tìm ra giọng ông Biden giả được tạo bởi công nghệ của công ty khởi nghiệp ElevenLabs - một startup trong lĩnh vực AI chuyên phát triển công cụ tạo giọng nói bằng trí tuệ nhân tạo, sử dụng mô hình ngôn ngữ có khả năng thêm ngữ điệu giống con người vào nội dung dựa trên ngữ cảnh.

Công ty có hàng nghìn giọng AI được tạo sẵn để người dùng chọn, hoặc tự tạo ra phiên bản của riêng. Trên website của hãng, ElevenLabs cho biết giọng của các chính trị gia được tạo bằng công nghệ Deepfake có thể sử dụng trong một số trường hợp nhất định, ví dụ châm biếm, biếm họa...

"Chúng tôi nỗ lực ngăn chặn việc sử dụng công cụ AI âm thanh sai mục đích và luôn xem xét đặc biệt cẩn trọng hành vi lạm dụng", đại diện công ty tuyên bố. Ngay sau khi phát hiện có người tạo đoạn giọng nói Tổng thống Joe Biden giả mạo liên quan đến bầu cử, công ty đã chặn tài khoản này.

Giáo sư ngành Khoa học máy tính Kathleen Carley tại Đại học Carnegie Mellon (Mỹ) cho rằng trường hợp trên chỉ là "phần nổi của tảng băng chìm" khi nói về vấn đề ngăn cản cử tri. "Đó chỉ là điềm báo cho những gì có thể xảy ra", Carley nhấn mạnh.