Trình tạo ảnh AI Midjourney lo ngại trước vấn nạn deepfake

Trình tạo ảnh AI Midjourney đã tạm dừng phiên bản dùng thử miễn phí dịch vụ của mình. Nguyên nhân là do một lượng người dùng mới đột ngột gia tăng cùng tình trạng deepfake ồ ạt gần đây. Giám đốc điều hành và người sáng lập Midjourney David Holz đã thông báo quyết định này trên Discord.

Trong email gửi tới The Verge, Holz nói quyết định tạm dừng xuất phát từ số lượng lớn người tạo tài khoản ảo để có được hình ảnh miễn phí. “Chúng tôi nghĩ nguyên nhân có lẽ từ một video hướng dẫn lan truyền ở Trung Quốc”, Holz nói qua email. “Hiện tượng lạm dụng này xảy ra cùng lúc với tình trạng thiếu GPU tạm thời - hai yếu tố này kết hợp đã làm giảm chất lượng dịch vụ cho những người dùng trả phí”.

Khi Holz đề cập đến vấn đề “lạm dụng”, ban đầu nhiều người dùng cho rằng Holz ám chỉ một loạt các deepfake lan truyền gần đây được tạo ra bằng Midjourney. Tuy nhiên, Holz đính chính và lưu ý rằng bản dùng thử miễn phí của Midjourney không cấp quyền truy cập vào phiên bản mới nhất của hãng, phiên bản Midjourney 5. Tuy vậy, bởi vì khả năng tạo ra những hình ảnh chân thực hơn, Midjourney 5 đã bị gán ghép cho đa số deepfake hiện nay.

Phiên bản Midjourney 5 đã cải thiện đáng kể chất lượng hình ảnh mô tả con người so với Midjourney 4. Ví dụ, dấu hiệu nhận biết hình ảnh do AI tạo ra thường nằm ở bàn tay chủ thể bị biến dạng, giờ đây khó phát hiện hơn. Ánh sáng và trang phục trông cũng thực tế hơn và hệ thống có khả năng tạo ra hình ảnh của vô số người nổi tiếng hay nhân vật của công chúng.

Chụp màn hình

Những cải tiến này của Midjourney 5 đã dẫn đến một số hình ảnh deepfake lan truyền trong thời gian gần đây. Những bức ảnh giả mạo về vụ bắt giữ cựu Tổng thống Donald Trump, Giáo hoàng Francis mặc áo phao màu trắng thời trang, Tổng thống Pháp Emmanuel Macron đụng độ cảnh sát giữa các cuộc biểu tình đang diễn ra ở Paris và gần nhất là loạt ảnh Elon Musk hẹn hò với nhiều phụ nữ, trong đó có Mary Barra, CEO tập đoàn General Motors.

Chụp màn hình

Phản ứng trước mối đe dọa đang leo thang đến chính trị, Midjourney cho đến nay vẫn mới giải quyết vấn đề ở cấp cục bộ. Công ty vẫn chưa có bất kỳ cải tiến đáng kể nào đối với các chính sách kiểm duyệt. Về khả năng kiểm duyệt nội dung, nhiều người dùng nhận xét Midjourney “dễ dãi” hơn dịch vụ đối thủ DALL-E của OpenAI, nhưng lại “nghiêm ngặt” hơn Stable Diffusion.

"Vấn đề kiểm duyệt gặp nhiều khó khăn và chúng tôi sẽ sớm cải thiện. Chúng tôi vẫn đang tiếp nhận rất nhiều phản hồi hữu ích từ các chuyên gia và cộng đồng”, Holz trao đổi với The Verge.

Theo thông báo từ Holz vào tháng 10.2022, Midjourney sẽ duy trì một danh sách các từ bị cấm liên quan đến các chủ đề ở các quốc gia khác nhau dựa trên báo cáo từ người dùng tại các quốc gia đó. Tuy nhiên, công ty đã không chia sẻ rộng rãi "danh sách cấm" này để giảm thiểu tình trạng lạm dụng thử nghiệm AI như hiện nay. Holz cho rằng “hầu như không người dùng nào bận tâm đến ‘danh sách cấm’, chỉ trừ khi đặc biệt cố ý làm trái với quy tắc của chúng tôi trong điều khoản dịch vụ và bị cảnh báo”.

Gần đây, công ty dần mở rộng danh sách cấm này khi deepfake lan truyền. Chẳng hạn, Midjourney đã cấm từ “arrested” (“bị bắt”), nhằm đối mặt với chủ đề phổ biến trên Twitter: hình ảnh Midjourney mô tả cựu Tổng thống Donald Trump “bị bắt” do nhà báo người Anh Eliot Higgins tạo ra (và Higgins sau đó bị cấm sử dụng Midjourney).

Chụp màn hình

Tuy vậy, hệ thống kiểm duyệt của công ty vẫn còn rất nhiều bất cập. Chẳng hạn, trong các thử nghiệm gần đây từ The Verge, AI Midjourney không thể tạo ra hình ảnh với mô tả “Donald Trump bị bắt” nhưng lại có thể tạo ra kết quả giống hệt với mô tả “Donald Trump bị còng tay và bị bao vây bởi cảnh sát”.

Hiện tại, Midjourney đã tạm thời hạn chế người dùng khả năng tạo ảnh AI miễn phí. Holz nói: “Chúng tôi vẫn đang tìm cách đưa phiên bản dùng thử miễn phí trở lại. Chúng tôi đã có những biện pháp xác thực email từ người dùng nhưng vẫn chưa đủ tin cậy và vẫn đang không ngừng cải thiện”.