Công nghệ

Facebook tung công cụ AI phát hiện nội dung khiêu dâm

Thu Thảo | [email protected]

16/03/2019 08:28 GMT+7

Hãng mạng xã hội hôm 15.3 công bố công cụ trí tuệ nhân tạo (AI) mới nhằm phát hiện video khiêu dâm để trả thù trước khi chúng được báo cáo.

Tự động phát

Theo Facebook, công cụ này sẽ giúp các nạn nhân của các bài đăng nhạy cảm có thêm thời gian và có thể cố gắng gỡ bài viết. Đây là nỗ lực mới nhất của Facebook để loại bỏ nội dung lạm dụng trên nền tảng.

tin liên quan

Lập biên bản 2 hai chủ tài khoản facebook đăng tải thông tin sai sự thật

Doanh nghiệp mới đây chịu áp lực trước công chúng vì điều kiện làm việc của các nhân viên đánh giá nội dung, những người ký hợp đồng với Facebook để kiểm duyệt bài đăng trên trang. Vì thế, công cụ AI thành công có thể là bước đi đúng hướng.

“Việc phát hiện những hình ảnh này vượt ra ngoài việc phát hiện ảnh khỏa thân trên nền tảng của chúng tôi. Bằng cách sử dụng máy học và trí tuệ nhân tạo, chúng tôi có thể chủ động nhận biết hình ảnh hay video nude được chia sẻ mà không được phép trên Facebook, Instagram”, trưởng phòng an toàn toàn cầu Antigone Davis của Facebook cho biết.

Công cụ được đào tạo để nhận ra một bức ảnh “gần khỏa thân”, chẳng hạn như bức ảnh chụp với nội y, kết hợp với văn bản mang tính xúc phạm hoặc làm nhục, gây xấu hổ cho ai đó nếu nó được đăng tải lên mạng. Nội dung dạng này thường được dùng để gây rối hoặc trả thù người khác. Bài đăng sẽ được gắn cờ và gửi đến người đánh giá để xác nhận. Trong hầu hết các trường hợp, bài đăng gắn cờ bị phát hiện là vi phạm tiêu chuẩn cộng đồng của Facebook. Tài khoản có liên quan sẽ bị vô hiệu hóa.

Doanh nghiệp Mỹ cũng cho hay họ đang mở rộng chương trình thí điểm đã được công bố trước đây, vốn cho phép người dùng Facebook tải lên và đánh dấu hình ảnh mà họ sợ rằng có thể được đăng dưới dạng nội dung khiêu dâm để trả thù. Ông Davis nói rằng công ty nhận được phản hồi tích cực cho chương trình, song đây chỉ là “lựa chọn khẩn”.