Dùng AI để 'trêu đùa' cuộc gọi lừa đảo

Giáo sư Dali Kaafar (đại học Macquarie, Úc) cùng các cộng sự đã tạo ra chatbot AI mang tên Apate để chuyên đối phó với các cuộc gọi lừa đảo, cuộc gọi rác tiếp thị. Phần mềm sẽ thay đổi nội dung cuộc trò chuyện, vào vai những "người" khác nhau trong mỗi lần nhấc máy để trò chuyện với kẻ lừa đảo nhằm câu giờ, với mục đích lớn nhất là khiến chúng không còn nhiều thời gian để đi lừa những nạn nhân khác.

Apate được nối trực tiếp tới nhà mạng, không phải cài đặt trên máy cá nhân của người dùng cuối. Khi nhà mạng di động phát hiện cuộc gọi rác, họ không tiến hành chặn mà chuyển hướng liên lạc sang hệ thống AI như Apate. Chương trình này sẽ tìm cách giao tiếp tốn nhiều thời gian nhất có thể với kẻ thực hiện cuộc gọi lừa đảo. Mọi thông tin về cuộc gọi như thời lượng, dữ liệu kẻ gian muốn lấy, chiến thuật dụ dỗ... đều được AI ghi lại và tự sử dụng để huấn luyện bản thân nhằm nâng cấp với các kịch bản thường được kẻ gian thay đổi liên tục.

Chụp màn hình

Năm ngoái, khi công cụ AI đang trong "cơn bùng nổ" cũng xuất hiện một số mô hình trí tuệ nhân tạo tương tự. Whitebeard, một công cụ hoạt động dựa trên ChatGPT kết hợp phần mềm chuyển giọng nói thành văn bản được một người Mỹ tạo ra sau khi ông và gia đình bị quấy rầy bởi những cuộc gọi lừa đảo cũng như tiếp thị.

Tại Úc, "ông già lắm chuyện" Lenny - thực chất là một chatbot, cũng được sử dụng và trở thành "cơn ác mộng" cho những kẻ thực hiện cuộc gọi rác. Lenny được thiết kế với giọng khàn, có thói quen bắt đầu một cuộc trò chuyện như người thật nhưng tuổi tác khiến "ông" thường luyên thuyên đủ điều, gây mất tập trung vào mục tiêu chính và tốn thời gian của những kẻ lừa đảo.

Trang Guardian cho biết các doanh nghiệp viễn thông tại Úc đã chặn gần 2 tỉ cuộc gọi lừa đảo trong gần 4 năm qua và hiện có sự giúp sức của Lenny, Malcolm hay Ibrahim..., những chatbot AI chuyên nói chuyện "con cà, con kê", nhập vai người dân ở đủ mọi độ tuổi, sở hữu giọng Anh ở nhiều vùng miền, ngữ điệu khác nhau, có khả năng sử dụng cảm xúc, tính cách và phản ứng lại với nội dung y như thật.

Giáo sư về tội phạm mạng Richard Buckland, thuộc đại học New South Wales (Úc) đánh giá những công nghệ AI như Apate đang "tạo ra mặt trận mới" cho những kẻ lừa đảo. Nhưng đồng thời đặt ra thách thức cho nhà phát triển lẫn nhà mạng khi việc xác định một cuộc gọi là lừa đảo hay không trước khi chuyển tới chatbot là vô cùng quan trọng.

Chụp màn hình

Việc ứng dụng công nghệ trí tuệ nhân tạo để đối phó với cuộc gọi rác, cuộc gọi lừa đảo cũng có thể gặp trở ngại trong tương lai khi các nhóm tội phạm có thể làm điều tương tự, sử dụng các công cụ này nhằm đào tạo hệ thống của chúng trở nên tinh vi hơn.

Mới đây, Google đã giới thiệu mô hình AI giúp cảnh báo cuộc gọi lừa đảo tiềm ẩn, với quá trình xử lý theo thời gian thực được diễn ra ngay trên thiết bị của người dùng, có nghĩa nội dung cuộc trò chuyện sẽ không rời khỏi thiết bị. Tính năng này không khác lắm so với Live Caption hoạt động trong các cuộc gọi trước đó. Như vậy, chỉ thiết bị của người dùng mới có quyền truy cập vào dữ liệu cuộc gọi chứ không phải Google hay bất kỳ bên thứ ba nào.

Tính năng cảnh báo cuộc gọi lừa đảo sẽ là tùy chọn khi ra mắt. Google cho biết công ty sẽ chia sẻ thêm thông tin về nó vào cuối năm nay, có thể là thời điểm tính năng này chính thức ra mắt. Nhiều khả năng chúng sẽ xuất hiện lần đầu tiên trên dòng Pixel có Gemini Nano trước khi đến bất kỳ thiết bị Android nào khác.