Giới chức Anh cảnh báo rủi ro từ chatbot AI

Các chatbot như ChatGPT là nền tảng ứng dụng các thuật toán giúp tạo ra tương tác giống con người, hay còn được gọi là các "mô hình ngôn ngữ lớn" (LLM). Theo Trung tâm An ninh mạng Quốc gia Anh (NCSC), giới chuyên gia vẫn chưa hiểu rõ những vấn đề an ninh tiềm ẩn đi kèm với các thuật toán như vậy.

REUTERS

Một số người tin rằng chatbot sẽ thay thế các công cụ tìm kiếm trên internet, cũng như việc bán hàng từ xa và chăm sóc khách hàng. Song NCSC cảnh báo điều đó có thể mang lại rủi ro, đặc biệt nếu chatbot được tích hợp vào quy trình chính thức của các tổ chức. Các nhà nghiên cứu đã nhiều lần "hạ bệ" chatbot bằng cách đưa cho chúng những mệnh lệnh gây hại hoặc đánh lừa chúng phá vỡ hàng rào bảo vệ của chính mình.