Đầu tháng này, OpenAI, công ty đứng sau ChatGPT, tiết lộ phiên bản thứ tư của chương trình AI GPT (Generative Pre-training Transformer), khiến người dùng kinh ngạc với khả năng giao tiếp như con người, sáng tác bài hát hay tóm tắt các tài liệu dài.
Theo Business Insider, bức thư ngỏ do tổ chức phi lợi nhuận Future of Life Institute công bố, thu được hơn 1.000 chữ ký, trong đó có chữ ký của CEO Tesla Elon Musk, nhà đồng sáng lập Apple Steve Wozniak, CEO Stability AI Emad Mostaque, nhà đồng sáng lập Pinterest Evan Sharp, các chuyên gia về trí tuệ nhân tạo Yoshua Bengio và Stuart Russell...
Công nghệ AI: Cần biết gì để bớt hoang mang?
Nội dung lá thư viết: "Các hệ thống AI mạnh mẽ chỉ nên được phát triển khi chúng tôi tin rằng nó mang lại tác động tích cực và rủi ro nằm ở mức kiểm soát được".
Những lo lắng về tác động của AI đối với thị trường việc làm ngày càng gia tăng. Một báo cáo mới từ Goldman Sachs cảnh báo 25% lực lượng lao động hiện tại có thể bị thay thế bởi AI. Ngoài ra, báo cáo từ Diễn đàn Kinh tế thế giới năm 2020 ước tính, đến năm 2025, khoảng 85 triệu việc làm sẽ bị thay thế bởi AI.
Elon Musk, Steve Wozniak, các nhà nghiên cứu tại DeepMind của Alphabet và các nhà lãnh đạo AI khác đang kêu gọi tạm dừng phát triển AI
Chụp màn hình
Bức thư nêu bật những lo ngại về sự lan truyền thông tin sai lệch, nguy cơ tự động hóa trong thị trường lao động, đe dọa đối với nền văn minh của con người.
AI nằm ngoài tầm kiểm soát
Tổ chức phi lợi nhuận Future of Life Institute đặt giả định các nhà phát triển mất quyền kiểm soát các hệ thống AI và dự đoán tác động dự kiến của AI đối với nền văn minh. Trong bối cảnh các công ty đang chạy đua để phát triển trí tuệ nhân tạo, công nghệ AI có thể tiên tiến đến mức ngay cả những người tạo ra nó cũng không thể hiểu rõ, dự đoán hoặc kiểm soát AI hoàn toàn.
Bức thư đặt vấn đề: "Chúng ta có nên mạo hiểm mất quyền kiểm soát nền văn minh của mình không? Những quyết định như vậy không nên được giao cho các nhà lãnh đạo công nghệ không được bầu chọn".
Tự động hóa AI và lan truyền thông tin sai lệch
Bức thư nhấn mạnh một số rủi ro của công nghệ mới, bao gồm khả năng những bộ óc AI cuối cùng sẽ ngày càng đông, thông minh hơn và thay thế con người.
Tổ chức Future of Life Institute cho rằng các hệ thống AI đang dần cạnh tranh với con người trong một số việc làm, đồng thời bức thư cũng trích dẫn những trường hợp AI góp phần tăng thông tin sai lệch và tự động hóa lao động. Tổ chức này viết trong thư: "Chúng ta có nên để máy móc tuyên truyền các thông tin sai sự thật qua những kênh thông tin không? Chúng ta có nên tự động hóa tất cả các công việc?".
Ai sở hữu bản quyền các tác phẩm nghệ thuật do AI tạo ra?
Tạm ngừng sáu tháng
Bức thư đề nghị tạm ngừng phát triển bất kỳ hệ thống AI nào mạnh hơn những hệ thống đã có trên thị trường trong sáu tháng.
Lá thư yêu cầu các nhà phát triển làm việc với các nhà hoạch định chính sách để tạo ra các hệ thống quản trị AI, nhấn mạnh sự cần thiết của các cơ quan quản lý cũng như tạo ra "hệ thống watermark" AI để giúp mọi người phân biệt giữa nội dung do con người tạo ra và nội dung do AI tạo ra. Bức thư cũng gợi ý sự cần thiết của các tổ chức có nguồn lực tốt để đối phó với những gián đoạn kinh tế và chính trị do AI gây ra.
Bức thư nêu rõ: Tạm ngừng phát triển AI nên là một quãng lặng để xem xét lại cuộc đua nguy hiểm xung quanh các công nghệ tân tiến, chứ không phải dừng hoàn toàn việc phát triển AI nói chung.
Bình luận (0)