ChatGPT được xem là "cỗ máy biết tuốt" và chưa từng đầu hàng trước bất kỳ câu hỏi gì do người dùng đặt ra. Thế nhưng, dù biết tuốt nhưng những gì công cụ AI này biết chưa chắc đã hoàn toàn đúng. ChatGPT được huấn luyện bằng kỹ thuật máy học có tên là "Học tăng cường từ phản hồi của người dùng" - "Reinforcement Learning with Human Feedback".
"Reinforcement Learning with Human Feedback" nghĩa là "học tăng cường từ phản hồi của người dùng"
BÙI VÂN
Điều đó có nghĩa là bên cạnh kho dữ liệu khổng lồ từ các nguồn đã xác thực như sách, báo và các nguồn chưa được kiểm chứng như mạng xã hội, internet thì những dữ liệu có được trong đoạn hội thoại với người dùng cũng là cách mà ChatGPT dung nạp kiến thức.
"Kỹ thuật thảo lệnh" là kỹ năng cơ bản giúp người dùng đạt được những câu trả lời phù hợp với mục đích
BÙI VÂN
Anh Huy Nguyễn, cựu quản lý cấp cao của Google đã chỉ ra mối nguy hại tiềm ẩn với công cụ AI này khi người dùng liên tục nạp vào nó những thông tin sai lệch.
"Nhiều năm trước chúng ta có những sản phẩm AI đã trở thành chuyên gia chửi thề. Đó là những thứ mà chắc chắn những người tạo ra sản phẩm họ không muốn, đặc biệt, khi đất nước chúng ta rất nhiều dân. Một khi phổ biến thoải mái thì lại càng nhiều người sử dụng, mà nếu như ta không có cách sử dụng thích hợp và văn minh thì chúng ta sẽ không được tiếp cận với những công nghệ đó ngay từ đầu." anh Huy Nguyễn lý giải ChatGPT chưa được phổ biến cho người dùng ở Việt Nam.
Nhiều năm trước chúng ta có những sản phẩm AI đã trở thành chuyên gia chửi thề chẳng hạn. Đó là những thứ mà chắc chắn những người tạo ra sản phẩm họ không muốn đúng không? Họ không muốn và đặc biệt là khi đất nước chúng ta là đất nước rất nhiều dân. Một khi phổ biến thoải mái thì lại càng nhiều người sử dụng, mà nếu như ta không có cách sử dụng thích hợp và văn minh thì chúng ta sẽ không được tiếp cận với những công nghệ đó ngay từ đầu.
Đồng quan điểm đó, trong buổi trò chuyện cùng Báo Thanh Niên về chủ đề ChatGPT trong giáo dục, TS Lê Nguyên Phương cho rằng để tối ưu hóa sức mạnh của công cụ AI này, người dùng cần phải trang bị kỹ năng thảo lệnh - "prompt engineer". Đây được xem là bước quan trọng để ChatGPT cho ra những câu trả lời phù hợp với mong muốn của người dùng.
Bình luận (0)