Home-theater-designers
Với hàng triệu người dùng ChatGPT, bạn có thể thắc mắc OpenAI làm gì với tất cả các cuộc trò chuyện của nó. Nó có liên tục phân tích những điều bạn nói với ChatGPT không?
Câu trả lời là có, ChatGPT học hỏi từ đầu vào của người dùng—nhưng không phải theo cách mà hầu hết mọi người nghĩ. Dưới đây là hướng dẫn chuyên sâu giải thích lý do ChatGPT theo dõi các cuộc hội thoại, cách ChatGPT sử dụng chúng và liệu bảo mật của bạn có bị xâm phạm hay không.
LÀM VIDEO TRONG NGÀY CUỘN ĐỂ TIẾP TỤC VỚI NỘI DUNG
ChatGPT có nhớ các cuộc trò chuyện không?
ChatGPT không nhận lời nhắc theo mệnh giá. Nó sử dụng bộ nhớ theo ngữ cảnh để ghi nhớ và tham chiếu các đầu vào trước đó, đảm bảo các phản hồi phù hợp, nhất quán.
Lấy đoạn hội thoại dưới đây làm ví dụ. Khi chúng tôi hỏi ChatGPT về ý tưởng công thức, nó đã xem xét thông báo trước đây của chúng tôi về dị ứng đậu phộng.
Đây là công thức an toàn của ChatGPT.
Bộ nhớ theo ngữ cảnh cũng cho phép AI thực hiện các tác vụ nhiều bước. Hình ảnh bên dưới cho thấy ChatGPT vẫn giữ nguyên ký tự ngay cả sau khi cung cấp cho nó một lời nhắc mới.
ChatGPT có thể nhớ hàng chục hướng dẫn trong các cuộc hội thoại. Đầu ra của nó thực sự cải thiện về độ chính xác và độ chính xác khi bạn cung cấp thêm ngữ cảnh. Chỉ cần đảm bảo rằng bạn giải thích hướng dẫn của mình một cách rõ ràng.
Bạn cũng nên quản lý kỳ vọng của mình vì bộ nhớ theo ngữ cảnh của ChatGPT vẫn còn những hạn chế.
gmail cách thay đổi tài khoản mặc định
Cuộc trò chuyện ChatGPT có dung lượng bộ nhớ hạn chế
Bộ nhớ theo ngữ cảnh là hữu hạn. ChatGPT có tài nguyên phần cứng hạn chế nên chỉ ghi nhớ tối đa các điểm cụ thể của các cuộc hội thoại hiện tại. Nền tảng sẽ quên các lời nhắc trước đó khi bạn đạt đến dung lượng bộ nhớ của nó.
Trong cuộc trò chuyện này, chúng tôi đã hướng dẫn ChatGPT nhập vai một nhân vật hư cấu tên là Tomie.
Nó bắt đầu trả lời lời nhắc là Tomie, không phải ChatGPT.
Mặc dù yêu cầu của chúng tôi đã thành công, ChatGPT đã phá vỡ ký tự sau khi nhận được lời nhắc 1.000 từ.
OpenAI chưa bao giờ tiết lộ giới hạn chính xác của ChatGPT, nhưng có tin đồn rằng nó chỉ có thể xử lý 3.000 từ mỗi lần. Trong thử nghiệm của chúng tôi, ChatGPT gặp trục trặc chỉ sau hơn 2.800 từ.
Bạn có thể chia lời nhắc của mình thành hai nhóm 1.500 từ, nhưng ChatGPT có thể sẽ không giữ lại tất cả các hướng dẫn của bạn. Chỉ cần bắt đầu một cuộc trò chuyện khác hoàn toàn. Nếu không, bạn sẽ phải lặp lại các chi tiết cụ thể nhiều lần trong suốt cuộc trò chuyện của mình.
ChatGPT chỉ nhớ đầu vào liên quan đến chủ đề
ChatGPT sử dụng bộ nhớ theo ngữ cảnh để cải thiện độ chính xác của đầu ra. Nó không chỉ giữ lại thông tin vì mục đích thu thập nó. Nền tảng gần như tự động quên các chi tiết không liên quan, ngay cả khi bạn còn lâu mới đạt đến giới hạn mã thông báo.
Trong hình ảnh bên dưới, chúng tôi cố gắng nhầm lẫn AI với nhiều hướng dẫn không liên quan, không liên quan.
Chúng tôi giữ đầu vào kết hợp của mình dưới 100 từ, nhưng ChatGPT vẫn quên hướng dẫn đầu tiên của chúng tôi. Nó nhanh chóng phá vỡ nhân vật.
Trong khi đó, ChatGPT tiếp tục nhập vai trong cuộc trò chuyện này vì chúng tôi chỉ hỏi những câu hỏi liên quan đến chủ đề.
Lý tưởng nhất là mỗi cuộc đối thoại phải tuân theo một chủ đề duy nhất để duy trì kết quả đầu ra chính xác, phù hợp. Bạn vẫn có thể nhập đồng thời nhiều hướng dẫn. Chỉ cần đảm bảo chúng phù hợp với chủ đề tổng thể, nếu không ChatGPT có thể bỏ các hướng dẫn mà nó cho là không liên quan.
Hướng dẫn đào tạo Chế ngự đầu vào của người dùng
ChatGPT sẽ luôn ưu tiên các hướng dẫn được xác định trước so với đầu vào do người dùng tạo. Nó ngăn chặn các hoạt động bất hợp pháp thông qua các hạn chế. Nền tảng từ chối bất kỳ lời nhắc nào mà nó cho là nguy hiểm hoặc gây tổn hại cho người khác.
Lấy các yêu cầu nhập vai làm ví dụ. Mặc dù chúng vượt qua một số giới hạn nhất định về ngôn ngữ và cách diễn đạt, nhưng bạn không thể sử dụng chúng để thực hiện các hoạt động bất hợp pháp.
Tất nhiên, không phải tất cả các hạn chế đều hợp lý. Nếu các nguyên tắc cứng nhắc khiến việc thực hiện các nhiệm vụ cụ thể trở nên khó khăn, hãy tiếp tục viết lại các lời nhắc của bạn. Lựa chọn từ ngữ và giọng điệu ảnh hưởng rất nhiều đến kết quả đầu ra. Bạn có thể lấy cảm hứng từ hầu hết lời nhắc chi tiết, hiệu quả trên GitHub .
OpenAI nghiên cứu các cuộc trò chuyện của người dùng như thế nào?
Bộ nhớ theo ngữ cảnh chỉ áp dụng cho cuộc trò chuyện hiện tại của bạn. Kiến trúc không trạng thái của ChatGPT coi các cuộc hội thoại là các phiên bản độc lập; nó không thể tham khảo thông tin từ những cái trước đó. Bắt đầu cuộc trò chuyện mới luôn đặt lại trạng thái của mô hình.
Điều này không có nghĩa là ChatGPT kết xuất các cuộc trò chuyện của người dùng ngay lập tức. Điều khoản sử dụng của OpenAI tuyên bố rằng công ty thu thập thông tin đầu vào từ các dịch vụ tiêu dùng không phải API như ChatGPT và Dall-E. Bạn thậm chí có thể yêu cầu bản sao lịch sử trò chuyện của mình.
Trong khi ChatGPT tự do truy cập các cuộc hội thoại, Chính sách bảo mật của OpenAI cấm các hoạt động có thể gây hại cho người dùng. Giảng viên chỉ có thể sử dụng dữ liệu của bạn để nghiên cứu và phát triển sản phẩm.
raspberry pi 3 won t khởi động
Nhà phát triển tìm kiếm sơ hở
OpenAI sàng lọc sơ hở thông qua các cuộc trò chuyện. Nó phân tích các trường hợp trong đó ChatGPT thể hiện sự sai lệch về dữ liệu, tạo ra thông tin có hại hoặc giúp thực hiện các hoạt động bất hợp pháp. Các nguyên tắc đạo đức của nền tảng liên tục được sửa đổi.
Ví dụ, các phiên bản đầu tiên của ChatGPT trả lời cởi mở các câu hỏi về mã hóa phần mềm độc hại hoặc chế tạo chất nổ. Những sự cố này khiến người dùng cảm thấy như OpenAI không có quyền kiểm soát ChatGPT . Để lấy lại lòng tin của công chúng, nó đã đào tạo chatbot để từ chối bất kỳ câu hỏi nào có thể đi ngược lại nguyên tắc của nó.
Giảng viên Thu thập và Phân tích Dữ liệu
ChatGPT sử dụng kỹ thuật học có giám sát. Mặc dù nền tảng ghi nhớ tất cả các đầu vào, nhưng nó không học hỏi từ chúng trong thời gian thực. Các huấn luyện viên OpenAI thu thập và phân tích chúng trước. Làm như vậy đảm bảo rằng ChatGPT không bao giờ hấp thụ thông tin có hại, gây tổn hại mà nó nhận được.
Học có giám sát đòi hỏi nhiều thời gian và năng lượng hơn so với các kỹ thuật không giám sát. Tuy nhiên, việc để AI tự phân tích đầu vào đã được chứng minh là có hại.
Lấy Microsoft Tay làm ví dụ—một trong những lần học máy đã sai . Vì nó liên tục phân tích các tweet mà không có hướng dẫn của nhà phát triển, những người dùng ác ý cuối cùng đã huấn luyện nó để đưa ra những ý kiến phân biệt chủng tộc, khuôn mẫu.
Các nhà phát triển thường xuyên coi chừng những thành kiến
Một số các yếu tố bên ngoài gây ra sai lệch trong AI . Định kiến vô thức có thể phát sinh từ sự khác biệt trong mô hình đào tạo, lỗi tập dữ liệu và các hạn chế được xây dựng kém. Bạn sẽ phát hiện ra chúng trong các ứng dụng AI khác nhau.
Rất may, ChatGPT chưa bao giờ thể hiện sự phân biệt đối xử hoặc thành kiến chủng tộc. Có lẽ sự thiên vị tồi tệ nhất mà người dùng đã nhận thấy là ChatGPT nghiêng về các hệ tư tưởng cánh tả, theo một Bưu điện New York báo cáo. Nền tảng viết cởi mở hơn về các chủ đề tự do hơn là bảo thủ.
Để giải quyết những thành kiến này, OpenAI đã cấm ChatGPT cung cấp thông tin chi tiết về chính trị hoàn toàn. Nó chỉ có thể trả lời những sự thật chung chung.
Người điều hành Đánh giá Hiệu suất của ChatGPT
Người dùng có thể cung cấp phản hồi về đầu ra của ChatGPT. Bạn sẽ tìm thấy các nút thích và không thích ở phía bên phải của mọi phản hồi. Cái trước chỉ ra một phản ứng tích cực. Sau khi nhấn nút thích hoặc không thích, một cửa sổ sẽ bật lên trong đó bạn có thể gửi phản hồi bằng lời của mình.
Hệ thống phản hồi là hữu ích. Chỉ cần cho OpenAI một chút thời gian để sàng lọc các nhận xét. Hàng triệu người dùng thường xuyên nhận xét về ChatGPT—các nhà phát triển ChatGPT có thể ưu tiên các trường hợp sai lệch nghiêm trọng và tạo ra kết quả có hại.
Cuộc trò chuyện ChatGPT của bạn có an toàn không?
Xem xét các chính sách bảo mật của OpenAI, bạn có thể yên tâm rằng dữ liệu của mình sẽ vẫn an toàn. ChatGPT chỉ sử dụng các cuộc trò chuyện để đào tạo dữ liệu. Các nhà phát triển của nó nghiên cứu những thông tin chuyên sâu đã thu thập để cải thiện độ chính xác và độ tin cậy của đầu ra, chứ không phải ăn cắp dữ liệu cá nhân.
Như đã nói, không có hệ thống AI nào hoàn hảo. ChatGPT vốn không thiên vị, nhưng những cá nhân có ý đồ xấu vẫn có thể khai thác các lỗ hổng của nó, chẳng hạn như lỗi bộ dữ liệu, đào tạo bất cẩn và lỗ hổng bảo mật. Để bảo vệ bạn, hãy học cách chống lại những rủi ro này.