Home-theater-designers
Trí tuệ nhân tạo (AI) sẽ biến đổi toàn bộ các bộ phận trong xã hội của chúng ta cho dù chúng ta có muốn hay không và điều đó bao gồm cả World Wide Web.
Với phần mềm như ChatGPT có sẵn cho bất kỳ ai có kết nối internet, việc tách nội dung do AI tạo ra khỏi nội dung do con người tạo ra ngày càng trở nên khó khăn. Điều tốt là chúng ta có trình phát hiện nội dung AI, phải không?
TẠO VIDEO TRONG NGÀY CUỘN ĐỂ TIẾP TỤC VỚI NỘI DUNG
Trình phát hiện nội dung AI có hoạt động không?
Trình phát hiện nội dung AI là công cụ chuyên dụng xác định xem nội dung nào đó được viết bởi chương trình máy tính hay con người. Nếu bạn chỉ Google từ 'Trình phát hiện nội dung AI', bạn sẽ thấy có hàng tá máy dò ngoài kia, tất cả đều tuyên bố rằng họ có thể phân biệt một cách đáng tin cậy giữa văn bản của con người và không phải con người.
Cách chúng hoạt động khá đơn giản: bạn dán một đoạn văn bản và công cụ này sẽ cho bạn biết liệu nó có được tạo bởi AI hay không. Nói một cách kỹ thuật hơn, sử dụng kết hợp các kỹ thuật xử lý ngôn ngữ tự nhiên và thuật toán máy học, trình phát hiện nội dung AI tìm kiếm các mẫu và khả năng dự đoán, đồng thời thực hiện cuộc gọi dựa trên đó.
Điều này nghe có vẻ tuyệt vời trên lý thuyết, nhưng nếu bạn đã từng sử dụng một công cụ phát hiện AI, bạn sẽ biết rất rõ rằng chúng rất dễ bị bỏ lỡ, nói một cách nhẹ nhàng. Thông thường, chúng phát hiện nội dung do con người viết dưới dạng AI hoặc văn bản do con người tạo dưới dạng do AI tạo ra. Trên thực tế, một số người rất tệ với những gì họ phải làm.
Trình phát hiện nội dung AI chính xác đến mức nào?
Nếu bạn ở Hoa Kỳ, kết quả tìm kiếm đầu tiên trên Google cho 'trình phát hiện nội dung AI' là writer.com (trước đây gọi là Qordoba; đây là một nền tảng nội dung AI cũng có trình phát hiện riêng). Nhưng khi bạn dán một phần ngẫu nhiên này Báo chí liên quan bài báo về công cụ này, nó tuyên bố rằng rất có khả năng nó được tạo ra bởi trí tuệ nhân tạo.
Vì vậy, nhà văn.com đã hiểu sai.
Công bằng mà nói, các trình phát hiện nội dung AI khác hầu như không tốt hơn. Chúng không chỉ tạo ra kết quả dương tính giả mà còn đánh dấu nội dung AI là con người. Và ngay cả khi họ không làm như vậy, thì việc thực hiện các chỉnh sửa nhỏ đối với văn bản do AI tạo ra cũng đủ để vượt qua màu sắc bay bổng.
Vào tháng 2 năm 2023, Giảng viên Armin Alimardani của Đại học Wollongong và Phó giáo sư tại UNSW Sydney Emma A. Jane đã thử nghiệm một số công cụ phát hiện nội dung AI phổ biến và xác định rằng không có công cụ nào đáng tin cậy. Trong phân tích của họ, được xuất bản trong Cuộc trò chuyện , Alimardani và Jane kết luận rằng 'cuộc chạy đua vũ trang' AI này giữa trình tạo văn bản và trình phát hiện sẽ đặt ra một thách thức đáng kể trong tương lai, đặc biệt là đối với các nhà giáo dục.
Nhưng không chỉ các nhà giáo dục và giáo viên có lý do để lo lắng: tất cả mọi người đều vậy. Khi văn bản do AI tạo ra trở nên phổ biến, có thể phân biệt giữa cái gì là 'thực' và cái gì không, tức là thực sự phát hiện khi một cái gì đó được viết bởi AI , sẽ trở nên khó khăn hơn. Điều này sẽ có tác động lớn đến hầu như tất cả các ngành và lĩnh vực của xã hội, thậm chí cả các mối quan hệ cá nhân.
Ý nghĩa của AI đối với An ninh mạng và Quyền riêng tư
Thực tế là không có cơ chế đáng tin cậy nào để xác định xem thứ gì đó được tạo ra bởi phần mềm hay con người có tác động nghiêm trọng đến an ninh mạng và quyền riêng tư.
Các tác nhân đe dọa đã sẵn sàng sử dụng ChatGPT để viết phần mềm độc hại , tạo email lừa đảo, viết thư rác, tạo trang web lừa đảo, v.v. Và mặc dù có nhiều cách để chống lại điều đó, nhưng chắc chắn có một điều đáng lo ngại là không có phần mềm nào có khả năng phân biệt đáng tin cậy giữa nội dung hữu cơ và bot.
Tin giả cũng đã là một vấn đề lớn. Với trí tuệ nhân tạo AI trong bức tranh, các tác nhân đưa thông tin sai lệch có thể mở rộng quy mô hoạt động của họ theo một cách chưa từng có. Trong khi đó, một người bình thường không có cách nào biết được thứ họ đang đọc trực tuyến được tạo ra bởi phần mềm hay con người.
Quyền riêng tư là một vấn đề hoàn toàn khác. Lấy ChatGPT làm ví dụ. đó là được cung cấp hơn 300 tỷ từ trước khi ra mắt. Nội dung này được lấy từ sách, blog và bài đăng trên diễn đàn, bài báo và phương tiện truyền thông xã hội. Nó được thu thập mà không có sự đồng ý của bất kỳ ai và dường như hoàn toàn coi thường quyền riêng tư và bảo vệ bản quyền.
Sau đó, cũng có vấn đề về dương tính giả. Nếu nội dung bị đánh dấu nhầm là do AI tạo ra, điều đó có dẫn đến việc kiểm duyệt không, dù sao đây cũng là một vấn đề lớn? Chưa kể đến những thiệt hại khi bị buộc tội sử dụng văn bản do AI tạo ra có thể ảnh hưởng đến danh tiếng của một người, cả trực tuyến và ngoài đời thực.
Nếu thực sự có một cuộc chạy đua vũ trang giữa AI thế hệ mới và các công cụ phát hiện nội dung, thì cái trước sẽ thắng. Tệ hơn nữa, dường như không có giải pháp nào. Tất cả chúng ta đều có những sản phẩm dở dang thậm chí không hoạt động được một nửa thời gian hoặc có thể bị lừa rất dễ dàng.
Cách phát hiện nội dung AI: Giải pháp tiềm năng
Hiện tại chúng ta dường như không có câu trả lời thực sự cho vấn đề này không có nghĩa là chúng ta sẽ không có bất kỳ câu trả lời nào trong tương lai. Trên thực tế, đã có một số đề xuất nghiêm túc có thể hoạt động. Watermarking là một.
Khi nói đến AI và các mô hình ngôn ngữ sâu, watermarking đề cập đến việc nhúng một loại mã bí mật vào văn bản do AI tạo (ví dụ: mẫu từ, kiểu dấu chấm câu). Một hình mờ như vậy sẽ không thể nhìn thấy bằng mắt thường và do đó gần như không thể xóa được, nhưng phần mềm chuyên dụng sẽ có thể phát hiện ra nó.
Trên thực tế, vào năm 2022, Đại học Maryland các nhà nghiên cứu đã phát triển một phương pháp thủy vân mới cho các mạng lưới thần kinh nhân tạo. Trưởng nhóm nghiên cứu Tom Goldstein cho biết vào thời điểm đó nhóm của ông đã cố gắng 'chứng minh bằng toán học' rằng hình mờ của họ không thể bị xóa hoàn toàn.
Hiện tại, những gì một người bình thường có thể làm là dựa vào bản năng và lẽ thường của họ. Nếu có điều gì đó không ổn về nội dung bạn đang đọc—nếu nó có cảm giác không tự nhiên, lặp đi lặp lại, thiếu sáng tạo, tầm thường—thì nó có thể đã được tạo ra bởi phần mềm. Tất nhiên, bạn cũng nên xác minh bất kỳ thông tin nào bạn thấy trực tuyến, kiểm tra kỹ nguồn gốc và tránh xa các trang web mờ ám.
thẻ sd wifi hoạt động như thế nào
Cuộc cách mạng AI đang diễn ra
Một số người cho rằng cuộc cách mạng công nghiệp lần thứ năm đã bắt đầu, khi trí tuệ nhân tạo chiếm vị trí trung tâm trong cái được mô tả là sự hội tụ của kỹ thuật số và vật lý. Cho dù đó có thực sự là trường hợp hay không, tất cả những gì chúng ta có thể làm là thích nghi.
Tin tốt là ngành an ninh mạng đang điều chỉnh theo thực tế mới này và triển khai các chiến lược phòng thủ mới với trí tuệ nhân tạo và máy học đi đầu.