Công nghệ đánh dấu ẩn của OpenAI: Con dao hai lưỡi cho ChatGPT
OpenAI, công ty đứng sau ChatGPT, được cho là đã phát triển một công nghệ đánh dấu ẩn mạnh mẽ cho văn bản do AI tạo ra. Tuy nhiên, công ty đang do dự trong việc triển khai nó, viện dẫn lo ngại về khả năng bị phá vỡ và tác động đến kinh doanh.
Bài toán khó về đánh dấu ẩn
Theo báo cáo của Wall Street Journal, OpenAI đã tranh luận nội bộ về việc sử dụng công nghệ này trong hơn hai năm. Phương pháp đánh dấu ẩn này được cho là có khả năng phát hiện văn bản do AI viết với độ chính xác 99,9% bằng cách nhúng một mẫu tinh vi vào đầu ra của mô hình.
Mặc dù công nghệ này có thể vô cùng giá trị đối với các nhà giáo dục, nhà nghiên cứu và những người tìm kiếm để xác minh nội dung do con người viết, OpenAI phải đối mặt với một quyết định khó khăn:
- Lợi ích tiềm năng: Tăng tính minh bạch và tin cậy trong nội dung do AI tạo ra
- Mối lo ngại:
- Nguy cơ bị phá vỡ bởi những kẻ xấu
- Có thể tác động tiêu cực đến việc người dùng áp dụng (lên đến 30% người dùng có thể ít có khả năng sử dụng ChatGPT nếu áp dụng đánh dấu ẩn)
Phản hồi của OpenAI
Trong một bài đăng trên blog đề cập đến báo cáo của WSJ, OpenAI đã xác nhận nghiên cứu nội bộ về đánh dấu ẩn. Công ty thừa nhận độ chính xác cao và hiệu quả của công nghệ này trong việc chống lại việc giả mạo cục bộ như diễn đạt lại. Tuy nhiên, họ cũng nhấn mạnh những hạn chế:
- Kém hiệu quả hơn đối với văn bản đã được dịch hoặc diễn đạt lại bằng các mô hình bên ngoài
- Dễ bị tấn công bởi các thủ thuật đơn giản (ví dụ: thêm và xóa các ký tự rác)
Thay vào đó, OpenAI đang khám phá việc sử dụng metadata để đánh dấu văn bản do AI tạo ra, tương tự như cách tiếp cận của họ với hình ảnh do AI tạo ra.
Bối cảnh rộng hơn
Nhu cầu về các công cụ phát hiện AI đáng tin cậy là rõ ràng. Một cuộc khảo sát do WSJ ủy quyền cho thấy người dân trên toàn thế giới ủng hộ ý tưởng về một công cụ phát hiện AI với tỷ lệ bốn trên một.
Các gã khổng lồ công nghệ khác đã bắt đầu thực hiện các bước theo hướng này. Chẳng hạn, Google đã triển khai đánh dấu ẩn cho văn bản do AI tạo ra, như đã được công bố trong sự kiện Google I/O năm nay.
Tương lai của việc phát hiện nội dung AI
Khi nội dung do AI tạo ra ngày càng phổ biến, nhu cầu về các phương pháp phát hiện mạnh mẽ cũng tăng theo. Cách tiếp cận thận trọng của OpenAI nhấn mạnh sự cân bằng phức tạp giữa tính minh bạch, niềm tin của người dùng và khả năng thương mại hóa trong bối cảnh AI đang phát triển nhanh chóng.
Cho dù thông qua đánh dấu ẩn, metadata hay các giải pháp sáng tạo khác, ngành công nghiệp có thể sẽ tiếp tục đối mặt với những thách thức này khi công nghệ AI tiến bộ.