Trí tuệ nhân tạo tiếp tục định hình lại cách chúng ta tương tác với công nghệ, nhưng không phải lúc nào cũng tốt hơn. Tính năng thử nghiệm AI Overviews của Google gần đây đã bị xem xét kỹ lưỡng vì một lỗi đáng lo ngại: nó tự tin tạo ra những giải thích hoàn toàn bịa đặt cho các cụm từ và thành ngữ không hề tồn tại, làm dấy lên những câu hỏi nghiêm trọng về độ tin cậy của các kết quả tìm kiếm được hỗ trợ bởi AI.
Vấn đề Ảo giác
AI Overviews của Google, một tính năng thử nghiệm được tích hợp vào Google Search, đang thể hiện xu hướng đáng báo động khi bịa đặt định nghĩa cho các cụm từ vô nghĩa hoặc hư cấu. Người dùng đã phát hiện ra rằng chỉ cần gõ bất kỳ tổ hợp từ ngẫu nhiên nào theo sau là từ meaning vào thanh tìm kiếm, AI của Google sẽ tự tin cung cấp những giải thích và nguồn gốc chi tiết cho những biểu thức hoàn toàn bịa đặt này. Hành vi này phá hoại mục đích cơ bản của một công cụ tìm kiếm—cung cấp thông tin chính xác thay vì hư cấu được trình bày như sự thật.
Cách Vấn đề Hoạt động
Quy trình này đơn giản đến đáng kinh ngạc. Khi người dùng tìm kiếm các cụm từ như you can't lick a badger twice hoặc a duckdog never blinks twice và thêm meaning vào truy vấn của họ, AI Overviews của Google tạo ra những giải thích chi tiết, nghe có vẻ đáng tin cậy cho những cụm từ vô nghĩa này. Điều khiến vấn đề này đặc biệt nghiêm trọng là những định nghĩa bịa đặt này xuất hiện cùng với các kết quả tìm kiếm hợp pháp, chỉ với một tuyên bố nhỏ lưu ý rằng Generative AI là thử nghiệm.
Ví dụ về các ảo tưởng của AI:
- Cụm từ: "You can't lick a badger twice" → Giải thích của AI: Không thể lừa ai đó hai lần
- Cụm từ: "A duckdog never blinks twice" → Nhiều giải thích trái ngược nhau được cung cấp trong các lần tìm kiếm khác nhau
- Google gắn nhãn những Tổng quan AI này là "thử nghiệm" nhưng hiển thị chúng cùng với các kết quả tìm kiếm thực tế
Phản hồi Không nhất quán
Thêm vào mối lo ngại là sự thiếu nhất quán trong phản hồi của AI. Khi người dùng tìm kiếm cùng một thành ngữ giả nhiều lần, Google thường đưa ra những giải thích hoàn toàn khác nhau với mỗi lần tìm kiếm. Ví dụ, một người dùng đã tìm kiếm a duckdog never blinks twice trong nhiều dịp và nhận được các diễn giải khác nhau—đầu tiên gợi ý rằng nó đề cập đến một con chó săn tập trung cao độ, sau đó tuyên bố rằng nó mô tả điều gì đó không thể tin được hoặc không thể chấp nhận, và cuối cùng đưa ra một giải thích khác biệt nữa.
Phản hồi của Google
Google đã thừa nhận vấn đề thông qua một người phát ngôn, giải thích rằng khi người dùng nhập các tìm kiếm vô nghĩa hoặc 'tiền đề sai', hệ thống của họ cố gắng tìm các kết quả liên quan dựa trên nội dung web có sẵn hạn chế. Công ty gọi những tình huống này là khoảng trống dữ liệu, điều này tạo ra thách thức cho tất cả các công cụ tìm kiếm. Google tuyên bố đã thực hiện các cải tiến để hạn chế AI Overviews xuất hiện trong những tình huống như vậy nhằm ngăn chặn nội dung gây hiểu lầm xuất hiện.
Phản hồi chính thức từ Google: "Khi người dùng thực hiện các tìm kiếm vô nghĩa hoặc 'dựa trên giả định sai', hệ thống của chúng tôi sẽ cố gắng tìm ra kết quả phù hợp nhất dựa trên nội dung web hạn chế có sẵn. Điều này đúng với toàn bộ hệ thống Tìm kiếm, và trong một số trường hợp, AI Overviews cũng sẽ được kích hoạt nhằm cung cấp ngữ cảnh hữu ích."
Ý nghĩa Rộng lớn hơn
Lỗi này trong AI Overviews của Google làm dấy lên những lo ngại đáng kể về độ tin cậy của các công cụ tìm kiếm được hỗ trợ bởi AI. Trong nhiều thập kỷ, việc sử dụng Google đã trở thành đồng nghĩa với việc kiểm tra sự thật và xác minh thông tin. Nếu người dùng không còn có thể phân biệt giữa thông tin thực tế và hư cấu do AI tạo ra được trình bày với sự tự tin ngang nhau, niềm tin cơ bản vào các công cụ tìm kiếm có thể bị tổn hại nghiêm trọng.
Không phải Sự cố AI Đầu tiên
Đây không phải là lần đầu tiên các tính năng AI của Google phải đối mặt với sự chỉ trích vì những ảo giác. Khoảng một năm trước, AI Overviews đã trở nên viral khi đề xuất những công thức nấu ăn kỳ lạ như glue pizza và gasoline spaghetti. Bản chất tái diễn của những vấn đề này làm nổi bật những thách thức đang diễn ra trong việc phát triển các hệ thống AI đáng tin cậy cho việc truy xuất và tóm tắt thông tin.
Tương lai của Tính toàn vẹn Tìm kiếm
Khi AI ngày càng được tích hợp vào chức năng tìm kiếm, sự cân bằng giữa đổi mới và độ chính xác trở nên quan trọng hơn. Mặc dù AI có thể nâng cao trải nghiệm tìm kiếm bằng cách cung cấp tóm tắt nhanh và thông tin ngữ cảnh, những sự cố như thế này cho thấy công nghệ vẫn còn những hạn chế đáng kể khi phải phân biệt giữa thực tế và hư cấu. Đối với người dùng, việc duy trì sự hoài nghi lành mạnh đối với nội dung do AI tạo ra vẫn là điều cần thiết, đặc biệt là khi thông tin được cung cấp có vẻ bất thường hoặc thiếu ghi nhận nguồn rõ ràng.