Công cụ phiên âm Whisper của OpenAI đang phải đối mặt với nhiều chỉ trích nghiêm trọng vì tạo ra nội dung giả mạo trong môi trường y tế, gây lo ngại đáng kể về an toàn bệnh nhân và độ chính xác của dữ liệu trong lĩnh vực chăm sóc sức khỏe.
Khủng hoảng về nội dung ảo
Whisper, công cụ phiên âm được sử dụng rộng rãi của OpenAI, đã bị phát hiện thường xuyên tạo ra nội dung sai lệch hoặc ảo trong quá trình chuyển đổi âm thanh thành văn bản. Mặc dù OpenAI tuyên bố có độ chính xác ngang tầm con người, các nhà nghiên cứu đã phát hiện tỷ lệ nội dung bịa đặt đáng báo động trong nhiều ứng dụng khác nhau. Điều đáng lo ngại nhất là việc triển khai công nghệ này trong môi trường y tế, nơi việc ghi chép chính xác là vô cùng quan trọng đối với việc chăm sóc bệnh nhân.
Áp dụng rộng rãi trong y tế bất chấp cảnh báo
Mặc dù OpenAI đã đưa ra cảnh báo rõ ràng về việc không sử dụng Whisper trong các lĩnh vực có rủi ro cao, ngành y tế vẫn áp dụng công nghệ này một cách rộng rãi. Nabla, một công ty Pháp-Mỹ, đã triển khai các công cụ dựa trên Whisper trong 40 hệ thống y tế, phục vụ hơn 30.000 bác sĩ lâm sàng. Công cụ này đã được sử dụng để phiên âm khoảng 7 triệu cuộc thăm khám y tế, nhưng không có cách nào để xác minh độ chính xác vì các bản ghi âm gốc đã bị xóa vì lý do an toàn dữ liệu.
Nghiên cứu cho thấy tỷ lệ lỗi đáng báo động
Nhiều nghiên cứu độc lập đã chỉ ra mức độ nghiêm trọng của vấn đề nội dung ảo trong Whisper. Các nhà nghiên cứu từ Đại học Michigan phát hiện nội dung ảo trong 80% bản phiên âm cuộc họp công khai, trong khi một phân tích khác trên 26.000 bản ghi cho thấy gần như toàn bộ đều có nội dung bịa đặt. Một nghiên cứu đặc biệt đáng lo ngại từ Đại học Cornell và Đại học Virginia cho thấy 40% nội dung ảo có khả năng gây hại, bao gồm các phương pháp điều trị y tế được bịa đặt và nội dung bạo lực giả mạo.
Tác động đến quyền riêng tư và bảo mật
Việc triển khai phiên âm AI trong y tế đã làm dấy lên thêm những lo ngại về quyền riêng tư. Bệnh nhân ngày càng phải đối mặt với các mẫu đơn chấp thuận cho phép chia sẻ thông tin tư vấn y tế của họ với các nhà cung cấp bên thứ ba, gây ra những câu hỏi về bảo vệ dữ liệu và bảo mật thông tin bệnh nhân. Điều này đã khiến một số bệnh nhân, bao gồm cả nhà lập pháp California Rebecca Bauer-Kahan, từ chối ký các thỏa thuận như vậy.
Tác động đến ngành và những lo ngại trong tương lai
Ảnh hưởng của Whisper vượt ra ngoài phạm vi ứng dụng y tế, với việc công cụ này được tích hợp vào ChatGPT và các nền tảng đám mây lớn như Oracle và Microsoft. Với hơn 4,2 triệu lượt tải xuống trong một tháng từ HuggingFace, khả năng lan truyền thông tin sai lệch là rất lớn. William Saunders, cựu kỹ sư của OpenAI, cho rằng những vấn đề này có thể được giải quyết nếu được ưu tiên, nhưng tình hình hiện tại đang gây ra những rủi ro nghiêm trọng, đặc biệt trong môi trường chăm sóc sức khỏe quan trọng.