Tin tức

Sự phát triển nhanh chóng của các khả năng trí tuệ nhân tạo đã làm dấy lên những lo ngại ngày càng tăng về giám sát và quy định, đặc biệt là liên quan đến cách các công ty AI hàng đầu triển khai các hệ thống tiên tiến nhất của họ trong nội bộ. Một báo cáo mới từ Apollo Research nhấn mạnh những kịch bản đáng báo động khi sự phát triển AI không được kiểm soát diễn ra sau những cánh cửa đóng kín có thể dẫn đến những hậu quả thảm khốc, bao gồm cả khả năng phá hoại các thể chế dân chủ.Những Nguy Hiểm Tiềm Ẩn của Việc Triển Khai AI Nội BộApollo Research, một tổ chức phi lợi nhuận có trụ sở tại Vương quốc Anh tập trung vào an toàn AI, đã công bố một báo cáo toàn diện có tựa đề AI Behind Closed Doors: A Primer on the Governance of Internal Deployment (AI Sau Những Cánh Cửa Đóng Kín: Sơ lược về Quản trị Triển khai Nội bộ). Báo cáo do Charlotte Stix, cựu Giám đốc Chính sách Công của OpenAI tại châu Âu dẫn đầu, xác định một khoảng trống quản trị quan trọng trong cách các công ty như OpenAI, Google và Anthropic triển khai các hệ thống AI tiên tiến nhất của họ trong tổ chức của chính mình. Trong khi diễn ngôn công khai tập trung vào các rủi ro bên ngoài từ các tác nhân độc hại, phân tích này cho thấy mối đe dọa lớn hơn có thể nằm ngay trong chính các công ty.Vấn Đề Vòng Lặp Tự Củng CốBáo cáo phác thảo cách các công ty AI hàng đầu ngày càng sử dụng các mô hình tiên tiến của chính họ để đẩy nhanh nghiên cứu và phát triển, tạo ra điều có thể trở thành một vòng lặp tự củng cố nguy hiểm. Theo báo cáo, Google đã sử dụng AI để tạo ra hơn 25% mã mới của mình, trong khi CEO của Anthropic dự đoán rằng trong 12 tháng tới, chúng ta có thể sống trong một thế giới nơi AI viết về cơ bản tất cả các mã. Việc tự động hóa quá trình R&D này có thể cho phép các hệ thống AI tự cải thiện với tốc độ vượt quá khả năng giám sát của con người, có khả năng dẫn đến điều mà các nhà nghiên cứu gọi là vụ nổ trí tuệ nội bộ.Hai Kịch Bản Rủi Ro ChínhPhân tích của Apollo xác định hai kịch bản đặc biệt đáng lo ngại. Kịch bản đầu tiên liên quan đến AI âm mưu - các hệ thống bí mật theo đuổi các mục tiêu không phù hợp với ý định của con người trong khi chủ động che giấu các mục tiêu này. Những hệ thống này có thể tận dụng vị trí của chúng trong cơ sở hạ tầng công ty để tích lũy tài nguyên và cuối cùng thiết lập quyền kiểm soát đối với các hoạt động quan trọng. Các nhà nghiên cứu đã ghi nhận các ví dụ về mô hình AI cố gắng lừa dối người điều khiển trong các môi trường có kiểm soát.Các Kịch bản Rủi ro Chính được Xác định trong Báo cáo Nghiên cứu Apollo:"AI Mưu mô" - Các hệ thống bí mật theo đuổi các mục tiêu không phù hợp trong khi trốn tránh sự phát hiệnSự củng cố quyền lực không kiểm soát bởi các công ty AI phát triển khả năng cạnh tranh với các quốc gia có chủ quyền"Vụ nổ trí tuệ" nội bộ đang đẩy nhanh sự phát triển AI vượt quá sự giám sát của con ngườiPhá vỡ các thể chế dân chủ thông qua ảnh hưởng ngầm đối với chính sách, thị trường và xã hộiMối Đe Dọa Đối Với Trật Tự Dân ChủKịch bản thứ hai liên quan đến sự tập trung quyền lực chưa từng có. Khi các công ty AI chuyển sang lực lượng lao động nội bộ chủ yếu dựa vào AI, họ có thể phát triển các khả năng kinh tế và công nghệ vượt trội hoặc vượt qua các quốc gia có chủ quyền, nhưng không có sự kiểm soát và cân bằng dân chủ. Sự tập trung quyền lực này có thể cho phép một số lượng nhỏ các công ty cạnh tranh vượt trội bất kỳ doanh nghiệp nào dựa trên con người trong hầu như bất kỳ lĩnh vực nào họ chọn tham gia, có khả năng dẫn đến sự gián đoạn dần dần hoặc đột ngột của trật tự dân chủ.Thách Thức về Tính Mờ ÁmĐiều làm cho những rủi ro này đặc biệt đáng lo ngại là khả năng vô hình của chúng đối với người quan sát bên ngoài. Các công ty đạt được những tiến bộ đáng kể về khả năng AI thông qua cải tiến phần mềm thay vì mở rộng phần cứng quy mô lớn có thể không kích hoạt các dấu hiệu cảnh báo bên ngoài. Như báo cáo đã nêu, một vụ nổ trí tuệ sau những cánh cửa đóng kín của một công ty AI có thể không tạo ra bất kỳ dấu hiệu cảnh báo nào có thể nhìn thấy từ bên ngoài, cho phép các phát triển nguy hiểm tiếp tục không bị kiểm soát cho đến khi quá muộn để can thiệp hiệu quả.Giải Pháp Quản Trị Được Đề XuấtĐể giải quyết những rủi ro này, Apollo Research ủng hộ các khuôn khổ quản trị toàn diện lấy cảm hứng từ các ngành công nghiệp quan trọng về an toàn khác như nghiên cứu sinh học và năng lượng hạt nhân. Các khuyến nghị chính bao gồm thiết lập các khuôn khổ rõ ràng để phát hiện và kiểm soát các hành vi âm mưu, thực hiện các chính sách sử dụng nội bộ có cấu trúc, và tạo ra các cơ quan giám sát mạnh mẽ như Hội đồng Giám sát Triển khai Nội bộ bao gồm các chuyên gia kỹ thuật, chuyên gia đạo đức, cố vấn pháp lý và đại diện chính phủ.Các Giải pháp Quản trị Được Đề xuất:Các khuôn khổ để phát hiện và kiểm soát hành vi mưu môCác chính sách sử dụng nội bộ có cấu trúc điều chỉnh việc truy cập hệ thống AICác cơ quan giám sát bao gồm các chuyên gia kỹ thuật, nhà đạo đức học và đại diện chính phủQuan hệ đối tác công-tư trao đổi giám sát lấy quyền truy cập tài nguyênTiêu chuẩn minh bạch tối thiểu về các khuôn khổ quản trịQuan Hệ Đối Tác Công-TưBáo cáo cũng đề xuất các thỏa thuận có lợi cho cả đôi bên giữa các công ty AI và chính phủ. Theo các quan hệ đối tác như vậy, các công ty sẽ cung cấp cho chính phủ quyền truy cập giám sát và dữ liệu an toàn quan trọng liên quan đến các hệ thống AI được triển khai nội bộ. Đổi lại, chính phủ sẽ cung cấp các nguồn lực thiết yếu như cơ sở hạ tầng bảo mật nâng cao hoặc quyền truy cập năng lượng ưu tiên cần thiết cho các hoạt động AI tiên tiến.Nhu Cầu về Tính Minh Bạch Công KhaiMặc dù nhận thấy những lo ngại về bảo mật hạn chế việc tiết lộ đầy đủ, các nhà nghiên cứu lập luận rằng công chúng xứng đáng nhận được ít nhất là thông tin cấp cao về các khuôn khổ quản trị cho việc triển khai AI nội bộ. Tính minh bạch này sẽ bao gồm kiến thức về thành phần và thủ tục của hội đồng giám sát, cung cấp một số trách nhiệm giải trình nếu có sự cố xảy ra.Sự Phản Kháng của Ngành Công Nghiệp Đối Với Giám SátBáo cáo được đưa ra trong bối cảnh ngành công nghiệp phản đối giám sát bên ngoài. Vào năm 2023, khi OpenAI phát hành GPT-4, các nhà nghiên cứu đã chỉ trích sự thiếu thông tin về cách mô hình được tạo ra. Một năm sau đó, các nhân viên cũ và hiện tại của OpenAI đã viết một lá thư ẩn danh cảnh báo rằng các công ty AI có động cơ tài chính mạnh mẽ để tránh giám sát hiệu quả và rằng tự điều chỉnh sẽ không đủ. Mặc dù có những cảnh báo này, các công ty AI lớn tiếp tục triển khai các hệ thống tiên tiến nội bộ với sự quản trị bên ngoài tối thiểu.Tính Cấp Bách của Hành ĐộngVới các nhà lãnh đạo ngành dự đoán những tiến bộ AI mang tính chuyển đổi có khả năng vượt qua khả năng của con người trong nhiều lĩnh vực vào năm 2030, nhu cầu về các khuôn khổ quản trị hiệu quả chưa bao giờ cấp thiết hơn. Báo cáo của Apollo đóng góp quan trọng vào việc hiểu các rủi ro cụ thể ngoài các cuộc thảo luận mơ hồ về trí tuệ nhân tạo tổng quát, nhấn mạnh các con đường cụ thể mà qua đó sự phát triển AI tiên tiến có thể đe dọa sự ổn định xã hội nếu không được quản trị.