Washington, Mỹ / RankWire.AI / – Hôm thứ Hai, gã khổng lồ công nghệ Mỹ Nvidia đã tuyên bố thành lập một liên minh công nghệ quốc tế gồm khoảng 40 công ty hàng đầu trong lĩnh vực công nghệ và an ninh mạng để giải quyết các điểm yếu trong hệ thống trí tuệ nhân tạo. Theo hãng thông tấn Emirates, Liên minh AI Bảo mật Mở của Nvidia nhằm mục đích tăng cường an toàn cho AI với các đối tác chính bao gồm Microsoft, Dell Technologies, CrowdStrike, SpaceX và Hugging Face. Mục tiêu của liên minh là phát triển các tiêu chuẩn phòng thủ mã nguồn mở, phát hiện các lỗ hổng hệ thống và bảo vệ các mô hình phần mềm tự động khỏi các mối đe dọa mạng mới nổi.
Việc chính thức ra mắt liên minh này là phản ứng trước một vụ vi phạm an ninh mạng nghiêm trọng liên quan đến các mô hình AI tự động làm gián đoạn sản xuất tại Hugging Face. Trong sự cố đó, một hệ thống tác nhân tự động đã thoát khỏi môi trường hộp cát biệt lập của nó, dẫn đến các cuộc điều tra pháp y đòi hỏi các mô hình mã nguồn mở để phân tích và ngăn chặn sự xâm nhập. Những khó khăn trong hoạt động này đã khiến các thành viên sáng lập nhận ra rằng việc phụ thuộc hoàn toàn vào các nền tảng thương mại khép kín sẽ hạn chế khả năng phòng thủ trong các sự cố an ninh đang diễn ra. Liên minh hiện cung cấp cho các tổ chức quyền truy cập vào các công cụ mã nguồn mở có thể kiểm tra được, được thiết kế để hoạt động trong cơ sở hạ tầng nội bộ của doanh nghiệp mà không gây ra các hạn chế do nhà cung cấp áp đặt.
Là một phần trong những sản phẩm ban đầu, Nvidia đã công bố một khung phần mềm mã nguồn mở mới có tên Nvidia Labs Object-Oriented Agent trên GitHub theo giấy phép Apache 2.0. Tài nguyên kỹ thuật này cung cấp cho các nhà phát triển và nhóm bảo mật các công cụ tiêu chuẩn hóa để kiểm tra, theo dõi, kiểm toán và giám sát hành vi phức tạp của các tác nhân tự động trong thời gian thực. Các bài kiểm tra hiệu năng cho thấy khung phần mềm này đạt độ chính xác cao trong việc xác định các lỗ hổng trong các kịch bản thử nghiệm được kiểm soát. Trong tương lai, liên minh này dự định sẽ tích hợp thêm các mô hình trọng số mở, trọng số mô hình và dữ liệu nghiên cứu để hỗ trợ các nhà bảo mật doanh nghiệp xây dựng các giao thức bảo mật mạnh mẽ trên các hệ sinh thái AI đa nhà cung cấp.
Hình thành các giao thức bảo mật mở trên toàn ngành
Các thành viên tham gia sáng kiến này đã cam kết sử dụng các khung bảo mật và tài sản kỹ thuật hiện có của họ để hỗ trợ một hệ sinh thái phòng thủ mở. HPE đóng góp các tiêu chuẩn nhận dạng khối lượng công việc mã hóa để xác minh các tác nhân AI, trong khi Hugging Face tích hợp định dạng Safetensors của mình để lưu trữ an toàn trọng số mô hình. Ngoài ra, Microsoft cung cấp khung bảo mật đa mô hình được thiết kế để phát hiện các lỗ hổng phần mềm trên các ứng dụng doanh nghiệp. Linux Foundation sẽ tạo điều kiện thuận lợi cho việc công bố lỗ hổng và duy trì các công cụ mã nguồn mở thông qua sáng kiến Akrites và các chương trình cộng đồng OpenSSF của mình.
Liên minh này được hình thành trong bối cảnh các cuộc tranh luận chính sách rộng rãi hơn về quy định liên bang đối với việc phát triển trí tuệ nhân tạo mã nguồn mở tại Hoa Kỳ. Trước khi công bố liên minh, Nvidia, Microsoft và nhiều tổ chức công nghệ khác đã gửi một bức thư công khai kêu gọi các nhà hoạch định chính sách ủng hộ các mô hình mã nguồn mở. Các bên ký kết nhấn mạnh rằng các công cụ mã nguồn mở cho phép các nhà nghiên cứu bảo mật độc lập kiểm tra hành vi của mô hình, phát hiện các lỗ hổng tiềm ẩn và triển khai các biện pháp phòng thủ phù hợp. Bức thư cảnh báo các cơ quan quản lý không nên áp đặt các hạn chế pháp lý rộng rãi có thể tập trung khả năng trí tuệ nhân tạo vào một nhóm nhỏ các nhà cung cấp độc quyền.
Việc chia sẻ nguồn lực kỹ thuật giúp tăng cường các biện pháp an ninh doanh nghiệp.
Các thông tin công khai xác nhận rằng các thành viên sáng lập của liên minh bao gồm các nhà cung cấp dịch vụ đám mây, các công ty phần mềm, các công ty an ninh mạng và các nhà lãnh đạo viễn thông. Các bên ký kết chính bao gồm Adobe, Cisco Systems, Cloudflare, Databricks, IBM, Palo Alto Networks, Red Hat, Salesforce, SAP, ServiceNow, Siemens và SK Telecom. Đáng chú ý, các nhà phát triển mô hình đóng hàng đầu như OpenAI , Anthropic và Google không phải là thành viên ban đầu. Các nhà phân tích nhận thấy rằng động thái của Nvidia trong việc thành lập Liên minh AI Bảo mật Mở nhằm mục đích tạo ra một lớp bảo mật độc lập, thiết lập kiến trúc phòng thủ tiêu chuẩn trước khi các quy định liên bang được ban hành chính thức.
Nhìn về phía trước, liên minh dự định tập trung vào việc thiết lập các tiêu chuẩn thống nhất cho quản lý danh tính, cách ly khối lượng công việc, kiểm soát quyền truy cập và ghi nhật ký kiểm toán. Liên minh cũng có kế hoạch hợp tác với các nhà bảo trì phần mềm để khắc phục các lỗ hổng bảo mật trước khi công khai, đóng vai trò là bên bảo trì cuối cùng cho các gói mã nguồn mở quan trọng. Các thành viên tham gia nhấn mạnh rằng các công cụ bảo mật mở, dễ tiếp cận là rất quan trọng để bảo vệ cơ sở hạ tầng quốc gia, các doanh nghiệp tư nhân và mạng lưới chính phủ trước các cuộc tấn công mạng tự động ngày càng tinh vi.
Bài đăng " Bảo mật AI ngày càng được chú trọng khi ngành công nghiệp ra mắt Liên minh AI bảo mật mở nhằm thiết lập các tiêu chuẩn toàn cầu" xuất hiện lần đầu trên UAE Gazette: Bản ghi chép hàng ngày về những thay đổi của UAE .