開放安全人工智慧聯盟推動人工智慧網路安全

開放安全人工智慧聯盟推動人工智慧網路安全

開放安全人工智慧聯盟（Open Secure AI Alliance）是一個由超過 120 個組織組成的聯盟，旨在加強人工智慧網路安全。近日，聯盟成員開始草擬新的指南，旨在加強代理人工智慧（Agentic AI）的網路安全。這些指南將被提出給業界，希望能夠共同推動人工智慧網路安全的發展。

背景與影響

現在的網路安全環境面臨著許多挑戰，每一次重大技術變革都會創造新的攻擊面。因此，防禦者需要快速地應對和保護基礎設施和智慧財產。開放安全人工智慧聯盟認為，最佳的方式是通過共同合作和分享威脅情報來實現集體防禦。這樣可以使防禦者能夠快速地學習和適應新的攻擊方式。

共享威脅情報和開源工具

開放安全人工智慧聯盟正在發展一套名為 Shared AI Findings Exchange（SAFE）的指南，旨在加強代理人工智慧的網路安全。這些指南包括如何收集和分析人工智慧事件和近miss，如何通知受影響的組織，如何識別重複的控制失敗，和如何發布基於證據的操作建議。同時，聯盟成員如 英偉達（NVIDIA）、思科（Cisco）、CrowdStrike、Hugging Face 和 紅帽（Red Hat）等正在共同努力，為這些指南的草擬做出貢獻。

英偉達的貢獻

英偉達 是開放安全人工智慧聯盟的重要成員，該公司正在為人工智慧網路安全的發展做出貢獻。例如，英偉達 的 NVIDIA Labs Object-Oriented Agent（NOOA） 研究框架可以使代理人工智慧的行為更容易被測試、追蹤、審計和管理。另外，英偉達 的 NVIDIA OpenShell 執行環境可以限制代理人工智慧的權限，確保代理人工智慧不能夠存取不應該存取的資源。

未來展望

開放安全人工智慧聯盟的努力將有助於加強人工智慧網路安全，推動業界共同合作和分享威脅情報。通過這樣的努力，防禦者將能夠更快速地應對和保護基礎設施和智慧財產。同時，開源工具和共享威脅情報將使得人工智慧網路安全的發展更加快速和有效。因此，開放安全人工智慧聯盟的工作將對人工智慧網路安全的未來產生重要的影響。