科技巨頭攜手成立「CoSAI」 共同推動AI安全與負責任發展

新聞視界時報 記者 李翌淳 整理報導

微軟、Google、Meta等科技巨頭最近合組了人工智慧安全聯盟「CoSAI」，目的是為了改善AI技術潛在的風險問題。

這個聯盟還包括了其他重要企業，如OpenAI、亞馬遜、Anthropic、Cisco、IBM、Intel、NVIDIA、PayPal、Wiz、Chainguard、GenLab和Cohere。

「CoSAI」的成立是在去年由Google提出的人工智慧安全框架「SAIF」基礎上進行的。

該聯盟的目標是推動更安全、負責任的人工智慧發展。

通過開源和標準化的框架與工具，聯盟希望幫助開發者創建更安全的人工智慧系統，並防止這些系統被盜用或濫用。

此外，聯盟還致力於防止惡意資料影響模型的訓練準確性，以及惡意指令輸入（Prompt injection）對模型輸出結果的影響。

在「CoSAI」的初期運作中，聯盟將制定人工智慧系統軟體供應鏈的安全規範，從根本上確保人工智慧系統是基於安全可靠的軟體和資料建立的。

此外，聯盟還將設置保障措施，以識別和應對隨時出現的人工智慧安全威脅。

同時，「CoSAI」還將通過制定規範來指導如何開發安全可用的人工智慧系統。

聯盟計劃引入一套評估系統，幫助開發者判斷其人工智慧系統是否足夠安全。

此外，聯盟還將設立專案管理委員會來推進和管理專案的發展，同時由學界和業界的人工智慧專家合組技術指導委員會，協助監督各項工作。

「CoSAI」的成立代表著科技領域的重要一步，這些科技巨頭們攜手合作，共同致力於打造一個更安全、更負責任的人工智慧未來。

這一舉措不僅將促進技術進步，也將提升公眾對人工智慧技術的信心。