臺灣資安科技研究中心

聯邦式學習是機器學習領域中的一種創新的去中心化範例。有別於傳統的集中式方法，聯邦式學習的機制使多個參與者之間可以共同訓練全局模型，且不需分享參與者自身的原始數據，僅需分享參與者的本地模型參數，以此來保證其機密性。此外，為了保證聯邦式學習的公平性，如何評估每個資料提供者的資料集對於全局模型預測性能的貢獻則成為其中一個關鍵問題。為了對聯邦式學習中的資料集進行估值，引入了Shapley Value的概念。通過測量在全局模型參數的各種組合，包含和排除局部模型參數的效果，來估算每個資料集對訓練完的全局模型之貢獻。然而，由聚合者或某些重要元件（如驗證器）來對每個資料集進行的貢獻測量的話，則因該元件是由組織所控制的而顯得不合理。因此，這項研究主要提出了一種貢獻度測量框架或數據評估，並且相對以往方法更為公平。且在此框架下，貢獻度測量過程中將無法偽造其結果。新框架允許每個參與者（資料提供者）驗證貢獻度衡量的結果。表 1 亦顯示，只有本研究支持具隱私保護的聯邦式學習中的公平性與可驗證性。圖 1 顯示了該研究所提出具有可驗證的強公平性之隱私性保護聯邦式學習的方法。圖 2 顯示該作品已被 ACM CCS 2023 接受並列入Poster論文的議程中。