酷播亮新聞
文章摘要： IBM正在申請專利的技術不受水印去除技術的影響IBM已表示目前正在考慮在內部使用水印框架
諸如照片和視訊之類的數字經常被盜，這就是為什麼許多創作者採用水印方法，以便在盜竊的情況下更容易主張所有權。 可以被盜的另一個鮮為人知的數字資產是人工智慧（AI）模型，這些模型是由研究人員在數月甚至數年努力之後開發出來的。
IBM正在 開發 一種技術，允許AI研究人員對這些模型加「水印」。該技術目前正在正在申請專利。IBM表示，它在AsiaCCS ’18會議上展示了使用深度神經網路（DNN）開發的水印模型，證明它非常強大。因此，它現在正在為該概念申請專利，該概念詳細說明了使用簡單API呼叫確定DNN模型所有權的遠端驗證機制。
該公司解釋說它開發了三種水印生成演算法，包括將有意義的內容與原始訓練資料一起作為水印嵌入到受保護的DNN中，將不相關的資料樣本作為水印嵌入到受保護的DNN中，以及將噪聲作為水印嵌入受保護的DNN中。IBM表示，在使用MNIST等多個數據集進行內部測試時，帶水印的DNN模型會觸發意外但受控制的響應。
另一方面，IBM正在申請專利的技術不受水印去除技術的影響，如引數調整和修剪。但是，水印框架無法保護DNN模型不被預測API竊取，攻擊者可以利用結果中的查詢訪問和機密性之間的張力來學習機器學習模型的引數。然而，這種攻擊僅在具有較少模型引數（例如決策樹和邏輯迴歸）的傳統機器學習演算法的實踐中證明是有效的。IBM已表示目前正在考慮在內部使用水印框架，並將探索如何將其提供給客戶。
