臉書以逆向工程溯源假照生成模型,有助調查深度偽造事件

臉書與密西根州立大學(MSU)合作,開發了一種,這個方法是透過對假照以及生成照片的模型,進行逆向工程,以發現可用來偵測假照的特徵。研究人員提到,這項研究的重要性在於,突破人們對於假照偵測的理解,透過解析模型能夠讓相關從業人員,更好地調查深度偽造虛假資訊事件。

由於深度偽造技術越來越進步,人類已經無法輕易的分辨假照與真實圖像的差異,再加上深度偽造技術可能不只被用於娛樂上,而是另外的惡意目的,因此假照偵測研究變得重要。當前的深度偽造偵測技術有其限制,研究人員透過封閉的資料集,來教模型分類假照,但是一旦假照是由偵側模型未看過的圖像產生,則偵測模型效能低落。

而逆向工程是解決深度偽造的另一種方法,這並非全新的概念,研究團隊使用逆向工程方法,探索生成假照的深度偽造人工智慧模型所產生的特殊圖騰,研究人員從圖片來源著手,並且擷取模型產生圖像的特性,透過歸納圖像來源,來推論深度偽造生成模型的資訊,就能追蹤出一系列圖像來源。這種能夠發現假照是由單一模型產生的能力,對於打擊應用深度偽造技術的惡意攻擊非常有用。

研究人員解釋,在深度學習時代之前,生成照片通常需要使用小型且知名的工具,而這些工具留下的指紋,便能被當作手工製作的特徵,可用來偵測由工具生成的照片,但是深度學習技術使得可用來產生圖片的工具集,存在無限多種組合,讓研究人員難以透過手工特徵,來辨識特定的訊號或是指紋屬性。

金誠貨櫃實業社

以客為尊,客製化的設計與服務搭配專業的工班,能夠提供全方位的貨櫃屋組合方案、貨櫃屋改裝及裝潢設計配合您的需求打造出一個完善的居住空間

5噸電動堆高機 & 2噸立式堆高機

不想忍受柴油堆高機帶來的廢氣汙染,電動堆高機將會是很好的選擇

各種精緻鐵盒包裝茶葉罐、禮品罐,增加商品收藏及實用性。

鴻和興精密工業股份有限公司,是由在台灣專業生產茶葉罐、奶粉罐具有領先地位的光華金屬所投資組織成立的一家專業製造包裝材料之馬口鐵罐製造廠,延續光華金屬工業股份有限公司,30多年來一貫秉持的專業、品質、服務、效率為各大客戶服務。

總是為了廚餘煩惱嗎?

雅高環保提供最適用的廚餘機,滿足多樣需求。

研究人員現在使用指紋評估網路(FEN),從假照中擷取生成模型所留下的指紋,研究人員提到,由於圖片製造過程的缺陷,每個圖片都會留下裝置特殊的圖騰,在數位攝影中,照片指紋會被用來辨識拍攝的數位相機,而裝置指紋與攝影機指紋類似,生成模型會在照片上留下特殊的紋路,因此可用來辨識產生圖片的生成模型。

研究人員根據野外發現的深度偽造指紋,建立生成指紋資料集,並利用該資料集訓練模型,用來辨識過去未見過的指紋,研究人員提到,他們的系統可以評估深度偽造模型的演算法網路架構,以及訓練損失函式,由於生成模型的網路架構和訓練損失函式都不相同,因此可以用來精確的斷定生成模型。

研究團隊以各種來源的資料集測試並且評估模型,雖然目前還沒有其他模型解析的方法,但研究人員透過建立隨機基準真相(Random Ground-Truth)來進行比較,實驗結果顯示,臉書與MSU所開發的方法,明顯比隨機基準真相更好,顯示架構超參數、訓練損失函式,與生成的圖像間,確實存在關聯性。

研究人員提到,他們的方法具有良好的泛化能力,可應用到人類與非人類的圖像中。該方法解構深度偽造技術擷取指紋,該指紋經研究人員研究,並無法映射回原始圖像中,這個指紋僅為生成模型留下的痕跡。

這些研究用的人像假照和逆向工程的實驗,都在MSU中生成與進行,MSU將會向研究社群開源該研究資料集、程式碼和訓練模型,以促進深度偽造偵測研究發展。

https://www.ithome.com.tw/news/145084

快速搞懂塑膠射出成型原理

注塑成型為藉由將熔融塑料注射到模具中來生產零件的製造過程。可以使用多重材料進行射出成型,最常見為熱塑性聚合物。塑料被送入加熱料管中,利用螺桿混鍊,然後注入模,在模腔中冷卻並固化成型。

空壓機這裡買最划算!

晨達空壓機秉持著專業空壓機技術、優質快速服務、空壓機合理價格。為您解決工作中需要風量、風壓的問題。

隨時健康喝好水,高品質飲水機,優質安全有把關

瀚洋飲水機永續經營於雲嘉南高地區,我們堅持一貫的理念,強調服務品質及維護時效,採e化保養管理

5噸電動堆高機 & 2噸立式堆高機

不想忍受柴油堆高機帶來的廢氣汙染,電動堆高機將會是很好的選擇

work_outlinePosted in 工業