資安院揭AI假影片4大情境 可用3方式初步檢核

記者王誌成/台北報導

隨著人工智慧(AI)技術的進步,假影片的數量不斷增加,常見的情境包括名人換臉色情片、偽冒名人詐騙、AI虛擬化身內容農場及搬運Sora影片。資安院研究員戴毓辰建議,民眾可透過檢查AI生成標註、以圖搜圖及評估影片情境合理性來辨識假影片。

假影片的主要類型包括,一、名人換臉色情片,利用深度偽造技術合成公眾人物的影像;二、偽冒名人詐騙,利用AI對嘴技術冒用專家形象進行詐騙;三、AI虛擬化身內容農場,生成不存在的虛擬主持人;四、搬運Sora影片,將原本帶有浮水印的短影片去除標記後再發布。

面對這些假影片,戴毓辰建議三種判斷方法,首先,留意AI生成標註;其次,以圖搜圖查證影片中的人物;最後,觀察影片情境的合理性,如人、事、時、地的細節是否一致。隨著技術進步,辨識假影片的挑戰將增加,民眾應提高警覺,養成檢查習慣以降低受騙風險。