AI深偽名人講話詐騙廣告 洪孟楷要求數發部管管

記者傅希堯/台北報導

AI技術迅速發展且詐騙手法日益翻新,國人面對虛假資訊與網路風險的挑戰日益嚴峻,國民黨立委洪孟楷七日要求數位發展部,強化防治AI深偽影片詐騙,要求社群平台落實廣告實名制,以揪出幕後黑手,遏阻網路詐騙橫行亂象。

洪孟楷指出,日前觀看YouTube影片時被插入一則「黃仁勳講話」廣告,竟是黃仁勳推薦投資理財,影片中黃仁勳號的語氣、語調、語速幾可亂真,但有些地方細看後會發現嘴型和聲音對不上,顯然這是運用AI技術,利用名人並結合深偽科技的詐騙廣告。

洪孟楷表示,這種深偽AI詐騙已超越過去文字粉專或假帳號手法,更容易讓人誤信誤,他已通報數發部,要求加強宣導並提醒民眾注意這類進化型詐騙。同時呼籲YouTube應負起社會責任,對AI生成影片加強管理,落實廣告實名制,追查投放來源,從源頭杜絕詐騙擴散。

洪孟楷表示,詐騙手法出現AI深偽進化版,以真人影片為基礎,再替換名人臉部,僅憑一張靜態照片,就能讓影相中的人物動起來,甚至模擬挑眉、微笑、開口說話但神態幾可亂真,對一般民眾極具欺騙性,不可不防。

國家通訊傳播委員會(NCC)指出,網路素養培力計畫依對象分為兩大類課程,針對一般民眾的課程主要與自身權益及風險認識相關,例如網路詐騙防範、假訊息與認知作戰、原生內容與廣告識別、社群平台透明度與個資隱私設定等,希望藉此強化民眾的辨識力與自我保護能力。

對於數位從業人員的課程,則是從使用者資料保護、兒少及身障者數位權益、AI應用與智慧財產權等議題切入,協助從業人員提升專業素養,掌握最新趨勢與法遵知識。