日前國內傳出有上千名教授收到以深偽照片勒索詐騙郵件,執法人員從辦案經驗更發現,「愈聰明的愈容易被騙」,不只大學教授,連國際知名企業、銀行高階主管都可能是受害者,有人因收到詐團透過AI處理過的主管、客戶來電或視訊,而付出巨額代價。面對AI成為犯罪集團新幫手,企業跟民眾又該如何辨識、防範?
大陸一名特效師日前把自己的照片與知名女星迪麗熱巴合成彼此熱吻的影像,結果被迪麗熱巴粉絲海K一頓。這只是AI換臉技術製造的其中一個爭議個案,AI換臉近來頻繁在大陸衍生爭議,原本私下玩樂居多的性質,因將合成照或後製的影片放在網上,已製造出各種爭議和法律問題。
聯合報每天推出「圖解新聞」,希望藉由圖像設計幫助讀者理解生硬內容。詐騙集團這次瞄準大專院校教授,這次圖表帶你看目前深偽詐騙手法。
網紅小玉深偽(Deepfake)換臉色情片風暴讓蔡英文總統震怒,要求修法規範, YouTube官方不再沉默,無限期停止頻道營利資格。網路色情泛濫,染指青少年問題嚴重,政府早該正視,若能因此事件一舉修法徹查管理,應可減少許多社會問題。
台灣尚無法規規範數位性暴力,深偽(Deepfake)變臉現象成了法律灰色地帶,多半僅能以誹謗及散播猥褻物起訴深偽影片製作者。疲弱的法律環境連瘋傳影片都無法遏止,面對這波新興科技狂潮,資安專家認為,當下對假影片的審查還未起步,要遏止事態擴大,呼籲政府和各網路平台先推動揭露真偽影片的機制,例如標註影片是深偽或原創,並加速修法規範。
移花接木的深偽(Deepfake)人工智慧換臉現象在網路橫行,連蔡英文總統都受害,遭換臉成穿著清涼的萌妹,蔡總統宣示要修法,甚至拉高到國安層級討論。學者認為蔡總統的宣示背後,代表未來這項技術很大的隱憂,尤其在選舉期間,最怕利用這種遊走法律邊緣的開玩笑作法,操作網路空戰、製造聲量及討論度,相對也可醜化政治人物,例如韓國瑜在總統大選時,就是敗在被塑造成無能力、嘴砲的形象,這種網路的「數位刺青」會嚴重損害個人聲譽。
網紅「小玉」朱玉宸以深偽技術(Deepfake)做出換臉A片牟利,受害者包括民進黨立委高嘉瑜、高雄市議員黃捷、女明星蔡依林、「雞排妹」鄭家純等女性名人,令大眾恐慌的是,他還賣換臉軟體,強調這套換臉神器「網紅、素人比可換」,恐讓換臉軟體淪為報復工具,對象可以是分手的情人、討厭的女上司等,透過網路傳播,數位霸凌的烙印難以抹滅,這項「數位易容術」也成為性別暴力的加害工具。
網紅「小玉」朱玉宸將名人「換臉」到色情影片女優身上被法辦,引爆時下深偽技術(Deepfake)的熱烈討論。總統蔡英文為此允諾研擬修法,甚至拉高到「認知作戰」國安層級討論,法務部也喊1個月內提修法。
網紅「小玉」朱玉宸以深偽技術(Deepfake)換臉製作名人不雅影片牟利,多名女性政治人物受害,朝野同聲譴責,蔡總統、副總統賴清德也震怒,表態要研擬推動修法。據了解,蔡總統迅速回應「小玉事件」,知情黨政人士說,並非因為蔡總統也曾被「換臉」,才開始重視這個問題,主因是Deepfake恐被用於多元犯罪樣態,「每一個人都可能成為受害者」,且台灣近年來深受錯假訊息危害,總統希望親自發聲喚起政府與社會正視問題嚴重性。
網紅「小玉」朱玉宸利用AI Deepfake換臉技術製作名人色情影片上網販售,合成上百名藝人、網紅、政治人物臉部,一年大賺上千萬元,包含蔡依林、「雞排妹」鄭家純、郭書瑤、理科太太、白癡公主等藝人與網紅,甚至連台北市立委高嘉瑜、高雄市議員黃捷都受害,蔡總統昨晚都為此發聲,表示將修法防新科技犯罪。令外界好奇這個AI技術到底有多厲害,能夠騙過這麼多人?
台灣網紅「小玉」朱玉宸用AI換臉技術製作名人色情影片上網販售,合成上百名藝人、網紅、政治人物臉部,一年大賺上千萬元,包含蔡依林、「雞排妹」鄭家純、郭書瑤、理科太太、白癡公主等藝人與網紅,甚至連台北市立委高嘉瑜、高雄市議員黃捷都受害,引發軒然大波。 其實「深偽技術」(Deepfake)在國外並不陌生,也因為太逼真、太有說服力,引發輿論擔憂。 國際巨星湯姆克魯斯2005年在歐普拉專訪「跳沙發」畫面在短時間就引發極大關注,也讓他原本良好的形象整個崩壞。近日又有多支阿湯哥影像在TikTok走紅,屢屢成為媒體的頭條。只不過,阿湯哥本尊並沒有拍攝這些影片...