STEAM｜眼見未為真！拆解Deepfake｜星島教室

更新時間：12:19 2024-05-16
發佈時間：12:19 2024-05-16

近年，新聞經常出現有關Deepfake深偽技術的報道：一名台灣資深音樂人的女兒因罕見疾病離世，他以人工智能（AI）Deepfake深偽技術，模仿、複製出女兒的聲音，讓他和太太重溫親情。另外，跨國公司香港分部的職員因為相信了換臉的「總裁」和「同事」，被騙走了足足2億港元。

甚麼是Deepfake？

Deepfake深偽技術於2017年開始進入大眾目光中。原文Deepfake源自英文「deep learning」（深度學習）與「fake」（偽造）組合，指應用人工智能深度學習的技術，合成某個（不一定存在的）人的圖像或影片、甚至是聲音。最常見的應用，就是將影片中的人臉替換為另一張臉（常是名人），讓指定的臉在影片中做出自己從未說過或做過的事情。

首先，需要收集目標人物的大量圖像和影片，產生一個虛擬的3D人臉模型。接着，使用這個模型將目標人物的臉部特徵影射到另一個人的影片中，並根據目標人物的動作，產生相應的表情和動作。

想想過去的電影如《魔戒》中的咕嚕、或是2008年布萊德．彼特主演的《班傑明的奇幻旅程》，將影片或照片中人物「換臉」「變老」的修圖或CG技術，在Deepfake出世前就已經存在了。Deepfake受到關注的核心關鍵在於，應用AI深度學習的算法，加上越來越強大的電腦與手機運算能力，讓「影片換臉」變得越來越唾手可得，並且天衣無縫。

過往電影的影音產業，要仿造人臉需要應用許多複雜、耗時、昂貴的電腦模擬，有了Deepfake相關的技術，使許多抱憾出現了彌補的空間。最有名的應用是荷里活電影《玩命關頭7》，在拍攝期間，主角保羅．沃克（Paul William Walker IV）意外身亡，剩下的戲份由弟弟擔綱演出，劇組再以Deepfake技術讓哥哥弟弟連戲，整部電影才可上映。

深度造假內容散播

雖然深度造假技術有可能徹底改變各個產業，但其惡意行為帶來了重大的道德、社會和政治挑戰。深度造假技術最逼切的社會影響之一是假訊息的傳播。深度造假技術能夠創造令人信服的假新聞故事、政治宣傳和陰謀論，可以操縱公眾輿論並在社會中製造混亂。隨着技術變得越來越容易使用，打擊錯誤訊息的挑戰變得越來越艱巨。

除此之外，由於能夠在未經個人同意的情況下創建高度逼真的影片和圖像，深度偽造技術引發了有關侵犯隱私權的嚴重問題。由於深度造假內容的擴散，個人可能會發現自己面臨身份被盜或被錯誤地捲入犯罪活動的風險。此外，將深度造假技術用於惡意目的，可能會對個人的聲譽和福祉造成嚴重後果。

今年1月，網上流傳以AI偽造的影片，片中看到「AI特首」推介一項高回報的投資計劃，推銷如何用2000港元投資，每周便可取得60000元回報，而且收益是免稅。另一條短片，李家超更提及馬斯克（Elon Musk）參與計劃，接着有「AI馬斯克」現身，協助推廣假投資計劃。

政府立即發布新聞稿，呼籲市民必須提高警惕，切勿誤信網上以AI偽造的電視節目片段。政府嚴正澄清，影片全屬偽造，指特首李家超從未作出相關投資計劃的言論，並強烈譴責不法之徒假冒行政長官向市民詐騙。政府和科技公司必須共同努力制訂策略，偵測和打擊深度造假內容的傳播。

智破深偽方法

那麼，現今世界是否一如《紅樓夢》般「假作真時真亦假，無為有處有還無」，如此虛幻，玄之又玄？我看未必。以下是幾個識別深度偽造的方法：

觀察眼睛：深度偽造產生的影像通常在眼睛上會有一些不自然的表現，例如瞳孔大小不一致、眨眼頻率異常或是眼球運動看起來不自然。這些細微差異有時候難以察覺，但卻是鑑別真偽的關鍵。
注意聲音：深度偽造除了影像，還會涉及聲音的仿造。如果覺得對話聽起來不自然，或者有不尋常的回音，這可能是深度偽造的跡象。聲音的細節往往比視覺更難以完美複製，因此這也是一個重要的判斷依據。
檢查畫面細節：深度偽造的影像可能會在畫面細節上出現問題，如畫面模糊、邊緣不清晰或光線效果不自然等。這些問題通常出現在臉部與頸部的接合處或是頭髮的邊緣。
使用專業工具：隨着技術的不斷進步，目前已有許多專業工具，例如Deepware AI等，可幫助檢測深度偽造的影像或聲音。這些工具利用先進的算法，分析影像或聲音的真實性，是識別深度偽造的有力幫手。

總而言之，識別深度偽造需要我們細心觀察，關注細節，並適時利用專業工具進行輔助判斷。隨着技術不斷發展，這些方法亦會不斷更新和改進，公眾需要保持警覺，以免被深度偽造的內容所欺騙。

小思考，大智慧

我們可使用哪些應用程式，製作用於教育目的的深度偽造內容？

參考答案

市面上的選擇琳瑯滿目，例如Synthesia。它是利用AI技術製作視頻的平台，利用深度偽造技術，毋須攝影機或演員即可創作專業的視頻。它使用AI為虛擬角色添加動畫效果並與配音同步。作為學生，你可以利用Synthesia進行以下應用：

影片報告：只需提供報告內容，Synthesia便可將其轉換為動畫視頻，使報告更生動有趣。
教學視頻：若想製作教學視頻來幫助同學學習，Synthesia可助創建虛擬角色來演示知識和技能。
故事演繹：若喜歡寫故事或創作，Synthesia可將文字內容轉換為動畫視頻，讓故事更生動。
演示簡報：做簡報時，可以使用Synthesia創建動畫效果和為角色配音，使簡報更具吸引力。

使用Synthesia時，可選擇不同風格的虛擬角色，根據需要和喜好進行個性化設定，例如自定配音的聲調、音高和速度，以符合想要呈現的風格。在編輯過程中，可調整角色的手勢、面部表情和身體動作，增加視頻的生動性和個性化。完成編輯後，可預覽最終效果，確保符合期望。然後，可進行視頻渲染並下載，以不同格式和分辨率在社交媒體、網站上分享，或應用於演講、教學、展示等場合。

Synthesia的技術利用深度偽造算法和機器學習，讓虛擬角色的動作和表情更加逼真。然而，作為使用者，應負責任地使用這項技術，並牢記相關的道德考量。

本欄逢周四刊登，由教育評議會邀請資深中小學老師、校長及大學講師撰稿，旨在為學生提供多元化的STEAM學習材料，引發學生探求知識的興趣，將學習融入生活，培養學生的世界觀、敏銳的觸覺、積極學習的態度。

文：東華三院王余家潔紀念小學校長劉秀萍、老師陳潁釗及老師阮駿