跨境鎮壓 | OpenAI 確認新型認知作戰 借 ChatGPT 生成粵語內容抹黑香港社運人士 親建制專頁再傳流亡港人Deepfake片

主頁 中國 跨境鎮壓 | OpenAI...

OpenAI 在本年十月份公共威脅報告中 ,發現一個小規模 ChatGPT 人工智能生成賬戶網絡,生成大量廣東話社交媒體帖文及評論,針對香港社會運動人物如《蘋果日報》創辦人黎智英、羅冠聰、鍾翰林、周庭等,抹黑並描繪其為罪犯或叛徒,製造支持《港區國安法》的聲音,屬新式的認知作戰及隱藏影響力行動(Covert Influence Operation)。
報告變相確認 此前《棱角》調查,指至少有一個社交媒體網絡裝扮成香港人,以廣東話帖文針對香港公民社會及傳媒 ,抹黑黎智英、大學講師、民調機構,以至傳媒人等。
報告指, 該個網絡全部戶口均為 ChatGPT 生成內容
《棱角》亦再次發現針對 流亡港人羅冠聰、劉祖迪和劉珈汶的 AI Deepfake(深度偽造)片段 ,聲稱眾人擔心引渡協議, 重覆使用 7 月 26 日流傳, 基於《追新聞》及「香港民主基金會 HKDC」片段製作 的深度偽造畫面。
今次傳播者繼續使用代理賬戶(Proxy Account)網絡,傳播到灰色媒體頁面(擁有大量追隨者並疑似與香港/中國官方有關聯的賬戶/頁面)發佈的帖子,屬於灰色作戰(Grey Zone)一種。
部分代理賬戶早於 2019 年開設,但在 2023 年才開始活躍,以日本及韓國性感女性形象吸引追蹤,但戶口只有反美國及香港民主運動的內容。
獨立研究員李紫楓(Sze-Fung Lee)跟《棱角》分析,裝扮成性感誘人的女性是認知作戰常用行動,而兩次深偽影片均顯示,人工智能似乎無法處理香港人日常將廣東話及英文混合使用的語碼混合(Code-Mixing)情境,而部分句子尾段亦非常怪異及不自然,語音與口型仍然不同步,仍然接近「廉價偽造」(cheapfakes)。
但劉珈汶向《棱角》表明,今次深偽影片的畫面以及聲音,都比上次更順暢及像真。
Chat GPT 被用以生成 X 平台針對流亡港人廣東話帖文

該段被 Open AI 點名為 Chat GPT 生成的內容,講述鍾翰林及許智峯分別獲得英國及澳洲政府批出「所謂政治庇護」,指兩人為作為「通緝犯嘅亂港罪行絕對係不容辯駁嘅實施 . . . (這些人士的共同點)係將所有危害國安嘅罪行美化成所謂『爭取民主』」,並指「只要仲未贖清罪責,唔理係一日定係一世都係通緝犯 . . . 『政治難民』亦絕非逃避罪責嘅『免死金牌』」

然而,片段中明顯有廣東話「語意不通」有 AI 生成的痕跡,有關內容疑似是由不諳廣東話的人,將書面語內容導入 Chat GPT 改寫成廣東話,造成廣東話口語及書面語之間不倫不類的情況,例如「講到底『不就係』諗住逃避罪責」、「再睇反許智峯文中嘅『文字設計』」等。

針對流亡港人 Deepfake 再現 對白現破綻

《棱角》追蹤發現,一個在今年 9 月 30 日一個使用「芝麻街」為頭像的 Facebook 帳戶發布新一段片長約 1 分鐘、主題與 羅冠聰早前被新加坡拒絕入境 相關的 deepfake「急 call 密會」對話影片,當中一句錯將「入境」講成「落境」(「點知喺新加坡落機先唔畀『落境』,仲拘留我好 X 耐」)。

影片跟上次一樣 ,劉的片段是《追新聞》2023 年 6 月 1 日的訪問 ,而 羅冠聰是2022 年 3 月 13 日「香港民主基金會 HKDC」就香港 47人案 228 首次提堂周年的影片

劉祖迪《追新聞》是 2023 年 7 月 5 日 ,在英國國會跟前職工盟總幹事蒙兆達,就國安處懸紅通緝的簡報會。

這個「芝麻街」頭像 Facebook 帳戶疑似是最近新註冊,頁面上僅公開發布該段影片,並無其他互動跡象。該段影片在無人按讚的情況下,截至 10 月 10 日(周五)已錄得逾 2,900 次瀏覽,以及被分享 60 次。

《棱角》記者再循分享的傳播鏈發現,將該 deepfake 影片轉發的帳戶,主要集中在「芝麻街」頭像及另外三名使用低畫質亞裔女性為頭像的帳戶,於首次發布的 3 小時內轉發至「撐警大聯盟(盟友討論區)」、「我撐何君堯議員」、「愛港之聲(討論區)」、「監察李家超政府群」、「關愛香港,情繫中華!」及「時聞香港」等,甚至會同一個帳戶在一個 Facebook 多次分享。然而,相關帖文皆未有在群組中引起強烈迴響。

記者再發現,這些亞裔女性頭像帳戶,配上常見的港式英文名及姓氏,最早於 2021 年開始活躍,且互相有留言互動,其中一個帳戶更多達 1,200 人追蹤,疑為代理賬戶(Proxy Account)網絡節點(Node)。然而,這些帳戶疑非「真人」帳號,她們頭像所用的相片畫質明顯被多次壓縮,其中一個頭像更確認是盜取自一名韓國模特兒的 Instagram 帳戶。

另外,這些帳戶圖文並茂在 Facebook 公開發布有關反美、針對香港民主運動的帖文,例如「#醫管局員工陣線 #發起罷工#置市民病情不顧」、「#職工盟 #證據確鑿 #搞大三罷 #癱瘓香港 #支援黑暴」、「巴以衝突,西方雙標,抹黑中國打壓新疆,支持以色列攻打加沙,美國支持種族滅絕」等,又會轉發一個聲稱會「讓各界人士說出事實的觀點」的親中網絡媒體 Facebook 專頁「hkwisdom天機」的帖文,例如做出「終於審完,將佢哋繩之於法」(醫院及口岸炸案)、「特朗普正pk」(美國政府針對兩間晶片廠的對華銷售徵收 15% 營收稅)、「美國佬知道賴嘢」(中美元首就 TikTok 「不賣就關」商討賣盤協議)等留言。

(編按:劉祖廸為《棱角》執行總監,本次報道中未有參與。)

棱角編輯部

支持我們: https://points-media.com/supports/