Meta AI 長 Alexandr Wang 在 Instagram 發布 Sam Altman 深偽影片

Alexandr Wang của Meta đăng video deepfake Sam Altman lên Instagram

這支影片只是為了宣傳 Muse 的玩笑之作,但 Meta 高階主管拿競爭對手當 AI 角色,也顯示 Instagram 上深偽內容的界線已經往前推了不少。

⚡ MIGOVI TL;DR

  • Meta 的 chief AI officer Alexandr Wang 發布一支 AI 影片,內容是 Sam Altman 扮成吉祥物 Jolly,用來宣傳 Muse
  • 影片已標示 AI 標籤,因此並未違反 Meta 現行規定
  • Meta 只強制要求標示以真人為題材的 AI 影片,靜態圖片則不在此限
  • OpenAI 尚未回應置評請求

Alexandr Wang 在 Instagram 上的影片

11 月初,Meta 的 chief AI officer Alexandr Wang 在 Instagram 上發布了一段由 AI 生成的短片,用來宣傳公司面向一般使用者的 AI agent Muse。片中,Wang、Meta 執行長 Mark Zuckerberg、OpenAI 執行長 Sam Altman,以及 Muse 的擬人化吉祥物 Jolly 一起開四方視訊會議。Altman 一接通就現身,穿著附帽的毛絨裝,扮相與 Jolly 如出一轍。影片說明文字寫著「When the homies meet about openai product strategy」,以調侃的口吻帶過 AI agent 的競爭,以及 Muse 近期的人氣。

Wang 宣傳 Muse 的方式,被部分人稱為「anti-PR」:在社群平台上發了數百則貼文,甚至把傳統行銷圈稱為「corposlops」。即便如此,大型科技公司的高階主管直接拿競爭對手的 AI 影片出來發布,仍然相當引人注目,尤其是在這個平台才剛因處理 AI 生成內容的方式而受到批評的時候。

https://www.instagram.com/p/DffPoRdhozI/

Instagram 與 AI 內容的爭議

幾年前,以真人形象製作的 AI 內容曾引發強烈反彈,有時甚至面臨訴訟威脅。如今這類內容已成為社群媒體的常態,大家也見怪不怪。不過,Instagram 仍為此受到批評:10 月時,一張演員 Mia Goth 的 AI 圖片廣為流傳,她的代表向 The Verge 表示,Instagram 任由圖片擴散,卻不去「保護形象與完整性」,實在「incomprehensible」。Scarlett Johansson 也經常成為敏感 AI 圖片的題材,而 Meta 先前也曾移除一些盜用他人圖片、冒充身分的帳號。

漏洞就出在 Meta 的規定本身。含有真人的 AI 影片必須標示 AI 標籤,Wang 的貼文就是如此,但靜態圖片卻沒有這項要求,所以 Goth 的那張圖片沒有任何警示。情況更糟的是,這張圖由一個粉絲帳號分享,而該帳號擁有 Instagram 本身核發的藍勾勾,也就是說,觀看者很容易把它當成可信的內容。

Meta 與 OpenAI 的回應

被問及此事時,Meta 發言人 Tracy Clayton 表示,Wang 的貼文已依規定標示 AI 標籤。Clayton 也提到,Altman 先前曾同意他人使用自己的形象製作 AI 內容,例如 OpenAI 推出 Sora 應用程式時,很快就湧現大量假 Altman 影片。至於 OpenAI,該公司尚未回覆置評請求。

MIGOVI 觀點

Migovi 認為這起事件顯示,在 Instagram 上,「符合規定」與「對觀看者安全」之間仍有相當大的落差:Wang 的影片合規,因為有 AI 標籤,Altman 也曾同意他人使用自己的形象;但 Mia Goth 的靜態圖片即使由藍勾勾帳號發布,仍在沒有標籤的情況下廣為流傳。這意味著 AI 標籤只能在部分情況下保護觀看者,其餘時候仍得靠自己提高警覺。對越南的使用者而言,最實際的做法是別把藍勾勾或傳播熱度當成圖片真實的證據,尤其是名人的圖片,分享前最好再向官方來源查證。

來源:The Verge

審核人: Hero Association

分享您的想法 ^^

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *

觀點

目錄

  1. Alexandr Wang 在 Instagram 上的影片
  2. https://www.instagram.com/p/DffPoRdhozI/
  3. Instagram 與 AI 內容的爭議
  4. Meta 與 OpenAI 的回應