防堵 AI 深偽詐騙！谷歌搜索結果將標註由 AI 生成的圖像

谷歌週二表示，計劃對谷歌搜索進行調整，使用户更清楚地知道搜索結果中，哪些圖像是由 AI 生成或由 AI 工具編輯的。

該公司表示，在接下來的幾個月中，谷歌將在搜索、Google Lens 和 Android 上的 Circle to Search 功能的 “關於此圖像” 窗口中標記 AI 生成和編輯的圖像，類似的提示可能會出現在 YouTube 等其他谷歌的其他平台上。谷歌表示，將在今年晚些時候分享更多相關信息。

值得注意的是，只有包含 “C2PA 元數據” 的圖像才會在搜索中被標記為 AI 處理過的。C2PA（內容來源與真實性聯盟）是一羣致力於制定技術標準的組織，旨在追蹤圖像的歷史，包括捕獲和/或創建圖像的設備和軟件。

目前，包括谷歌、亞馬遜、微軟、OpenAI 和 Adobe 在內的公司都支持 C2PA。然而，該聯盟的標準尚未得到廣泛採用。此前有媒體報道，C2PA 在推廣和互操作性方面面臨諸多挑戰，目前只有少數生成式 AI 工具和徠卡、索尼的相機支持該組織的規範。

此外，與任何元數據一樣，C2PA 元數據可以被刪除、擦除或損壞到無法讀取的程度。而一些流行的生成式 AI 工具（如 xAI 的 Grok 聊天機器人用於圖像生成的 Flux）生成的圖像不含 C2PA 元數據，部分原因是它們的開發者尚未同意支持該標準。

但分析認為，儘管如此，有措施總比沒有好，尤其是在 AI 深度偽造（deepfakes）迅速傳播的情況下。調查顯示，大多數人都擔心被深度偽造欺騙，以及 AI 可能會助長虛假宣傳的傳播。根據一項估計，涉及 AI 生成內容的騙局在 2023 年到 2024 年之間增長了 245%。德勤預計，與深度偽造相關的損失將從 2023 年的 123 億美元飆升至 2027 年的 400 億美元。