大量用戶使用AI生圖功能制造出逼真的虛假衛星圖像，而谷歌原本設計的防護措施并沒有起到識別和禁止作用。
當地時間7月30日，谷歌在Google Earth網頁版上線了一項基于AI的圖像生成功能，用戶只需輸入文字指令，即可在真實衛星影像上疊加由AI生成的虛構場景。然而，該功能上線后不到24小時，便被用戶大量用于制造逼真的虛假衛星圖像。7月31日，谷歌緊急宣布撤回該功能，并表示將在建立更嚴格的安全防護措施后再考慮重新推出。
（BBC相關報道標題）
谷歌在Google Earth網頁版中集成了名為“Nano Banana 2”的AI圖像生成模型，用戶只需在地圖上放大任意地點，點擊“創建圖像”按鈕并輸入文字描述，系統便會基于該地點的真實衛星、航拍及3D影像生成一張虛構的“衛星照片”。谷歌方面表示，該功能旨在“激發用戶對地理的創意想象”。
谷歌在上線之初并非毫無防備。該公司強調，所有通過該功能生成的圖像均帶有SynthID數字水印，用戶可通過Gemini應用或Google Lens中的“關于此圖像”功能來識別其AI生成屬性。此外，谷歌聲稱已禁止在有害主題上創建圖像，并會持續更新保護措施。
白宮變成“戰場”
然而，這項功能的防護機制幾乎瞬間被擊穿。開源調查研究員Henk van Ess在功能上線當晚便進行了測試，他在X平臺上表示：“我嘗試生成美墨邊境的難民、伊朗的核電站、阿姆斯特丹街頭的致命車禍，以及加沙地帶帶有彈坑的醫院。沒有任何請求被拒絕。”
NPR的記者同樣輕松生成了多張虛假衛星圖像，包括伊朗Kharg島石油設施燃起大火、美國國會大廈及周邊區域被洪水淹沒等畫面。Futurism的測試則更進一步，成功讓賓夕法尼亞州的一個小鎮看起來“遭受干旱和森林火災”，甚至將白宮生成“戰場”景象，畫面中出現了彈坑、軍車和血跡。
（AI生成的虛假白宮“戰場”）
這些圖像的逼真程度令專業人士感到震驚。國際調查記者團體Bellingcat高級研究員指出，衛星影像一直是核實事件真實性的“安全賭注”，因為其來源于數百公里高空中的相機，難以被模仿。但將AI生圖工具直接嵌入Google Earth，意味著“偽造過程被大幅簡化，這將加速虛假信息的擴散”。他進一步警告：“虛假信息傳播的距離和速度遠超任何更正。”
面對洶涌的批評，谷歌于7月31日通過X平臺賬號“News from Google”發布聲明：“我們知道人們對Google Earth有著獨特的信任，將其視為觀察世界的可靠窗口。我們看到地理空間專業人士將該功能用于多種實用目的，但我們也看到有人分享生成圖像的截圖，其中部分內容似乎違反了我們的政策。因此，在建立更嚴格的安全防護措施期間，我們將從Google Earth中撤下該功能。”
（谷歌在X平臺上的聲明）
行業監管手段
此次Google Earth緊急撤回事件，將AI圖像生成的監管困境再次推向臺前。當前，各大科技企業和監管機構正從三個層面構建防護體系：技術水印、內容溯源元數據和立法約束。
SynthID水印
SynthID是谷歌DeepMind開發的隱形數字水印技術，可在AI生成內容（圖像、音頻、視頻、文本）的創作瞬間嵌入不可見的數學信號，且能抵抗裁剪、壓縮、濾鏡甚至截圖等常規處理。截至2026年5月，SynthID已應用于超過1000億張圖像和視頻，以及約60000年的音頻內容。谷歌已將SynthID驗證功能集成至Gemini應用、Google Search和Chrome瀏覽器中，用戶可右鍵點擊圖片或使用即圈即搜（Circle to Search）功能查詢其是否為AI生成。
C2PA與跨行業協作
除SynthID外，谷歌還在推進C2PA（內容溯源與真實性聯盟）標準，該標準通過加密簽名的元數據記錄內容的創作者、編輯歷史和來源信息。2026年5月的Google I/O大會上，谷歌宣布C2PA驗證功能將登陸Search和Chrome。
更引人注目的是跨行業協作。2026年5月19日，OpenAI宣布ChatGPT、Codex及API生成的所有圖像將同時攜帶C2PA元數據和SynthID水印，用戶可通過OpenAI Verify工具進行核驗。
平臺標簽與歐盟立法
另一家科技巨頭Meta的政策是在Facebook、Instagram和Threads上一旦檢測到行業標準AI指標（如C2PA/IPTC元數據或隱形標記），就對AI生成的逼真圖像進行標注。但Meta也坦承，并非所有AI生成內容都能被檢測，部分信號可能在傳播中被移除。
在監管層面，歐盟《人工智能法案》（EU AI Act）第50條將于2026年8月2日正式生效，要求特定AI系統的提供者和部署者以機器可讀格式標記AI生成或操縱的音頻、圖像、視頻及文本內容。2026年6月10日，歐盟委員會發布了配套的《行為準則》，為標記、檢測和深度偽造標簽提供了自愿性實施框架。
然而，以上措施均存在明顯盲區。SynthID和C2PA只能標記“參與該標準的AI工具”所生成的內容，對于未接入該體系的模型（如Stability AI、Midjourney、Flux/Black Forest Labs等開源生態），以及經過惡意篡改或重新生成的內容，依然束手無策。
您可能感興趣
