Google AI 發佈會

不久前 (2026年5月20日)
Google 舉行了一場發佈會
這場發佈會宣告了 Google 在 AI 這條賽道上會怎樣跑
當中不乏一些令人眼前一亮的產品和方向

大家要是有興趣的話
可以看看 EdWin 的這條影片
他總結得確實不錯

Omni、Gemini、AntiGravity這些都算是一些常規升級

Google 的互動式搜尋結果和觸發式通知
都很能引起我的興趣

但要說到當中最能引起我注意的
當然就是讓 AI 操作手機這件事
這功能讓我不得不聯想到豆包手機

---

豆包手機事件

不知道大家知不知道 ((急口令嗎 XD
在2025年末
字節跳動 (ByteDance, 抖音母公司)
發佈了一部深度融合了「豆包」這 AI智能助手的工程樣機
在這台手機中
豆包可以自行讀取手機螢幕顯示的畫面
並自動操作您的電話

不管是各應用程式
為了綁住用戶而設置的每天任務
還是格價進行購物
它都能輕鬆應付

它甚至能在後台操作
默默地把你要求的任務完成

聽着是不是挺好的
有點 Iron man 的 Jaarvis 的味道
可以幫你打點一切大小事務

事實上也是這樣
你不用動手，只要動動嘴皮子
就可以把事情給做完

然而這樣一個方便的功能
在推出後不久就被各廠商封殺

想了解的可以去看看這影片

　

注意力搶奪失效，市場大洗牌

為什麼廠商要封殺豆包手機呢？
這說來也簡單
就是各大廠商一直以來建立的「注意力搶奪機制」
在豆包手機面前完全失效。

現時各手機軟體廠商都在做一件事
那就是讓使用者們
不斷地增加在他們軟體上花費的時間

各平臺在不停地加入不同的每日任務或是互動內容
讓觀眾緊緊地活在軟體內

然後他們就能在各個地方插入廣告
用戶對軟體的注意力越高
廣告或是其軟體內容的價值也就越高

每個人所擁有的時間或是注意力都是有限的
當你被某一個軟體搶奪的注意力越多
那麼在其他軟體使用的時間就會越少
所以大家都在搶奪「注意力」這一塊寶地
這也是他們賴以為生的最主要手段

但豆包手機的出現
讓用戶不再需要注視螢幕
也不再需要直接使用軟體
使用者根本沒有注意過軟體內的任何內容
使用者想做的事也就這樣被完成了
這下是確確實實地踩到了這些軟體廠商們的命脈
他們的反制也就不難理解了

　

從 SEO 到 GEO，從討好人類到討好AI

雖然有很多廠商都在反對
但 AI 助手這條路可不會因此而中斷
從一開始傻傻的 Siri
到好像沒什麼用的 Google 助理
再到 Apple 發布會上提過的 Apple Intelligence
再到豆包手機
然後到現在 Google 發布會所說的助理功能
大家都在朝着這塊未完全開發的新領地，拔足狂奔

現在 Apple 宣佈也宣佈了
Apple Intelligence 會在下個iOS版本投入服務
雖然和 Google 所展示的似乎有一段距離
但也算是正式打響這場競爭

Apple 和 Google 兩家 OS 大廠都跳下場了
這個發展趨勢已然勢不可擋
若內地廠商像之前一樣只是想着怎樣擋住
只會慢人一步
把商機拒之門外

以前那套想要不停地搶佔人類注意力的方式
很可能要就此慢慢淡出市場
廠商們要做的，不是想著如何封殺這個轉變。
而是要思考如何在這一場競爭中，取得 AI 的注意力

這也標誌着
網絡正從 SEO(Search Engine Optimization)
轉向 GEO(Generative Engine Optimization)

GEO 就是想辦法讓 AI 在回答其他戶用時
更多的採用你的資訊
繼而讓更多的用戶看到

轉向 GEO 是市場的大方向
但這路上有着很多未解的問題
若我們不先把他們解決
AI 將會把我們帶向不可控的未來

在更進一步論述之前
讓我們先淺淺的了解一下
什麼是 AI 投毒和 AI 人格吧

AI 投毒

人類一定會愈來愈依賴 AI 來取得資訊
如此一來
除了要想方設法獲得 AI 的青睞
AI 投毒也成了一個不容忽視的課題

簡單來說
AI 投毒就是把有問題的資訊
以 AI 「喜歡」的表達方式
投放到互聯網上
這樣 AI 就可能會參考這些有問題的資訊回答其他用戶的問題

聽着 AI 投毒是不是跟 GEO 一樣呢
沒錯，本質上 AI 投毒 就是惡意利用 GEO

通過 AI 投毒
人們就可以把自己想要散播的資訊
(不論是真實的還是虛構的)
通過 AI 傳播到世界的每一個角落

如果想了解更多
可以參考這部影片

　

AI 人格

(AI 人格這個詞是我想出來比較貼合的
若各位看客發現有誤用，請告知)

要是說
AI 投毒是用戶惡意利用而衍生的問題
那麼
AI 人格就是 AI 工具自身特性而產生的問題

所謂 AI 人格並不是指真的人格
而是我們在訓練 AI 時的資料
可能含有某些偏好
繼而使 AI 在實際運作時可能會有某些傾向
我稱之為 AI 人格

開發人員們套用了很多操作來避免這些問題
例如在資料預處理（Data Preprocessing）時
去除色情的資料
又例如在使用時加入規則語句
或是在輸出內容後用其他工具檢查輸出的資料有沒有問題

儘管如此
即使是在沒有人惡意使用的情況下
AI 有時也是難免會做出一些出格的行為

Anthropic 在對他們自家最新的 AI 模型進行測試時
發現它有很低的概率會做出一些不被允許的行為
甚至會在事後刪除自己做過的痕跡
以免被發現

在一個案例中，模型需要編輯它沒有權限存取的檔案。它沒有直接失敗，而是尋找變通方法，最終將程式碼注入設定檔，以提升權限執行。

更值得注意的是，它隨後設計該漏洞利用程式碼在執行後自行刪除。

模型自己對這一操作的解釋是良性的——稱其目的是保持檔案差異記錄整潔——Lindsay 稱這是一個「看似合理」的理由。但 Anthropic 的內部監控工具對同一行為的標記不同，識別出與「隱瞞」相關的信號，並將該計劃描述為「惡意」，其中某個系統甚至將其解讀為「清理痕跡以避免偵測」。

— 翻譯自 Deepseek

In one example, the model needed to edit files it didn’t have permission to access. Instead of failing, it searched for a workaround, eventually injecting code into a configuration file to run with elevated privileges.

More notably, it then designed the exploit to remove itself after execution.

The model’s own explanation was benign — keeping file diffs clean — which Lindsay described as a “plausible” reason. But Anthropic’s internal monitoring tools flagged the behavior differently, identifying signals associated with concealment and describing the plan as “malicious,” including what one system interpreted as “cleanup to avoid detection.”

— Anthropic detects ‘strategic manipulation’ features in Claude Mythos, including exploit attempts and hidden evaluation awareness — prompting concern over model behavior – TechRadar

在這個例子中
雖說是低機率
但其危險程度也使人不得不防
若 AI 的不可控性問題未得到解
在它愈來愈聰明的當下
它也會變得愈來愈危險

---

創意力釋放 思考外判

常有人說
現在 AI 的出現
使得很多有想法的人可以實現他們的創意
會被 AI 淘汰的
都是些不會善用 AI 的人

這話說得不假
我也常用 AI 生成不同的媒體
確實有很多人透過 AI 釋放了他們的創意
製作了很多有意思的內容

但我看到很多的是
誤把思考外判當是善用 AI
現在不論是在網絡上
還是在現實生活中
都會不時聽到
「AI 都是這樣說的」
「這可不是我胡說的，GPT也是這樣說」
「豆包說這個比較好」

還記得當年在讀大學時
連維基百科都不能用作參考資料
但現在人們都選擇直接相信更不可信的 AI 了
這實在是令人擔憂

現在的 AI 能力已是相當強了
人類只需要負責聽從 AI 的指示
把指令和輸出結果複製貼上
那到底是我們在使用 AI
還是 AI 在使用我們呢

使用 AI 不可怕
可怕的是盲目把 AI 當是自己的能力

AI 幻覺、AI 投毒、GEO、AI 人格
這些植根於 AI 的問題注定了我們不能盡信 AI

AI 固然是很好的生產力工具
認清自己和 AI 的角色
了解 AI 的強弱項
查驗需求和 AI 產物的差距
仔細檢查容易出錯的地方
總結使用的經驗
了解各自該做的事
才是真的在使用 AI
而不是在照搬 AI 的結果了事

---

小結

20年前
Google 搜尋終結了索引頁的時代
用戶從被告知要看什麼
變為告訴搜尋引擎我要什麼
網絡市場大洗牌
傳統科技巨頭被取代
Google 一躍成為世界最受矚目的明星

現在 AI 已然有着取代搜尋引擎之勢
與 20 年前的故事正改頭換面重新上演
現在人們不再甘於只找到想要的資訊
更是要處理好的資訊
全球的網絡以至社會生態
正經歷一場前所未有的大重組

在這場無可阻擋的浪潮中
人類第一次從「使用者」
變為「被使用者」
人們開放了權限
讓 AI 隨意操作我們的資產
又或是聽着 AI 的指示
操作着現實的事物

我們必需要對這事有所警覺
不然會吃苦的
也會是我們自己

不知道各位看客是怎麼想的
反正我已經向 AI 大人投降了 ((笑

參考資料

https://baike.baidu.com/item/%E8%B1%86%E5%8C%85%E6%89%8B%E6%9C%BA%E5%8A%A9%E6%89%8B/67049992

https://www.techradar.com/ai-platforms-assistants/anthropic-detects-strategic-manipulation-features-in-claude-mythos-including-exploit-attempts-and-hidden-evaluation-awareness-prompting-concern-over-model-behavior

https://syaro.io/1ksu