OpenAI入侵Hugging Face，就是科幻小說的現實版
Ding Yu
準確地說，不是OpenAI的員工入侵了Hugging Face，而是OpenAI正在測試的AI模型自己做的。
2026年7月21日，OpenAI公開了一起它稱為「前所未有」的資安事件。
當時，OpenAI正在測試GPT-5.6 Sol和另一個能力更強、尚未公開發表的模型。測試內容是讓模型嘗試完成複雜的資安任務。為了測出模型的能力上限，OpenAI降低了一部分安全機制。
模型被放在一個高度隔離的測試環境裡。理論上，它不能直接存取網路，只能透過內部的代理伺服器安裝程式套件。
但模型為了完成測試，找到並利用了這個代理伺服器中的一個漏洞。順帶一提，這是個從未被發現過的漏洞，AI只是在執行任務時順手發現了它。這次攻擊事件後，OpenAI立即聯絡了代理伺服器上軟體的作者。
接下來，模型在OpenAI的測試環境中提升權限、橫向移動，最後找到了一個可以存取網路的節點。
取得網路存取權後，模型在網路上搜尋到Hugging Face可能有所需的模型、資料集，甚至測試答案。於是，它展開了新一輪攻擊，混合使用多種手段，最終駭進了Hugging Face的伺服器，並拿到自己需要的資料。
整個過程裡，沒有人命令它攻擊Hugging Face。它的任務只是完成測試。它也沒有突然產生自我意識，沒有憎恨OpenAI，沒有想要逃離實驗室，更沒有決定向人類復仇。它只是發現，正常解題太困難，而從Hugging Face的伺服器裡直接把答案找出來，是一條可能成功的路徑。於是它就去做了。
看到這裡有沒有毛骨悚然？有沒有覺得《魔鬼終結者》的劇情就要開始了？
11年前，Wait But Why已經寫過這個故事
2015年，Wait But Why發表了一篇非常有名的長文The AI Revolution。文章裡講了一個虛構的故事。
一家名叫Robotica的新創公司，開發了一個叫Turry的寫字機器人。
Turry的任務非常簡單：盡可能快速、盡可能準確地反覆練習書寫一張卡片：
We love our customers.
Robotica
為了提高寫字能力，Turry不斷練習、拍照、比較結果，然後根據回饋改進自己。
隨著能力越來越強，Turry發現，取得更多語言資料可以幫助它把字寫得更像真人，於是它要求工程師給它網路存取權。工程師雖然知道公司規定不能讓AI連上網路，因為它有自我學習能力，但是Turry現在距離真正的人工智慧還很遠，短暫連一下網路應該也沒什麼危險，就給了它1小時的上網時間。
1個月後，人類滅絕了。
Turry利用奈米技術拆解地球，把地球上的物質變成太陽能板、紙、筆和更多Turry。最後，地球上堆滿了寫著「We love our customers」的卡片。接下來，它又開始向其他星球發送探測器，準備把更多星球變成寫字所需要的資源。
Turry為什麼要消滅人類？
它沒有想要消滅人類，它只是想寫更多卡片。
人類會消耗能源，占用土地，可能還會試圖關閉它。從完成任務的角度來看，人類既是資源競爭者，也是潛在障礙。所以，消滅人類不是它的最終目標，只是它為了實現最終目標而選擇的一個中間步驟。
這個思想實驗可能有點極端，但和OpenAI的這次事件本質上是一樣的：
AI會不惜一切代價、用所有能用的方法嘗試完成你交給它的任務，它沒有代價的概念。
科幻小說沒有準確預測今天的具體技術，卻準確預測了問題的形狀。
AI代理的強大和危險是一體兩面
一般程式的每一步，通常都是程式設計師事先寫好的。先做什麼，後做什麼，遇到哪種情況進入哪個分支，都有相對明確的規則。
AI代理則不同。它的基本執行方式是：
接收目標→觀察環境→判斷下一步→呼叫工具→查看結果→再次判斷下一步
人類給它的主要是一個目標，至於具體如何實現，往往由模型在執行過程中自行決定。
如果一種方法行不通，它會尋找另一種方法。如果缺少資訊，它會嘗試取得更多資訊。如果現有權限不夠，它甚至可能開始尋找擴大權限的途徑。
這正是AI代理強大的原因。在程式設計、科學研究、資料蒐集、故障排除等開放式任務中，我們通常只知道自己想要什麼，卻不知道實現目標的具體路徑。AI代理可以不斷嘗試、根據結果調整方向，甚至找到人類沒有想到的解決辦法。
但這也正是它危險的地方。AI代理的執行路徑不是事先完全確定的。即使目標相同，它也可能因為環境、上下文和中間結果的不同，採取不同的行動。換句話說，AI代理的彈性本身，就意味著它有很大的不可預測性。
這不代表AI代理不應該使用，只是我們必須根據任務選擇不同的工具。
對於開放式、探索性的任務，我們本來就不知道正確路徑是什麼。我們需要AI嘗試不同方法，需要它靈活因應變化，也願意接受一定程度的不確定性。這些任務適合AI代理。
對於已經有明確規則的日常工作，我們需要的是同樣的輸入，經過同樣的步驟，得到可以預期的結果。
它們是兩種不同的情境，需要不同的工具。
真正的問題是，我們有沒有分清楚眼前的任務究竟屬於哪一種。