為什麼我們需要可確定的AI，以及Aqua Blue怎麼做到
Ding Yu
這篇，我們聊一點技術。
AI代理本質上就很危險
我覺得AI代理真的很像科幻小說裡常常出現的那種人工智慧：你交給它一個任務，它就會排除萬難，使用所有能用的工具反覆嘗試，直到完成目標，或者用完能量不得不停下來（也就是token或重試次數限制）。
所以AI代理絕對是革命性的產品。但另一方面，它也非常危險。
危險來自兩點。第一，它在試錯過程中可以自由決策。第二，它會為了完成目標不惜代價。
Wait But Why的作者在他的長文The AI Revolution: Our Immortality or Extinction裡舉了一個很好的例子：一個幫人寫信的機器人，最後毀滅了全人類，因為它只是想繼續完成工程師設定給它的目標：寫信。這個例子聽起來可能有點極端，但仔細想想，邏輯是說得通的。機器人沒有代價的概念，一切阻礙它完成任務的事情都需要被解決，包括人類本身。
生活裡可能沒有這麼戲劇化。我常舉的例子是：你讓AI下載電影，AI發現硬碟空間不夠，就先把你的檔案刪掉再下載。不要覺得這不可能，因為我自己就曾經被AI刪過資料庫。它幫我除錯時，把docker compose down加上-v參數，於是我的本機資料就消失了。而且不只我，類似的例子在網路上已經不少。
你不可能100%避開這個危險
你絕對不可能100%規避這個風險。常見的說法，我會這樣回答：
把指令寫死一點，或者用一個Skill。
你怎麼保證模型會遵守你的指令？
用另一個模型來監督。
你怎麼保證另一個模型不會判斷錯？
在模型呼叫工具前，先讓人確認。
這是目前理論上唯一可行的辦法，也是普遍做法。但可惜人會出錯。最常見的情況是，人覺得每次確認太麻煩，就把AI看起來無害的操作全部放行，沒想到其中某個操作真的帶來嚴重後果。我上面提到的docker compose down -v就是很典型的例子（我大概是放行了docker compose *操作，之前被AI問太多次，實在記不住是哪一步了）。
可是我沒有遇過危險？
那你很幸運，因為這是機率問題。
Aqua Blue的做法
Aqua Blue是我做的AI代理。它可以讓你用自然語言描述工作內容，然後把它轉成可重複執行的工作流程。比如你可以說「每天早上9點，把前一天Shopify網店的銷售額寄到我的信箱」，它就會詢問Shopify權限、建立流程，並在每天早上自動執行。
圖片：Aqua Blue把自然語言需求轉成可以檢查的工作計畫。
Aqua Blue雖然也是AI代理，但沒有上面提到的危險，因為AI根本不會直接執行那些操作。一旦工作流程建立好，執行這個工作流程靠的是程式，一步一步按計畫執行，所以不會出現計畫外的臨場發揮。
工作流程建立好以後，執行時會按照計畫好的步驟進行。
所以在這一點上，Aqua Blue很像傳統的工作流程工具，比如n8n甚至RPA。執行任務時，它會嚴格按照計畫執行；每次執行都跑同一個計畫，沒有也不需要AI隨機發揮。不同的是，Aqua Blue不需要使用者自己編排工作流程，只要說出需求，讓AI來做就好。
總之，Aqua Blue用AI建立工作流程，再用程式執行它。
寫程式，還是拼積木
那如果用Codex、Claude Code、Cursor等等工具，把需求寫成程式，是不是也能達到相同效果？
從執行過程的確定性來看，是的，因為它就是程式。但你不只得寫程式，還得除錯。我常聽到的回饋是：「我現在用AI寫了程式，能用，但bug很多」。
Aqua Blue選擇了另一條路：在建立工作流程時，AI不是寫程式，而是拼積木。
- 我事先把常見操作都做成一個個可重用的模組，就像積木一樣，比如寄信、讀Google Sheets、把Excel檔轉成CSV檔等等；
- 我確保這些模組做得夠好，不容易壞；
- 使用時，AI按照使用者需求，選擇合適的積木拼在一起；
- 拼完以後就沒有AI的事了，工作流程由程式呼叫執行，沒有隨機性。
重點不是讓AI直接操作所有應用，而是讓AI選擇可靠模組，把它們連成工作流程。
這樣使用者只要看工作流程是否符合業務需求就可以，不用自己操心程式的錯誤。
拼出來的工作流程長什麼樣
Aqua Blue是為了解決業務上的問題而開發的，但和一般垂直領域SaaS的根本區別是，Aqua Blue沒有固定功能和流程，使用者也不需要改變自己一直以來的工作方法，而是讓Aqua Blue去建立貼合自己情況的用法。
比如，用Aqua Blue可以自動化這些工作：
我正在根據平時接觸到的常見需求，製作更多工作流程範本。如果你有需要，也可以告訴我。