为什么我们需要可确定性的AI，以及Aqua Blue是怎么做的
Ding Yu
这篇博客，我们来聊聊技术。
AI智能体本质上就是危险的
我觉得AI智能体真的非常像真正的人工智能，就像科幻小说里常常提到的那种：你交给它一个任务，它就会排除万难，使用一切能用的工具反复试，直到要么完成目标，要么耗尽能量而不得不停止（token或者重试次数限制）。
所以AI智能体绝对是革命性的产品，但另一方面它又非常危险。
这危险性来自于两点。一是它在试错过程中可以自由决策，二是它会为了完成目标不惜代价。
Wait But Why的作者在他的长文The AI Revolution: Our Immortality or Extinction中举了一个特别好的例子：一个帮人们写信的机器人最终毁灭了全人类，因为它只是想要继续做工程师给它设定的目标：写信。这个例子可能听起来有点极端，但你仔细想想，就知道这逻辑是完全说得通的：机器人没有代价的概念，一切阻碍它完成任务的事情，都需要被解决，包括人类本身。
生活中可能没有这么戏剧化，我经常举的例子是：你让AI下载电影，AI发现你硬盘空间不够了，它先把你的文件删了再下载。千万别觉得这不可能，因为我曾经被AI删过数据库：它帮我调试程序时，给docker compose down加了个-v参数，于是我本地的数据就灰飞烟灭了。而且也不仅仅是我，类似的例子在网上真的有不少了。
你不可能100%避免此危险
你绝对不可能100%规避这个风险！让我回复一下常见的说法：
把指令写死一点，或者用一个Skill。
你怎么保证模型会遵循你的指令？
用另一个模型来监督。
你怎么保证另一个模型不会判断错误？
在模型调用工具前人工确认。
这是目前理论上唯一可行的办法，也是普遍做法。但可惜人会出错，最常见的就是人觉得每次确认太麻烦，干脆把AI看起来无害的操作通通放行，可是没想到其中某个操作就真的带来严重后果了。我上面提到的docker compose down -v就是很典型的例子（我大概是放行了docker compose *操作，之前被AI问得太多，实在记不住是哪一步了）。
可是我没有遇到过危险？
那你很幸运，因为这是概率问题。
Aqua Blue的做法
Aqua Blue是我做的AI智能体。它可以让你用自然语言描述工作内容，然后把它转换成可重复执行的工作流。比如你可以说“每天早上9点，把前一天Shopify网店的销售额发到我的邮箱”，它就会问你要Shopify权限、建立一个流程，并在每天早上自动运行。
当你用Aqua Blue创建AI员工时，它会先写出计划给你审核，你可以在它运行前检查每个步骤，你确认以后，它会严格按照计划执行。
Aqua Blue虽然也是个智能体，但却没有上面说的危险，因为AI根本不会执行那些操作：一旦工作流建立好，运行这个工作流靠的是程序、一步一步按部就班地执行，所以不会有计划外情况发生。
一步一步按部就班地执行工作流
所以在这一点上，Aqua Blue特别像传统的工作流工具，比如n8n甚至RPA，因为执行任务的时候是严格按照计划执行的，每次执行都执行相同的计划，没有也不需要AI随机发挥。只是Aqua Blue不需要用户自己编排工作流，而只要说出需求，让AI来做就好了。
总之，Aqua Blue用AI创建工作流，再用程序执行它。
写程序还是拼乐高
那如果用Codex、Claude Code、Cursor等等工具，把需求写成程序，是不是也能达到相同效果？
从运行过程可确定性上说，是的，因为它就是程序嘛。但是你不仅得写程序，还得调试错误。我经常听到的反馈是：“我现在用AI写了程序，能用，但bug特别多”。
Aqua Blue选择了另一条路：在创建工作流时AI不是写程序，而是拼乐高：
- 我事先把常见操作都做成一个个可重用的模块，就像乐高积木一样，比如发邮件、读Google Sheets、转换Excel文件到CSV文件等等；
- 我确保这些模块的做工很好，不会坏；
- 使用时，AI按照用户需求，选择合适的积木拼在一起；
- 拼完了就没有AI的事了，工作流是由程序调用执行的，没有随机性。
AI选择合适的模块并把它们拼起来，就像拼乐高
这样用户只要看工作流是否符合业务需求就可以了，不用自己操心程序的错误。
拼出来的工作流长什么样
Aqua Blue是为了解决业务上的问题而开发的，但和一般的垂直领域SaaS的根本区别是，Aqua Blue没有固定功能和流程，用户也不需要改变自己一直以来的工作方法，而是让Aqua Blue去创建出贴合自己情况的用法。
比如，用Aqua Blue可以自动化这些工作：
我正在根据平时接触到的常见需求，制作更多的工作流模板出来。如果你有需要，也可以告诉我。