OpenAI总裁:先亲手做5遍,再谈AI工作流自动化

Feng 26 阅读 AI技术

对于AI编程,OpenAI联合创始人、总裁格雷格·布罗克曼给出过很激进的判断:模型写软件的能力,已经超过他认识的几乎所有人。他本人也不再逐行写代码,而是向AI给出目标、反馈和约束。

格雷格·布罗克曼:我已经不再亲自写软件,而是指导AI来写。

格雷格·布罗克曼:这件事我已经做过3次、5次,现在终于弄懂了流程。接下来,再把它自动化。

格雷格·布罗克曼:人必须保留控制权并承担责任,目标应当来自人。

然而谈到如何把AI接入工作流,他并没有建议开发者先搭一套全自动Agent。他给出的建议十分朴素:亲手做5遍。

在这5遍当中,脏数据、例外情况、权限不足以及业务方的临时反悔都会出现。

只有这些情况都经历过,开发者才会明白Agent该读取什么、该在何处停下,以及什么样的结果才算真正完成。

前不久,布罗克曼在Silicon Valley Girl发布的访谈里,聊到了AI编程、产品差异化、创业和Agent工作流。

以下为访谈内容,我们做了翻译与整理。

AI已经会写代码,开发者开始改“输入”

说到自己眼下的编程方式,布罗克曼没有留下多少余地。

格雷格·布罗克曼:“These models, they’re now better at writing software than basically anyone I know. I’m pretty good at writing software. I don’t write software anymore. I direct an AI for it to write software. I provide lots of feedback and guidance.”

格雷格·布罗克曼:这些模型现在写软件的能力,已经超过我认识的几乎所有人。我很会写软件,但我现在不再自己写了。我让AI写,然后不断提供反馈和指导。

配图

布罗克曼表示,自己已经不再亲自写软件,而是指导AI完成这不等于“程序员不用工作了”,而是开发者的工作换了位置。

以往,开发者的时间花在拼实现上;如今,更多时间花在把问题讲明白、把任务拆小、补充上下文,再依据测试和日志去修正模型的路线。

同一个Agent,提示词不一样,做出来的东西就会完全不同。模型能代写代码,却不会替团队自动补上这些约束。

软件更容易做,理解用户开始值钱

主持人问:既然OpenAI自己也在快速搭建工作和效率产品,那什么样的应用还值得用户付费?

布罗克曼答得很直接:做软件的一部分工作,正在变成人人都能获得的通用能力。

格雷格·布罗克曼:“There’s definitely parts of what app building used to be that’s becoming commoditized. It’s becoming accessible to everyone. And so then the question of what is differentiation becomes even more important.”

格雷格·布罗克曼:过去做应用的一部分工作,正在变成标准化能力,任何人都能用。也因此,“你和别人有什么不同”变得更重要了。

配图

布罗克曼谈AI降低应用实现门槛后,产品差异化的重要性上升过去,一个产品团队可能要花几周搭界面、接数据库、写登录系统,再补上一套后台管理。

如今,这些工作已经能大量交给Agent。开发者把需求描述出来,模型就能生成一个看起来相当完整的原型。

问题也随之而来:当大家都能在几天内做出差不多的功能,用户凭什么偏偏选你的产品?

格雷格·布罗克曼:“Some of this is really about deeply understanding the problem. Some of this is deeply understanding your users.”

格雷格·布罗克曼:有些差异来自你对问题的深入理解,另一部分则来自你对用户的深入理解。

配图

当代码实现成本下降,对问题和用户的理解会直接决定产品差异他拿教育应用举例。老师、家长、学生和管理者对同一个产品的期待并不相同,信息怎么展示、哪些内容需要护栏、究竟由谁付费,这些都不是生成一套前后端代码就能回答的。

格雷格·布罗克曼:“Do you have to write in C++ or Swift or something? Who cares about that? That was never what the barrier should have been.”

格雷格·布罗克曼:你是否必须用C++或Swift来写?谁还在乎这个?这本来就不该成为门槛。

配图

布罗克曼认为,具体用C++还是Swift实现,不应再是产品实现的主要门槛=这对开发者并不轻松。代码生成越快,一段“能跑”的实现就越容易被复制。过去藏在技术实现里的优势,会向用户流程、业务数据、可靠性和分发移动。

小团队会变多,但“会做产品”不会自动发生

布罗克曼预判,未来1到2年里,会出现一轮明显的创业增长。

格雷格·布罗克曼:“We’re going to see this massive renaissance of entrepreneurship. I think it is coming. We’re seeing the leading edges of it, but it’s really going to kick in over the next year to two years.”

格雷格·布罗克曼:我们将看到一场大规模的创业复兴。它已经露出了苗头,未来1到2年会真正加速。

配图

布罗克曼预判,AI带来的创业增长将在未来1到2年加速小团队可以用Agent完成原型、测试、文档和部分运营工作,一个人能推进的事确实多了。但工程实现变便宜以后,市场上也会更快堆满功能相似的产品。

所以,“一个人能当一支队伍”只是前半句。后半句是:他还得知道该解决什么问题,谁愿意为它付钱,用户用不下去时应该改哪里。

先亲手跑5遍,再让Agent接管

访谈后段,主持人把问题落到了操作层:一个刚开始使用Agent的人,第一步应该自动化什么?

格雷格·布罗克曼:“This white page problem is the hardest problem in AI in some ways. My answer is always start small. Just try something, type something, push enter, see what happens.”

格雷格·布罗克曼:某种程度上,面对空白页不知道从哪里开始,是AI使用中最难的问题。我的答案始终是:从小处开始。先试一件事,输入内容,按下回车,看看会发生什么。

配图

布罗克曼建议,刚接触Agent时先找一个小痛点,让反馈循环先跑起来他举的例子是一封迟迟不想回复的邮件。

第一次,可以把邮件复制给AI;下一步,再考虑接入Gmail连接器。这个顺序很重要:先看清输入、处理和输出,然后才决定哪一步值得交给系统。

格雷格·布罗克曼:“You can start very mechanically, very much going through the effort yourself and then realize, okay, I’ve done this three times, I’ve done this five times, and now I understand how this process works. Let’s automate it.”

格雷格·布罗克曼:你可以先用最机械的方式,自己完整走一遍。等你已经做过3次、5次,弄懂这套流程后,再把它自动化。

格雷格·布罗克曼:“That’s a general software engineering maxim. After you’ve done it five times, it’s probably a good time to start automating.”

格雷格·布罗克曼:这是一条通用的软件工程经验:当你已经做过5次,差不多就到了自动化的时候。

配图

“5遍规则”的原话。先完整做几次,看清例外和结果,再进入自动化对开发团队来说,这条规则很容易实现。

比如想把线上报错的初步处理交给Agent,不要先写“自动诊断所有故障”的大提示词。先人工处理5次,把过程记下来:用了哪些日志,怎样判断是代码还是数据问题,什么情况只能读,什么情况允许重启,哪些现象必须升级给值班人员。

第5次之后,输入字段、工具权限、验收条件和退出条件已经开始成形。这时做Agent,才不是把一句“你看着办”包装成自动化。

过早自动化,会把模糊和错误一起固化

团队为何轻易就略过了前面5遍?原因在于Agent赶工的模样极具说服力。它能够迅速读取仓库、编写脚本、调用接口,甚至自行修复一轮报错。界面上不停滚动的步骤,很容易令人误以为流程已然想清楚了。

真实情况往往截然相反。

一套人工流程之中,可能隐藏着大量未被记录下来的判断:该客户的历史数据不完整,因此需要更换一种算法;这笔订单正处于申诉状态,不可自动关闭;该接口虽然返回200,但实际账务尚未对平。

倘若这些例外仍然只停留在某个人的经验当中,Agent便无法稳定地加以处理。自动化不会替你发明业务规则,它只会更迅速地执行已经写入系统的规则,其中也包括错误的规则。

人要保留目标、权限和停止按钮主持人追问了另一面:怎样决定哪些事不应该自动化?

格雷格·布罗克曼:“I think it’s very important that humans remain in control and in charge. The goals come from people. The point of this technology is to help people.”

格雷格·布罗克曼:人类保留控制权并承担责任非常重要。目标来自人,这项技术的作用是帮助人。

配图

布罗克曼谈Agent的控制和责任边界

他接着提到护栏、信任、监督和可监测性。这些词放到开发环境里,并不抽象。

一个代码Agent可以修改哪些目录,能否连生产数据库,运行到多少钱自动停止,谁来审核最终diff,出事后能不能重放它的每一步,都是护栏。

如果团队只追求“尽量多地让Agent自己做”,开发者很快会变成一个被动审核者:等模型交出几十个文件的改动,再在有限时间里猜它哪里做错了。更安全的做法,是先由人把任务边界、工具权限和验收方式定下来,然后才逐步放开Agent的行动范围。

ID:4866

Feng
这位作者很神秘,还没有填写简介。