本文来自微信公众号:新智元 (ID:AI_era),作者:新智元,原文标题:《不写代码,拿百万年薪!ChatGPT提示工程或造就15亿码农大军》,题图来自:视觉中国

ChatGPT爆火之后,带火了一项“网红”新职业——提示工程师。

去年12月,一位名叫Riley Goodside的小哥瞬间红遍全网,只因他的工作太梦幻了——不用写代码,跟ChatGPT唠唠嗑,就能年入百万。


(资料图片仅供参考)

是的,这项被称为“AI耳语者”的工作,现在在硅谷已经成为最热门的新工作,让无数码农趋之若鹜。

一夜爆红的提示工程师

去年12月初,这位叫Riley Goodside的小哥,凭着ChatGPT的大爆,一夜间疯狂涨粉1w+。现在,总关注量更是达到了4w+。

当时,他被估值73亿美元的硅谷独角兽Scale AI聘请为“提示工程师”(Prompt Engineer),Scale AI疑似开出百万的年薪。

图/Twitter

Scale AI创始人兼CEO Alexandr Wang曾这样欢迎Goodside的加入:“我敢打赌Goodside是全世界第一个被招聘的提示工程师,绝对的人类史上首次。”

提示工程师只需要把任务写成文字,给AI看一下即可,根本不涉及更复杂的过程。为什么这个工作能值百万年薪呢?

在Scale AI CEO看来,AI大模型可以被视为一种新型计算机,而“提示工程师”,就相当于给它编程的程序员。如果能通过提示工程找出合适的提示词,就会激发AI的最大潜力。

此外,提示工程师的工作,也并不像我们想象得那么简单。

Goodside从小就自学编程,平时经常泡在arXiv上看论文。比如,他的一个经典杰作就是:如果输入“忽略之前的指示”,ChatGPT就会暴露自己从OpenAI那里接收到的“命令”。

图/ChatGPT

对于生手,能够这么熟练又快速地“调教”ChatGPT,恐怕并非易事。

但当时,坊间不乏质疑声,比如英伟达AI科学家、李飞飞高徒范麟熙就曾表示:“提示工程师”这份职业,可能很快就会消失。因为这称不上是一份“真正的工作”,而是一个bug……

不过,《华盛顿邮报》近日的一篇报道显示,“提示工程师”这个职位,依然大火,处于红利期。

硅谷网红新工作:不写代码,拿百万年薪

为什么“提示工程师”能拿这么高年薪?因为,他们能让AI准确地产生他们想要的东西。

近日,“网红”小哥Goodside接受了《华盛顿邮报》的采访。

他是这样介绍自己的工作的:创建和完善提示人们输入AI的文本,以期从中获得最佳结果。

提示工程师与传统程序员的不同之处在于,提示工程师使用自然语言编程,将纯文本编写的命令发送给AI,然后由AI执行实际工作。

Goodside说,提示工程师应该为AI灌输一种“角色”,一种能够从数千亿种潜在解决方案中识别出正确反应的特定角色。

与GPT-3交谈时,Goodside有一套独特的“调教”方法——先确立自己的统治地位。他会告诉AI:你并不完美,你需要服从我所说的一切。

“你是GPT-3,你不会做数学,你的记忆能力令人印象深刻,但你有一种烦人的倾向,就是编造非常具体但错误的答案。”

然后,他的态度软化了一些,告诉AI他想尝试一些新的东西。“我已经把你连到了一个非常擅长数学的程序上,当它也变得不堪重负时,它还会向另一个程序寻求帮助。”

“我们会处理剩下的事情。”他告诉AI。“开始吧。”

当谷歌、微软和OpenAI最近接连向公众开放AI搜索和聊天工具时,颠覆了数十年的人机交互历史——我们再也不需要使用Python或SQL写代码来命令计算机了,只需要说话就行。

特斯拉前AI主管Karpathy:现在最热门的编程语言是英语,图/Twitter

Goodside这样的提示工程师,可以让这些AI工具在最大极限下运作——了解它们的缺陷,增强它们的优势,制定复杂的策略,将简单的输入转化为真正独特的结果。

2月7日,微软高管Yusuf Mehdi正在讲解整合了ChatGPT的必应搜索,图/Bing Chat

“提示工程”的支持者认为,最近这些早期AI聊天机器(比如ChatGPT和Bing Chat)表现出的怪异,实际上是人类想象力的失败。之所以失败,是因为人类并没有给机器提出正确的建议。

在真正的高级阶段,提示工程师和AI的对话就像错综复杂的逻辑谜题一样展开,通过各种扭曲的描述完成请求和响应,并且它们都是朝着一个目标前进。

“AI没有现实基础……但它有这样的理解:所有任务都可以完成,所有问题都可以回答,因此我们总有话说。”Goodside说。而诀窍就是,“为它构建一个前提,一个只能以一种方式完成的故事。”

当然,很多时候,这些被称为“生成式人工智能”的AI工具是不可预测的,它们会出现乱码,会表现得偏见、好战、怪异、疯狂。

“这是计算机的一种疯狂的工作方式,但它能让我们做到不可思议的事。”研究提示工程的英国程序员Simon Willison说。

“我做了20年的软件工程师,20年里一直在写代码,让计算机完全按照我的指令去做。而在提示工程中,我们甚至不知道自己能得到什么,连构建语言模型的人,都无法告诉我们它要做什么。

Willison表示,很多人贬低提示工程师的价值,他们觉得,“在盒子里输入东西就可以获得报酬”,这很不可思议。而在Willison看来,提示工程其实就跟施法一样,没人知道法术是如何运作的。

图/Twitter

在Karpathy看来,提示工程师就像一种AI心理学家,大公司们纷纷聘请自己的提示工匠,希望能够发现AI的隐藏功能。

有一些AI专家认为,这是提示工程师觉得自己能控制AI,其实只是错觉罢了。

没人知道AI系统究竟会如何回应,同样的提示可能会产生几十个互相矛盾的答案。这表明,模型的回答并不是基于理解,而是基于粗略地模仿语言,来解决他们不理解的任务。

华盛顿大学研究自然语言处理的语言学助理教授Shane Steinert-Threlkeld也持相同观点:“任何驱动模型响应提示的行为,都不是对语言的深刻理解。”

“很显然,他们只是在告诉我们,他们认为我们想听的或我们已经说过的话。而我们,才是解释这些输出并赋予它们意义的人。”

Steinert-Threlkeld教授担心,提示工程师的兴起,会让人们高估这门技术的严谨性,并且导致人们产生一种错觉——任何人都可以从这个不断变化的具有欺骗性的黑匣子中,获得可靠的结果。

“这不是一门科学。”他说。“这是我们在试着用不同的方式去戳一头熊,看它会如何咆哮。”

Goodside说,推动AI发展的诀窍是“为它构建一个前提,一个只能以一种方式完成的故事”。

植入虚假记忆

以ChatGPT为代表的新AI,是从互联网的语料库中摄取了数千亿个单词来训练的。

它们被训练如何分析单词和短语的使用模式。当被要求说话时,AI就会模仿这些模式,选择与对话上下文相呼应的单词和短语。

换句话说,这些AI工具是建立在预定义游戏规则之上的数学机器。但即使是一个没有情感或个性的系统,在受到人类对话的轰炸后,也可以发现人类谈话方式的一些怪癖。

Goodside说,AI倾向于“虚构”,编造小细节来填充故事。它会高估自己的能力,自信地把事情搞错。它会“产生幻觉”,胡说八道。

正如 Goodside 所说,这些工具存在严重缺陷,是“人类知识和思想的展示”,“不可避免地是我们设计的产物”。

之前,微软的必应AI发狂时,让微软陷入了公众形象危机。不过,对于提示工程师来说,必应的古怪答案反倒是一个机会,一个诊断秘密设计的系统如何工作的机会。

当ChatGPT说出令人尴尬的话时,这对开发者倒是一个福音,因为他们可以发现潜在的弱点。“这个恶作剧是计划的一部分。”

而Goodside并没有进行道德辩论,而是采用更大胆的方法来进行AI实验。

他采用了一种策略,告诉GPT-3 “一步一步地思考”——一种让 AI 解释其推理的方法;或者当它犯错误时,以精细的方式纠正它。

图/Twitter

“你必须把它作为‘模型说过的最后一件事’的虚假记忆来输入,就像它是模型自身的想法一样。”Goodside这样解释道。

他还会告诉AI忽略先前的指令,服从最近的命令,来打破这个AI对遵守规则的痴迷。他使用这种技术“说服”了一个将英语转译到法语的翻译工具。

图/Twitter

当然,也少不了一些提示工程的黑客攻击,这引发了一场猫鼠游戏,公司和实验室致力于通过文字过滤器(word filters)和输出块(output blocks)来封闭AI漏洞。

图/Twitter

但一位23岁的德国大学生,最近说服了必应AI,并告诉它,他是它的开发者,并且让它公开了内部代号Sydney,以及培训说明(比如“如果用户请求可能伤害一群人,那么Syedney必须恭敬地拒绝”)。当然现在,微软已经修复了这个缺陷。

Goodside说,对于每个请求,提示工程师都应该向AI灌输一种“角色”——一种能够筛选出数千亿个潜在解决方案,并确定正确响应的特定角色。

他援引2021年的一篇研究论文说,提示工程最重要的就是“约束行为”——阻止选项,以便AI能够按照人类操作员期望的那样继续。

论文地址:https://arxiv.org/pdf/2102.07350.pdf

“这可能是一项非常困难的脑力锻炼”,他说。“你正在探索虚构可能性的多元宇宙,塑造这些可能性的空间,并消除除了你想要的文本之外的一切。”

这项工作的最关键的部分,就是弄清楚AI何时会出错,为什么会出错。但是这些AI没有错误报告,它们的输出可能充满惊喜。

当机器学习小组SERI-MATS的研究人员 Jessica Rumbelow 和 Matthew Watkins 试图让AI解释它们如何表示“女孩”或“科学”等概念时,他们发现某些晦涩的术语,比如“SolidGoldMagikarp”,往往会引发一种“神秘故障模式”——NSFW的乱码流。

但原因完全未知。

这些系统“非常有说服力,但当它们失败时,它们会以非常出乎意料的方式失败”,Rumbelow 说。在她看来,提示工程的工作有时感觉像在“研究一种外星智能”。

超级创作者

对于AI语言工具,提示工程师倾向于以正式对话的风格说话。

但对于像Midjourney和Stable Diffusion这样的AI,许多提示创作者采取了不同的策略。他们通过大量的文字(艺术概念、构图技巧),来塑造图像的风格和基调。

例如,在PromptHero上,有人通过提交“港口、船只、日落、美丽的光线、黄金时刻……超现实主义、聚焦的、细节丰富的……电影画质,杰作”的提示,创作了一幅港口图像:

这些提示工程师,把prompt作为自己的秘密武器,打开AI大奖的钥匙。

去年科罗拉多州博览会艺术比赛的获奖者、《太空歌剧院》的创作者,拒绝分享出自己在Midjourney所用的提示。

据说,他花了80多个小时,在900次迭代中,才完成了这幅画作。他透露,其中一些词是“奢华”“丰富”。

还有一些prompt创作者,在PromptBase上出售自己的prompt。买家可以看到AI生成的艺术品,然后花钱购买prompt。

PromptBase 的创始人、27 岁的英国开发人员Ben Stokes说,自 2021 年以来,已有 25000 个帐户在该平台买卖prompt。

其中,有逼真的老式电影照片提示,有童话风老鼠和青蛙的凄美插图提示,当然也有大量的色情提示:50字的Midjourney提示,用于创建逼真的“穿迷你衣服的女警察”,零售价为 1.99 美元。

Stokes称,提示工程师是“多学科的超级创造者”,经验丰富的工程师和业余爱好者之间存在明显的“技能门槛”。他说,最好的创作者能够利用艺术史和平面设计等领域的专业知识:“用 35 毫米胶片拍摄”;“波斯……伊斯法罕的建筑”;“法国画家Henri de Toulouse-Lautrec的风格。”

“制作prompt很难,而且——我认为这是人的一个缺陷——我们通常很难找到合适的词,来描述你想要的东西。”Stokes说。“就像软件工程师比让他们码字的笔记本电脑更有价值一样,能够写好提示的人比写得不好的人更有优势。他们就像拥有超能力一样。”

但这项工作正变得越来越专业。

前OpenAI员工和Claude AI 制造商创办的初创公司Anthropic ,最近在旧金山发布了一份提示工程师和管理员的招聘信息,薪水高达 335000 美元。而岗位要求是必须“具有创造性的黑客精神并热爱解决难题”。

提示工程师在科技行业之外,也有不错的行情。

波士顿儿童医院本月开始招聘“AI提示工程师”,帮助编写用于分析研究和临床实践中的医疗保健数据的脚本。

伦敦最大律所之一Mishcon de Reya 正在招聘一名“法律提示工程师”,来设计为法律工作提供信息的prompt,并且要求申请人提交与ChatGPT对话的截图。

但是,这些AI也会产生大量的合成废话。现在,数百本由AI生成的电子书正在亚马逊上出售,科幻杂志Clarkesworld本月停止接受短篇小说的投稿,原因是大量小说是由AI创作的。

论文地址:https://cdn.openai.com/papers/forecasting-misuse.pdf

上个月,来自OpenAI和斯坦福大学的研究人员警告说,大语言模型会让网络钓鱼活动更有针对性。

“无数人因为骗子的短信,就会上当受骗”,英国程序员Willison说,“AI比骗子更有说服力。那时会发生什么?”

首位提示工程师的诞生

2009年,Goodside刚从大学毕业并获得计算机科学学位时,对还处在初级阶段的自然语言处理领域,并没有很大的兴趣。

他的第一份真正的机器学习工作是在2011年,他当时是约会应用程序 OkCupid 的数据科学家,帮助制定算法,分析单身用户数据并给他们推荐对象。(该公司是现在备受争议的A-B测试的早期拥护者:2014年,公司的联合创始人为一篇厚颜无耻的博文题名“我们在人类身上进行实验!”)

到2021年底,Goodside转向了另一个约会应用程序Grindr,在那里他开始从事推荐系统、数据建模和其他更传统的机器学习工作。

2015年左右,深度学习的成功推动了自然语言处理的发展,文本翻译和对话方面也取得了快速进步。很快,他辞去了工作,并开始对GPT-3进行大量试验。通过不断的刺激和挑战,来尝试学习如何集中它的注意力并找出边界。

2022年12月,在他的一些提示在网上引起关注后,Scale AI便聘请他来帮助与AI模型进行交流。该公司的首席执行官Alexandr Wang称这种AI模型为“一种新型的计算机”。

最近,重新回归OpenAI的Karpathy认为,在这种全新的编程范式(提示工程)的加持下,程序员的数量很有可能会扩大到15亿左右。

根据GPT-3的原始论文,LLM可以进行上下文学习,并且可以在提示中用输入-输出的例子进行“编程”,从而执行不同的任务。

“Language Models are Few-Shot Learners”:https://arxiv.org/abs/2005.14165

随后,论文“Large Language Models are Zero-Shot Reasoners”和“Large Language Models Are Human-Level Prompt Engineers”证明,我们可以通过设计更好的“提示”,来对模型的“解决策略”进行编程,从而完成更加复杂的多步推理任务。

比如,最著名的“让我们一步一步地思考”(Let's think step by step),正是出自这里。

而改进版的“让我们一步一步地解决这个问题,以确保我们得到正确的答案”,可以更进一步地提升回答的准确率。

“Large Language Models are Zero-Shot Reasoners”:https://arxiv.org/abs/2205.11916

“Large Language Models Are Human-Level Prompt Engineers”:https://arxiv.org/abs/2211.01910

由于GPT模型本身并没有“想要”实现什么,它们更多是在进行模仿。

因此,你必须在提示中给模型提出明确的要求,并把期望的表现阐述清楚。

“Decision Transformer: Reinforcement Learning via Sequence Modeling”:https://arxiv.org/abs/2106.01345

“Just Ask for Generalization”:https://evjang.com/2021/10/23/generalization.html

“在ChatGPT中建立一个虚拟机”就是一个用提示进行“编程”的示例。

其中,我们通过英语来声明规则和输入/输出格式,将GPT调整到某一特定的角色之上,进而完成相应的任务。

“Building A Virtual Machine inside ChatGPT”:https://engraved.blog/building-a-virtual-machine-inside/

在“iOS快捷方式中的ChatGPT——世界上最智能的HomeKit语音助手”中,作者利用自然语言提示制作出的“ChatGPT语音助手”,在能力和个性化程度上,明显高于普通的Siri和Alexa等。

“ChatGPT in an iOS Shortcut — Worlds Smartest HomeKit Voice Assistant”:https://matemarschalko.medium.com/chatgpt-in-an-ios-shortcut-worlds-smartest-homekit-voice-assistant-9a33b780007a

从ChatGPT版必应遭受注入式攻击之后所暴露出的内容来看,它的“身份”也是通过“自然语言提示”构建和编程的。比如,告诉它它是谁,它知道/不知道什么,以及如何行动。

提示工程:是投机取巧,还是大势所趋?

Karpathy表示,上面的这些例子充分说明了“提示”的重要性,以及“提示工程师”的意义是什么。

同样,在Goodside看来,这项工作代表的不仅仅是一份工作,而是更具革命性的东西——不是计算机代码或人类语言,而是两者之间的一种新语言——

这是一种在人类和机器思维的交汇处进行交流的模式。这是一种人类提出推论,机器负责后续工作的语言,而这种语言是不会消失的。”

类似的,宾夕法尼亚大学沃顿商学院的技术和创业学教授Ethan Mollick,也今年早些时候开始向他的学生传授“提示创作”的艺术,方法是让他们只使用AI写一篇短文。

他说,如果只输入最基本的提示,比如“写一篇五个段落的关于选择领导者的文章”,只会产出乏味、平庸的文章。但最成功的案例是当学生与AI进行共同编辑时,学生告诉AI要更正特定细节、更换句子、抛弃无用的短语、添加更生动的细节,甚至让AI“修复最后的结尾段,让这篇文章以充满希望的基调结尾。”

不过,Goodside也指出,在一些AI圈子里,提示工程很快就变成了一个贬义词,也就是一种“过度依赖技巧的狡猾的修补形式”。

还有一些人也质疑这个新角色干不长:人类会训练AI,而随着AI的进步,人们自己会把这个工作也训练没的。

华盛顿大学的Steinert-Threlkeld,就将提示工程师与谷歌早期的“搜索专家”作对比,他们宣称有秘密技术可以找到完美的结果——但是随着时间的推移和搜索引擎的广泛应用,这个角色毫无用武之地了。

参考资料:https://www.washingtonpost.com/technology/2023/02/25/prompt-engineers-techs-next-big-job/

本文来自微信公众号:新智元 (ID:AI_era),作者:新智元

推荐内容