您现在的位置是:首页 > 科技 >正文

AI编程登上Science封面:AlphaCode打竞赛,三分之二赛题一遍过

发布时间:2022-12-10 08:27:47孟邦艺来源:

导读 鱼羊 萧箫 发自 凹非寺量子位 | 公众号 QbitAIDeepMind的NS论文又新添一篇。这回,是“信息学竞赛选手”AlphaCode,登上了最新一期Sc...

鱼羊 萧箫 发自 凹非寺
量子位 | 公众号 QbitAI

DeepMind的NS论文又新添一篇。

这回,是“信息学竞赛选手”AlphaCode,登上了最新一期Science封面。

对,就是那个悄悄潜入10场编程比赛敲代码,成绩超过了一半人类的编程AI。

并且就在这篇最新更新的论文中,DeepMind还首次透露了AlphaCode的“一次通过率”:66%

也就是说,AlphaCode近三分之二的提交,都是一次AC(Accepted)的。

CMU博世人工智能中心教授J. Zico Kolter的最新评论文章也同时发表在了这一期Science上,他认为:

AlphaCode不仅仅是复制现有的解决方案。

在面对以前没见过的编程题时,它表现得非常好,无论它是在多大程度上真正“理解”了这个任务。

而在DeepMind的官方推特下,还有不少人把AlphaCode同当红炸子鸡ChatGPT联系了起来。

有人已经迫不及待看到两者同台演出:

首次通过率66%

尽管AI编程领域,GitHub的Copilot已经快进到收费模式,甚至还和程序员们“法庭上见”了。

但在DeepMind看来,AlphaCode还是颇有些不同之处。

一方面,编程竞赛对于AI而言本身就是比纯编程更为复杂的任务,关键是要为无法预见的问题构建解决方案。

另一方面,在架构上,AlphaCode采用了不同的机制来编码赛题文本。

值得一提的是,AlphaCode“打”的这10场编程比赛都来自Codeforces

相比其他针对算法和数据结构的编程比赛,Codeforces更偏好考查思维能力,这意味着AI无法仅仅通过“背题”来完成挑战。

例如这是Codeforces上关于1553D问题的描述:

有两个字符串s和t,都是由小写字母组成。对于字符串s,我们从前向后扫描整个字符串。

如果按下Backspace键,就删除该光标前到上一个未删除字符之间的所有字符。

也就是说,假设字符串s是”abcbd”,你分别在第一个位置和第四个位置按下Backspace,那么将得到字符串”bd”。

因为在第一个光标位置前没有字符,所以第一次没有动作。第四个光标位置前的字符是c,上一个未删除字符是a,所以按下Backspace将删除前三个字符”bd”。

针对这个“前提”,我们需要解决的问题如下:

我们能否从前向后扫描一次s字符串,让s变为t?如果可以就输出YES,否则输出NO。

针对这个问题,AlphaCode给出的解法如下:

那么,我们只需要给定输入的字符串数量(4)和具体的字符串内容,就能让程序输出对应的结果:

第一组ababa(ba),第二组ababa(bb),第三组aaa(aaaa),第四组aababa(ababa)。

对此程序输出的结果分别是YES、NO、NO和YES。

在做题过程中,AlphaCode的“解题思路”也不再是黑箱。

它不仅成功解决了问题,还能将代码和注意力高亮的对应位置显示出来:

上述还只是AlphaCode解的其中一道题。

整体来说,在Codeforces平台举办的编程比赛模拟评估中,AlphaCode在超过5000名参与者的比赛中平均排名前54.3%——击败了一半的选手。

并且第一次提交就通过的概率达到了66%。

AlphaCode是如何读题写码的

所以,AlphaCode究竟是凭借什么原理达成这一“战果”的呢?

它仍然基于预训练-微调的范式打造,采用Transformer架构,其中编码器具备“解读能力”,解码器则具备“写码能力”。

这次发表在Science上的论文,也给出了更直观的原理图,并以Python作为案例,讲解具体训练的过程。

在预训练(pre-training)时,研究人员会先整理出GitHub上的各种代码集,并“喂”给AlphaCode上的编码器和解码器。

以Python上的print(“hello”)为例,这里print()是一个常见的函数,即“打印输出”,”hello”则是具体需要打印输出的内容。

经过预训练后的模型,就具备了基本的“按指令完成任务”的要求,其中编码器负责生成指令,解码器则负责填充剩余的部分。

在微调(fine-tuning)环节,研究人员会整理出竞争性编程竞赛的数据集,包括问题和解决思路两部分,并以GOLD与tempering作为训练目标,进一步减少搜索空间。

其中,问题以注释#的形式交给编码器“学习”,解决思路则交给解码器来尝试理解:

微调完成后,解码器就懂得通过编码器生成注释的内容,来尝试输出对应的代码。

经过预训练-微调后,就来到了最终的评测环节。

Codeforces的题目会被直接以注释的形式交给编码器,解码器则尝试输出数百万个不同的程序,对它们进行过滤和聚类(cluster)之后,提交其中的10个程序来解决问题。

(当然前面也提到,有不少问题在第一次提交后就通过了)

对于AlphaCode的出现,有程序员调侃称“可以在艺术家旁边排队等领救济粮了。”

不过,DeepMind官方对于AlphaCode的定调并非“AI版程序员”,而是希望它作为一个辅助的角色出现在编程工作中:

我们希望它能作为软件开发者的助手,尤其是为0编程基础的人提供写代码的机会。

论文地址:
https://www.science.org/doi/10.1126/science.abq1158

参考链接:
[1]https://www.science.org/doi/10.1126/science.add8258
[2]https://mp.weixin.qq.com/s/wZcY_hEk_M61wTJVVIXfIg
[3]https://www.deepmind.com/blog/competitive-programming-with-alphacode

— 完 —

量子位 QbitAI · 头条号签约​

关注我们,第一时间获知前沿科技动态

标签:

上一篇
下一篇

最新文章