人工智能的新领域

【本报编译报道】更智能的人工智能将如何改变创造力，基础模型是人工智能的一项新领域，可以创造音乐、艺术或文学的基础模型有望带来一场革命，但这场革命将影响到工业革命从未触及过的高级脑力劳动。

机器智能能突破的前景和风险

在脑海中想象一下，有这样一台电脑，它可以用更合适的措辞完成你的句子；或者用一段旋律来作曲，听起来好像是你写的一样（虽然你从来没有写过）；或者通过敲写数百行代码来解决一个问题，从而让你专注于更困难的事情。从某种意义上说，计算机只是加速工业革命的动力织机和蒸汽机的后代。但它也属于一类新的机器。因为它掌握语言、音乐和编程中的符号，并能以看似有创意的方式使用它们。有点像人类。

基础模型预示了一场革命，但这场革命将影响到工业革命从未触及过的高级脑力劳动。

能够完成这些事情的“基础模型”代表着人工智能的突破。基础模型是“深度学习”的最新发展，该技术在10年前崭露头角，如今在人工智能领域占据主导地位。深度学习系统大致基于人类大脑神经元的网络结构，可以通过使用数百万或数十亿个文本、图像或声音片段样本进行“训练”。

基础模型预示了一场革命，但这场革命将影响到工业革命从未触及过的高级脑力劳动。未来的情况谁也无法保证，毕竟，人工智能在过去也曾遭遇过挫折。但是时候看看机器智能领域下一个重大事件的前景和风险了。

近年来，训练规模越来越大的深度学习系统的时间和金钱成本不断膨胀，这让人们担心这项技术正在达到极限。一些人担心“人工智能进入寒冬低谷期”。但基础模型显示，构建更大、更复杂的深度学习模型确实会继续“解锁”更重要的新功能。没有人知道极限在哪里。

由此产生的模型是一种创造性的、非人类智能的新形式。这些系统足够复杂，既能掌握语言，又能连贯一致地打破规则。小狗不会因为《纽约客》上的笑话而发笑，但人工智能可以解释为什么它有趣，坦白讲，这一“壮举”有时超出了《纽约客》的读者的能力。

基础模型有一些令人惊讶和有用的特性。其中最可怕的是它们的“突发”行为——也就是说，技能(比如理解笑话或匹配情景和谚语的能力)是通过大规模和深层模型获得的，而不是经过深思熟虑设计的结果。就像快速连续的静态照片给人一种“移动”的感觉一样，数万亿的二元计算决策融合成一个有着易变的人类理解和创造力的模拟物，不管哲学家怎么说，这看起来很像真实的东西。即使是这些系统的创造者也对它们的本领感到惊讶。

这种智能具有广泛性和适应性。确实，基础模型有可能表现得像傻瓜一样，但人类也一样。如果你问谁获得了1625年的诺贝尔物理学奖，答案可能是伽利略、培根或开普勒，他们不知道诺贝尔物理学奖是1901年颁发的。然而，它们也具有早期人工智能系统所不具备的适应性，也许是因为在某种程度上，绘画、创意写作和计算机编程等不同学科的符号操作规则之间存在相似之处。这种广度意味着基础模型可以应用于很多领域，从通过预测蛋白质在三维空间中的折叠方式以发现新药，到从数据集中选择有趣的图表，以及通过搜索庞大的数据库来制定答案，以处理开放式问题，这开辟了新的查询领域。

这是令人兴奋的，并有望带来巨大的好处，其中大部分好处仍有待想象。但它也引发了担忧。

这是令人兴奋的，并有望带来巨大的好处，其中大部分好处仍有待想象。但它也引发了担忧。人们不可避免地担心，足以让人工智能系统的创造者感到惊讶的创造力可能会变得有害。事实上，基础模型与好莱坞钟爱的有感知能力的杀人机器人相差极大。终结者倾向于专注、偏执，对自己行为的更广泛后果视而不见。相比之下，基础人工智能是模糊的。同样，人们对训练这些模型所消耗的巨大电力及其排放感到焦虑。然而，人工智能系统正变得越来越高效，它们的见解对于开发加速向可再生能源转变的技术方面很可能至关重要。

一个更尖锐的担忧是关于谁控制着基础模型。训练一个像谷歌的PaLM（谷歌公司发布的一个基于Pathways架构的、拥有5400亿参数的转换器语言模型，并将之命名为PaLM，即 Pathways Language Model）这样的大型系统一次花费超过1000万美元，并且需要访问大量的数据——计算能力越强，数据越多越好。这引发了技术集中在少数科技公司或政府手中的担忧。

如果是这样的话，训练数据可能会以一种特别令人窒息和不愉快的方式进一步加深世界的偏见。你会相信一个对现实的全部感知都是通过网上冲浪形成的10岁孩子吗？X和美国训练的人工智能系统会不会被吸纳到一场意识形态斗争中来“扭曲”人们的思想？对于那些在网络上表现不佳的文化，会发生什么？

然后是访问的问题。目前，最大的模型应用受限，以防止它们被恶意使用，例如生成假新闻。OpenAI（OpenAI，由诸多硅谷、西雅图科技大亨联合建立的人工智能非营利组织。）是一家创业公司，它设计了一种名为DALL- E2的模型，该模型生成暴力或色情图片的能力被限制。公司担心模型滥用是对的，但这些模型越强大，对它们的使用以创造新的“精英”就越受限。自我监管不太可能解决这一困境。

掀起了一场革命

如果处理得当，它更有可能与人类“互补”，而不是“取代”人类。

多年来，有人说人工智能驱动的自动化对从事重复性、例行工作的人构成了威胁，对艺术家、作家和程序员更安全。基础模型对这种假设提出了挑战。但它们也展示了人工智能如何作为软件助手来提高生产力。这种机器智能与人类不同，但提供了一些完全不同的东西。如果处理得当，它更有可能与人类“互补”，而不是“取代”人类。【全文完】

来源：经济学人
作者：未知
编译：秦思寒
校改：陈语