首页 / 小说书库 / 万物皆计算:科学奇才的探索之旅 / 正文
点评
第14章 关于人工智能道德规范的一则演讲

2016年10月17日

我母亲是牛津大学的哲学教授,所以在我还是孩子的时候,我总是说这辈子我永远不会做的事就是谈论哲学或者从事哲学方面的工作。但是,现在,我来了。

在真正开始讨论人工智能之前,我想聊一下我的世界观。基本上我这一生一直在交替做基础科学研究和技术构建。自从记事起我就对人工智能感兴趣,但小时候我是从物理学和宇宙学相关领域起步的。这促使我构建一些使类似数学演算这类工作自动化的技术。这些技术的效果很好,所以我慢慢开始思考如何真正理解和计算万事万物。那是大约1980年,我开始考虑构建一个类似大脑的东西,于是开始研究神经网络等相关技术,但是那时我的研究并不深入。

同时,我还对一个更大的科学问题感兴趣:如何为万事万物构建通用的理论。300年来,这方面的主流思路是利用数学和公式来进行,但是我想走得更远。我有了一个宏大的构想:或许可以考虑用程序,以及所有可能的程序构成的计算宇宙,来实现这套通用的理论。

这项工作给我带来了个人历史上伽利略似的光辉时刻。我仅仅是把我的“计算望远镜”对准了这些最简单的可能的程序,然后我就看到其中令人称奇的一个,我称之为“规则30”——它看起来是从“无”中持续不断地生成“复杂度”:

看到这个之后,我意识到这实际上是整个计算宇宙,乃至整个自然中在发生的事。它是自然得以创造出所有我们看到的复杂事物的奥秘。它也是一扇窗,通向原始的、不经约束的计算宇宙。至少,从传统意义上来说,当我们在做工程的时候,我们是在搭建一些足够简单的东西,这些东西简单到我们能预见到它们的功能。

但是如果我们走入计算宇宙,事情可能就变得更加狂野了。我们在这方面做了很多的钻研工作,找到了有不同用途的各种各样有用的程序,比如规则30就是用于产生随机性的。现代机器学习实际上就是从传统工程学发展到这样的自由钻研过程中的一个阶段。

那么,关于计算宇宙我们能说什么呢?可以认为这些程序都是在做计算。多年以前,我提出了我称之为“计算等价性原理”的理论,即如果系统的行为显然并不简单,那么它通常来说对应最复杂的计算。有关这个想法,存在各种各样的预言和例证,例如,通用计算是无处不在的,不可判定性也是,我所谓的不可归约性同样是。

你能预测它下面要做什么吗(见下页图)?它很可能是计算不可归约的,也就是说,如果不逐步跟踪它的执行,不投入同样的计算工作量,你是无法确定它的下一步是什么的。这一点是完全确定的。然而对我们来说,它的计算似乎有自由意志一般,因为我们完全无法知道它接下来会做什么。

还有一件事:什么是智能?我们的统一原理表明,从微小的程序到我们的大脑,一切在计算上都是等价的。在智能和计算之间并没有明确的界线。天气看起来似乎有自己的意志:它在做与我们的大脑一样复杂的计算。然而,对我们来说,这是相当陌生的计算。因为它没有与我们人类的目标和经验相连接,它仅仅是碰巧正在向前推演的原始计算而已。

那么我们怎么驾驭计算呢?我们得让它契合我们的目标。所以第一步是描述我们的目标。过去的30年中,我所做的事情基本就是创造一个定义目标的方法。

我曾经构建了一种语言——现在它被称为Wolfram语言——它可以让我们表达我们想要做的事情。它是一种计算机语言,但是它与其他计算机语言不同,因为不同于用计算机的术语告诉计算机做什么,它集成了有关计算和世界的尽可能多的知识,所以人类可以用人类的术语来表达想要的东西,然后交由Wolfram语言去尽可能自动化地完成这个任务。

这个基本思想没什么问题,多年以来它被用在Mathematica中,源源不断地产生了无数的发明和发现。它也是Wolfram|Alpha的核心思想,即这个语言要能接受自然语言输入的问题,理解这些问题,然后辅助性地使用人类文明中的知识和算法来回答问题。是的,这是一个非常经典的人工智能风格的过程。它用这样的方式回答了来自人类的亿万问题,比如在Siri中。

最近我有一个很有意思的经历,就是探究如何用我们已经构建的东西来教授孩子们计算思维。当时我正为一本书编写习题。开始的时候,题目很简单:“写一个程序完成×××。”但是到后来,我发现“我知道用Wolfram语言怎么表达,但是用英语表达同样的内容好难”。当然,这就是为什么我花了30年来构建Wolfram语言。

英语有大约25000个常用单词,Wolfram语言则有大约5000个精心设计的内建结构,包含最新的机器学习的内容,以及数百万项基于筛选数据的内容。它的构建思路是,一旦人们想到世界上任何计算相关的问题,它就应该很容易用Wolfram语言表达出来,并且最酷的是,它真的可以工作。人类,包括孩子,可以读和写这种语言,计算机也可以。从某种程度上来说,它是人类文化背景下一座思想和计算之间的桥梁。

本章共 3 页 (每页约 2000 字) · 当前第 1 页 单页阅读全部 →
上一页 1 2 3
跳到
上一章
目录
下一章
纠错
加书签
详情
加书架
打赏
投票
自动滚动
设置
夜间

评论 0条

加载中...

设置

阅读主题
正文字体
字体大小
18
页面宽度
滚动速度
5
语音朗读
翻页模式
💎

余额不足

您的水晶或能量余额不足,请充值后再试。

立即前往充值

🎫 投月票

1 张月票 = 1.00 水晶。感谢支持!

🎁 打赏作品

打赏将直接扣除水晶余额,鼓励作者创作。