甲小姐对话稚晖君：深度学习并非AI的终点

红太狼 2022-09-05 04:20 161阅读 0赞

![甲小姐对话稚晖君：深度学习并非AI的终点][AI]

“人类不应该只存在在地球上，对于这么浩瀚的宇宙来说太浪费了。”

作者 | 甲小姐

助理 | 沁云

近日，华为“天才少年”、B站UP主稚晖君的新作自动驾驶自行车在业内刷屏。这款自动驾驶自行车不仅会直行、拐弯、避障、上路，还配备了特斯拉都没有的激光雷达，最终硬件成本不到一万。

不仅有这款自动驾驶自行车，凭借着超强的动手能力和技术实力，稚晖君在网络上展现了一系列“野生钢铁侠”的惊人脑洞创作：一台外观只有硬币大小的迷你型Linux电脑、“螃蟹改造成的火星车”、能当显示器的充电宝、带墨水屏幕的NFC名片、智能家居AR交互系统、双足机器人……

“一人抵一城”，“把自己活成了一支队伍”，“你们知道天才长什么样吗？就长这样”， “社会走出‘内卷’的关键，就在这些天才们身上”，是网友的一系列评价。

稚晖君，原名彭志辉，2018年毕业于电子科技大学，后入选“华为天才少年计划”，从事AI芯片架构和算法相关研究。

一位“技术天才少年”在关注什么、投入什么、梦想什么？本次对话，我们一起走近这位特殊的嘉宾，聊聊AI，聊聊自己，聊聊使命。

# 1.谈AI：“当AI的参数规模超越人脑后，将迎来分界点” #

**甲小姐：**最近在杨立昆的著作《科学之路：人、机器与未来》中看到你的推荐语，本书给你带来了什么？

**稚晖君：**杨立昆是AI之父，他的经历给我的最大启发是：怎样在人工智能几次受到质疑、几次进入低谷的状态下，他还能坚持做他认为正确的方向。**他告诉了我：想做一件事，想真正在工业界、学术界或社会中获得认可，还是要坚持下去。**

**甲小姐：**人工智能在六十多年的发展史中经历了两次低谷、三次崛起，站在当下时间点，你觉得人工智能是被市场高估了还是低估了？

**稚晖君：**某种程度上被高估了，某种程度上也没有。

人工智能有三驾马车：数据、算法、算力。从1956年人工智能概念被提出开始，最初AI发展的重点是算法，产生了三大人工智能学派（注：符号主义学派研究的是基于逻辑推理的智能模拟方法；连接主义学派认为可通过模拟大脑的神经网络结构来实现；行为主义学派认为可以从生物体与环境互动的模式中寻找答案），海量的数据在2000年互联网开始普及才产生，后来游戏行业的兴起带动了GPU的高速发展——**最早以算法为主，后来以数据为主，再后来以算力为主，现在算力进一步升级，变成了超大算力**。

最近两年爆发的趋势是模型越来越大，计算量越来越大。近期发布的一些语言训练模型，参数已达上千亿甚至万亿，这已经不是早几年大家能想象的一个AI所具备的规模了。**而我觉得这个潜力还没有被发挥到尽头，可能随着计算产业进一步发展，可以把算力进一步提高到十万亿和百万亿规模。**随着算力进一步提升，AI的效果还会进一步提升，这说明AI的潜力还没被挖掘完。

而另一方面我想说一下AI为何被高估。**我们始终拿AI跟真实的人类对比，这是不太合适的。**我们经常认为机器人就要跟人一样：具备人的形态，两只手、两只脚、有个大脑会思考、有摄像头当眼睛、有语言功能去交流对话，似乎这就叫人工智能，其实不是这样的——很多对于人工智非常困难的事，对于人类是非常简单的，比如学走路、叠衣服，人类生下来两三岁就可以了，但对于人工智能来说，到现在也非常困难。但相反的是，解决数学问题、解决科学计算、下象棋、下围棋、预测蛋白质结构，这些人类觉得难的事，对于机器来说却比较简单。

**甲小姐：**这就是AI的“莫拉维克悖论”——和传统的假设不同，成年人所独有的高阶智慧能力只需要非常少的计算能力，但是孩童一般的无意识的技能和直觉却需要极大的运算能力。

**稚晖君：**所以**我们不应拿人类的行为表现完全套用到人工智能身上，**这是对它高估的部分。**AI确实有很大潜力，但这个潜力不一定会达到我们期望的、和人类行为完全相同的程度。**

**甲小姐：**深度神经网络的诞生来自对人脑的模仿。对人工智能了解越深，对人类智能本身也会有更多理解。那现在的人工智能和人类智能是渐行渐近的关系，还是渐行渐远的关系？

**稚晖君：**人工智能现在才刚到爆发点。之前有个阶段是**“有多少人工就有多少智能”**，那时AI的智能程度纯粹依靠人工对数据的标定、特征的设计和算法的设计，这是比较原始的阶段；后来进入数据驱动时代，大数据和超大规模模型可能将AI带入到一个分界点，这以后AI可能做到人类之前无法想象的事，再也不像之前一些小打小闹的人工智能：只做些图像识别、人脸识别、语音识别、简单对话，然后让它去测图灵测试。我觉得之后可能会到分界点，**产生一些新人工智能的范式——我们所谓的强人工智能可能会在20年内实现，它会是AI真正突破人类的分界点**。

**甲小姐：**这个分界点具体指什么？

**稚晖君：**人脑的参数量是860亿神经元，它的连接数大概是10万亿级别，现在最大的人工智能模型的参数已经逼近这个数字，估计明年可以达到万亿级别，跟人脑的复杂规模已经相当，这会是一个分界点。这之后，**可能人工智能真的会产生一些自主意识，能够实现一些自我更新迭代的能力。所以后面的发展可能跟之前的表现形式会完全不一样。**

**甲小姐：**你的意思是，过去人工智能对人类智能是模仿和追赶的逻辑，过了分界点后，人工智能和人类智能可能走向两个方向？

**稚晖君：**也可以这么理解。其实人工智能一直分很多流派，有的是人脑路线，有的不是，最终肯定会有一个主流的方式，**而我觉得主流的方式应该会跟人脑不同**。

**甲小姐：**这个主流范式现在初见轮廓了吗？

**稚晖君：**还处于比较早期，20年内我觉得是很有希望的。

**甲小姐：**杨立昆深信不疑的是：**深度学习就是人工智能的未来**。但你刚才说的新范式是指，人工智能的未来会有比深度学习更先进的思想出现？

**稚晖君：**对。我对人类的技术发展还是抱有信心的。我们以前认为的一些技术方向，比如整个IC芯片业都是以半导体为基础的，都以硅为介质，但现在到了一纳米级别了，已经到尽头了，继续发展还能突破物理的限制吗？我觉得不太可能。很有可能是一种新型革命性技术的产生，去突破一纳米以下的规则。我们肯定要以发展的眼光看深度学习——这是一项已经发展了很久的、很成熟的、也产生了了不起作用的技术，但**未来肯定有更先进的技术方向**。

**甲小姐：**在你看来，**深度学习并非AI的终点**？

**稚晖君：**对。深度学习是黑盒模型，是不可解释的AI，我们只知道输入和输出的数据，中间是怎么运算的、有什么原理，我们是搞不清楚的。现在也有一个流派叫做**Explainable AI** **(XAI) ，可解释的AI，跟之前是完全不一样的方式，很有希望成为主流**。

**甲小姐：**我曾经对话过吴军老师，他的观点是今天的AI能解决的其实是非常小的一类问题（如下图），他画了一张图，从大到小的包含关系是：所有的问题→数学问题→可判定问题→有答案问题→可计算问题→工程可解问题→人工智能问题。他的意思是，在所有问题中，人工智能只能扮演一个很小的角色——你觉得这个图表的关系会随着AI新范式的到来而变化吗？AI的边界会扩大吗？

![甲小姐对话稚晖君：深度学习并非AI的终点][AI 1]

**稚晖君：**当然。早在20年前，我们还无法想象人工智能在NLP领域的应用，无法想象一位虚拟主持人会让你分辨不出真假。即便我们按照最传统的理解，认为人工智能的终极目标就是人类智能，那既然人可以解决这么多问题，等到人工智能具备像人一样的意识和智能程度时，大多数人类面临的问题AI都是可以解决的，AI的范围肯定在不断扩大。

**甲小姐：**你的意思是，不可计算的、可计算的、数学的、不数学的，只要是人能解决的，在未来AI都应该能解决？

**稚晖君：**对。但如果是一些物理或数学本质上有限制、本身没有答案的问题，或者是哲学问题，或者是没有标准答案的模糊问题，AI也不太可能去解决。

**甲小姐：**概括一下，现在AI最可以发挥作用的场景有哪些？哪些场景AI不会起很大作用？

**稚晖君：**做得好的主要是跟复杂计算相关的，包括人机交互、语音、视觉、NLP等；做的不好的有人工智能跟机械的结合。人工智能毕竟只是软件层面的技术，不涉及实际的物理操作。单从机器人角度来看，流水线上的各种工业机器人已经应用了很多年，工业4.0的转型力度也很大，单从人工智能角度看也发展得很快——但**机器人和人工智能两个技术的结合还没有很好的发展。**

**甲小姐：**之前对话特伦斯，他说AI现在还不具备小脑的能力，更多还是大脑皮层的能力，原因是什么？

**稚晖君：**具体原因我也不知道，但我之前做过机器人，**开发机器人的整个流程其实不太涉及AI，哪怕含金量最高的波士顿动力机器人，里面一行AI的代码都没用到——它飞檐走壁、跟人一样非常流畅地适应各种地形，但这些是传统的运动控制方法，没有现在的AI技术在里面**。

目前机器人一般是嵌入式系统，一个人形大小的机器人里不可能装一台超级计算机进去，如果你要把它放到云端去计算，通信的延迟又不是这个需要实时反馈的场景能接受的。所以机器人和AI目前还没有一个很好的契合度，但我相信以后会有这样的趋势。

**甲小姐：**AI会涉及情感领域吗？

**稚晖君：**现在的AI已经有了情感分析技术，我们把它归纳于通用人工智能的范畴。现在的大模型可以做到给它一段话，它就能把图像生成出来，给它一张图像，它就能给你描述这个图像讲的是什么故事，包括作曲、写文章、绘画都可以做到，但AI自己知不知道自己在做什么？它不知道。很大程度上它还是在一个大规模的数据空间里找一个相对好的解，但没有真正的产生意识——它并不知道自己写的文章是什么意思。

**甲小姐：**现在有任何迹象表明AI可能会有意识吗？

**稚晖君：**不知道，可能**参数规模超越人脑之后会产生这种情况。如果是的话，就是一个分界点**。

**甲小姐：**过去六十多年人们对AI的发展争议不断，态度呈现两极分化，有人认为它很强大，有人认为它是泡沫。杨立昆这本书里有一段描写：拉希米曾断言“我们对人工智能的发展过于自大了，目前的人工智能只不过是一个还能用的炼金术”，这激起了杨立昆的强烈反击。关于人工智能到底是不是炼金术的讨论一度风靡一时。在你看来，AI在当今社会究竟扮演多大的角色？是“炼金术”（被高估的技术），是“水电煤”（基础设施），还是“颠覆者”，甚至是“终结者”？

**稚晖君：**都有可能，但我觉得工具就是工具，**工具产生什么效果取决于我们使用工具的人怎么看待这个事**。核技术可以用到战争中，也可以用于核电，我们不能因为潜在的威胁就因噎废食不去发展，**发展中带来的问题只能用更高层次的发展去解决**。整体而言，我对AI比较乐观，我相信**它会带领人类进入一个新纪元**。

**甲小姐：**刚才很多讨论是基于AI的“实然”层面。从“应然”角度看，AI有边界吗？AI和人类的关系是否该有一些领地限制？

**稚晖君：**肯定要有，所有技术都会有，包括能源。所以我说发展中产生的问题需要靠进一步的发展去解决。

**甲小姐：**幻想10年后，人和机器应该是什么样的关系？AI的发展是否会让人类作为一个种族变得更愚蠢？

**稚晖君：**不会，我个人更倾向于**人类与AI和谐共处的方式**。比如互联网拓展了我们获取信息的边界，手机基本成为了人类的一个新的器官，我觉得**等脑机接口相关技术成熟、普及后，人工智能将作为人体的一部分延伸，成为人类一个非常强大的“外器官”**。

# 2.谈自己：“我并非天才少年” #

**甲小姐：**在B站我们可以看到你做了很多很酷的科技发明创造，你做这些的动机来自哪里？

**稚晖君：**其实我并不只对人工智能感兴趣，我个人学的比较杂，本科学生物，研究生学通信，我对机器人也感兴趣，总的来说，我对整个泛科技领域都非常感兴趣。我还相信21世纪的下半场是生物科学的世纪，那时的生物科学会跟现在的人工智能一样火，那个时代是很值得期待的。

**甲小姐：**为什么你可以做到同时对不同门类的技术融会贯通？

**稚晖君：**肯定有先天的因素，有的人可能天生就适合搞科研、搞技术，有的人天生就适合跟别人打交道，这和每个人的性格、大脑构造有关。我比较内向，我觉得写代码、跟机器交流比跟别人交流要有意思得多，这可能是先天基因区别。当然也有后天接触事物的影响，我小时候在广东长大，那边科技氛围比较好，我家附近有一家新华书店，我经常去看各类书籍，我从小就看过爱因斯坦、麦克斯韦、波尔这些科学家的故事。

**甲小姐：**为什么你可以建立这么全栈的能力？

**稚晖君：**最核心的就是兴趣。前提条件也有挺多——有天时，现在科技是整个世界的主流趋势；有地利，中国是科技崛起的地理环境；也要有个人的天赋和后天的努力积累，但这些条件的前提是我自己得有兴趣，不然很多事我是把握不住的。

**甲小姐：**你在B站上说自己是“野生钢铁侠”，钢铁侠是你的偶像吗？

**稚晖君：**我挺喜欢看科幻电影的，但我更喜欢硬科幻。我喜欢的不是《漫威》，而是《三体》，我看了10多遍。我比较崇拜的钢铁侠不是电影里的钢铁侠，而是现实中的马斯克，但不包括他这些年发生的一些变化，他在社交媒体的一些言论和他在金融圈的一些操作，我只是欣赏他的一些行为，而不是这个人。

**甲小姐：**有网友说你“一人抵一城”，“把自己活成了一支队伍”；甚至有媒体提到你时说，“社会走出‘内卷’的关键，就在这些天才们身上”，你对自己的评价是什么？你在自己心中和在网友心中的评价一样吗？

**稚晖君：**没有，我觉得搞技术的相对来说可能比较务实，我对自己的认识也比较清晰，不然可能很难做好技术。**大家说“天才少年”，其实我既不是天才也不是少年，**我跟韦东奕这样的人还是有差距的。

**甲小姐：**你测过智商吗？

**稚晖君：**我不太信这个东西，通过回答几道题就能把智商测出来，我认为不太靠谱。

**甲小姐：**你会觉得某件事很难吗？

**稚晖君：**肯定会有，所有技术在刚接触时都是一个难关，但做多了之后其实是有套路的。知识和知识是相通的，学习能力、查资料的能力、信息提取的能力是相通的。

**甲小姐：**下一个你想实现的作品是什么？

**稚晖君：**现在的问题不是没有创意，而是没有时间。我点子特别多，我有一个idea库，里面列了很多后面准备做的事。我比较喜欢做一些大家没做过的作品，如果市面上已经有了，我就不太感兴趣了。

**甲小姐：**B站的走红会让你更有压力还是动力？

**稚晖君：**我很佛系，也不专心运营，B站官方已经联系过我很多次，问我要不要签约当全职UP主，目前为止都有几百家MCN公司问我要不要签约，我觉得没必要，这只是一个业余兴趣。能有大家的关注是很开心的，但如果没人看，我自己做的过程也已经比较开心了。

**甲小姐：**跟个人创造相比，在大企业的工作状态可能会很不同，你在华为开心吗？

**稚晖君：**其实我的个人性格是比较适合华为的。不管我忙不忙，我都会把自己逼成一个工作狂，我比较符合华为的企业文化。当然，公司给我的自由度是比较大的，我可以去思考一些前沿的方向、预研的课题，公司也会给我一些资源让我去做。

**甲小姐：**我们在做采访时会关注被访者的底层思维模式，你自己的思考模式有什么“底层代码”吗？

**稚晖君：**我做的很多事都是**问题导向的学习，Problem-based learning**。我做这么多方向的技术开发，如果按正常路径去学，可能要上十多次大学才能把这些领域都覆盖了，我肯定没这么多时间，所以我在实际项目实践过程中，遇到什么问题就解决什么问题，然后再把这个问题引申的相关技术知识都补牢。

# 3.谈使命：“人类不应该只存在在地球上，对于这么浩瀚的宇宙来说太浪费了” #

**甲小姐：**你的人生理想和使命是什么？

**稚晖君：**往大了说，我和马斯克的梦想是一样的，我觉得**人类不应该只存在在地球上，对于这么浩瀚的宇宙来说太浪费了**。这是大理想，不是靠我个人能实现的，要靠全人类的努力；往小一点说，我希望能做出对整个行业有贡献的事。

**甲小姐：**现在这个时间点，很多同龄人处于一种很焦虑的状态，他们的关键词是“内卷”和“躺平”，你对他们有什么建议吗？

**稚晖君：**内卷也不算是一个坏事，如果在日本或韩国，你可能连选择的资格都没有，他们的阶级已经完全固化了，年轻人是没有上升动力的，在一家公司一呆就是一辈子。现在我们为什么会内卷？因为社会竞争压力太大了，**这恰好说明整个社会都在进步，上升空间和环境是存在的，这不一定是个坏事。**

**甲小姐：**历史的长河中，每个时代都会有每个时代的底色和使命，你认为当下我们这代人的底色和使命是什么？

**稚晖君：**科技兴国、人类命运共同体，国家已经说得很明白了。

**甲小姐：**如果你有一台时光机可以去到10年后的未来，你可以揭晓一件事物的答案，你最想知道什么？

**稚晖君：**我想知道的是刚才说的大梦想能否实现——**我想看看，人类是否真的能在星辰大海中找到自己新的归宿？我想看看，人类原来的边界能扩展到怎样的程度。**

[AI]: /images/20220829/14bfccc4e27e4ec8b4e66f087e48ec57.png
[AI 1]: /images/20220829/f9ebbfc77e374f4c98d1058271197689.png