第三届世界顶尖科学家论坛聊了哪些AI和创新话题？
The following article is from 志阳创谈 Author 丁相宁
【编者按】第三届世界顶尖科学家论坛于10月30日-11月1日在上海召开。包括61位诺贝尔奖得主在内，近140位诺贝尔奖、图灵奖、菲尔兹奖、沃尔夫奖、拉斯克奖等全球顶尖科学奖项得主出席。论坛集中举行或播放130余场顶尖科学家个人演讲，70余场物理、化学、生物、医学、信息、数学等基础科学峰会，和人工智能、转化医学、精准治疗、新材料、新能源等应用技术峰会。编者整理论坛中有关创新创业和人工智能的名家观点，以飨读者。
1
“硅谷教父”轩尼诗：实现人工智能梦想需破解大脑密码
“大脑是有史以来最伟大的学习机器，如果想实现人工智能的梦想，得搞清楚人类大脑为什么在那么多方面都能够比计算机做得更好。”
约翰·轩尼诗是第十任斯坦福大学校长，有“硅谷教父”之称。2017年，约翰·轩尼诗与大卫·帕特森因“开创了一种系统的、定量的方法来设计和评估计算机架构，并对微处理器（RISC）行业产生了持久的影响”而获得图灵奖。
轩尼诗首先回顾了人工智能近年来对人类生活的影响。“以自动驾驶来说，之前我们对它只有模糊的概念；而现在，人工智能在其中起到了至关重要的作用。如果实现了自动驾驶，能够拯救成千上万在车祸中丧失生命的人以及因车祸导致的数亿美元损失。”
“这些技术都产生了革命性的突破，但也遇到挑战：机器学习需要消耗大量的计算能力，我们需要打造出计算性能超强的计算机”。
面对这一难题，轩尼诗认为必须换一个角度思考，拓展摩尔定律的思路，作出特定领域的专业处理器，还需要考虑软硬件的兼顾。轩尼诗称，他真正想解决的问题是人工智能。
“怎样能够让计算机像人类一样思考？需要多久才能做到？”他说，乐观主义者认为10年之内就能发生，而其他人认为需要40年的时间。但今天，计算机与人脑的差距还是很大的。
轩尼诗说，大脑的能量效率也是极高的，训练大规模神经网络数据中心需要消耗的功率大约是大脑的1000倍。“我们想降低计算机的功耗，实现下一代的计算机，但现在差距还很大。”
“但是计算机也有比人脑做得好的地方，”轩尼诗说，“要让一个人成为国际象棋大师，需要很多年。而计算机几天就可以搞定，只是需要消耗很多的电和计算力。”
“这些现象告诉我们，如果我们要实现人工智能的梦想，我们得搞清楚人类大脑为什么在那么多方面都能够比计算机做的更好。希望我们做出更好的人工智能算法，给全世界带来巨大的价值。”
2
姚期智：未来30至40年，大量创新发明将来自多学科交融
图灵奖得主、中国科学院院士姚期智与诺贝尔奖得主罗杰·科恩伯格等人展开“人类共同命运”科学对话。
姚期智表示，科学将是大多数公共事务的决策基础，而且科学已经达到了一个重要的转折点。他认为，在未来30年至40年中，大量的创新和发明都将会来自多学科的交叉和融合。
他认为，世界顶尖科学家论坛和协会可以帮助新一代的年轻科学家，让每个人不仅专注于自己狭窄的学科，而有更加广阔的见解，了解多种学科。“这将是做跨学科研究的更好方式。”
“现在我们有这样的机会，让新一代的科学家去考虑，用新的方式使得我们的理想变成现实，能够纯粹地追求知识、加速知识的发展。”
在“科学前沿与颠覆性技术”论坛上姚期智指出，人工智能仍有自己的发展限制和需要突破的地方。
人工智能需要突破的第一个瓶颈是如何保证算法的稳健性。在人脸识别技术上，AI已经可以做的比人类好了，但他们的稳定性和人类相比仍有差距。姚期举了一个例子：自动驾驶领域，自动驾驶汽车能识别车辆和行人。但如果有人给系统增加了变动，系统将红灯或者停车标志识别错误，那就会发生非常严重的交通事故。
第二个需要突破是AI算法的可解释性。人工智能目前已经在环境、医药、教育等领域有了广泛应用，我们对于AI的依赖会越来越高。如何判定一个算法被大众接受，广泛使用，姚期智认为需要满足一些标准。同样的，姚期智举了一个例子。假设有一个给房屋评估的AI程序，可以对房屋进行评估。这个算法可以根据输入的房屋数据、周边情况和其他数据，给房子做出评估。你进行操作后，发现自家房子只值200万，那你可能会不高兴了，因为你自己觉得房子能值400万。AI为什么会根据算法给你的房子评估出200万的价值，你可能会怀疑中介在中间做了手脚。这中间就会引发法律纠纷。因此，如何去解释AI算法做出决策的关键就非常重要。但现在科学家仍无法解释AI算法。
人工智能领域遇到的第三问题是超级AI已经来了吗？姚期智说，很多人都在讲人工智能的威胁。但我们究竟如何去理解一般AI和超级AI，这是我们需要在概念上突破的，这是个开放性问题。“现在机器学习能力大幅改进，人们开始相信在未来十年、五十年，我们能够看到AI能与人类具有可比性，但我们的问题就在于要不要控制AI。”姚期智说。
3
蒲慕明发问：颠覆性技术是否带来伦理问题？人类终将被替代？
包括脑科学领域的颠覆性技术是否会带来伦理方面的问题？在AI时代人类是否将无用武之地？10月30日，在上海举行的第三届世界顶尖科学家论坛“科学前沿与颠覆性技术”论坛上，国际著名神经生物学家、中科院院士蒲慕明向其他三位脑科学和AI领域的顶尖科学家抛出上述问题。
2014年诺贝尔生理学或医学奖得主爱德华·莫索尔认为这类担忧可能还为时尚早。他说道，几年之前已经有人问类似的问题，“我们的技术可能带来了一些伦理方面的影响，我仍然认为离真正可以操纵人的思想，特别是通过刺激脑细胞等方式，实际上还是很遥远的。”
爱德华·莫索尔还提到，实际上，像心理学、精神科领域，几十年来甚至更久之前都在使用一些方法去改变人的思想，而现在的神经科学家通过一些技术去改变人的脑活动，“我们只是改善某些问题，去解决和治疗一些问题。”他一再强调，科学家现在的发现距离实际应用还有很长的路要走。
2014年诺贝尔生理学或医学奖得主梅·布莱特·莫索尔在赞同上述观点的同时补充道，在科学领域总会遇到伦理学的问题，科学家使用电极或一些方式对某些脑细胞进行一些刺激，在这些过程当中会对大脑进行一些干预。但在她看来，人类未来将由自己决定是否使用这些技术。
她同时提出另一方面的伦理问题，“如果我们不去发展这种科学，那有更多的人比如儿童会丧失生命，比如没有自动驾驶，那有更多的人会因为车祸失去生命。”
2016年京都先进技术奖得主金出武雄对AI是否替代人类的思考则较为乐观。他提到一种可能的未来，如果在这个世界上只有机器人去工作，我们人类没有工作，机器人进行生产但没有人有钱去买，这个世界就无法运转了，“那就要去创造一些新的社会制度来适应机器取代人的时代。”
他认为，机器取代了一些人的工作，但这些人不会永远处于失业状态，“他们总会找到新的工作。”
金出武雄举了两个AI未来可以应用的例子。
"AI支持教育，可以成为我们社会价值创建的基础，也可以帮助人们大幅减少成本。"金出武雄说，个性化教育是AI支持教育最突出的特点之一。AI能促进学生的认知提升，根据不同学生的思维方式，教学生使用更正确的方式思考。而人类教师就可以提供更加人性化的教育，更多关注人的精神成长的部分。
另一个例子是N+1头脑风暴。金出武雄介绍说，未来人们可以在头脑风暴会议中加入AI作为一个新的角色。"AI可以去了解我们现在在讨论什么？问题的核心是什么？我们提到的方案是否可以实现？"在这个例子里，AI不仅可以为人们检索讨论所需的关键信息，还可以对人类讨论出的解决方案进行试运行，以试验方案是否可行。
金出武雄同时也说，AI距离步入全面应用阶段还要花很长时间。
4
图灵奖、京都奖得主共话自动驾驶：未来5至10年超过人类？
在世界顶尖科学家“科学前沿与颠覆性技术”论坛上，两位自动驾驶领域的知名学者分享了各自对这项技术当前进展的见解。
卡耐基梅隆大学教授、美国工程院院士、京都奖得主金出武雄对自动驾驶技术的当前进展表示乐观。他认为，“在未来5至10年之间，毫无疑问机器的驾驶能力会比人类驾驶员更好”。他也提到，在开放道路上进行自动驾驶测试目前已经成为现实。
金出武雄表示，自动驾驶技术真正进入大众生活还需考虑并解决研究之外的问题。“自动驾驶是不是比人类驾驶员的技术更好？这很难证明。在成百上千次的驾驶比较之中，如果机器做的更好，但只有一次做的不好，还是会影响人们对于机器驾驶的印象。”
不同于金出武雄对技术本身的乐观态度，参与当天论坛的另一位自动驾驶学者、图灵奖得主约瑟夫·斯发基斯表示，“多年来，人们对自动驾驶的前景过于乐观。汽车行业和大型科技公司投资了上千亿美元，但在如何从其他系统向自动驾驶汽车过渡的问题上存在很多误解。”
他认为，对于构建复杂系统来说，采用人工智能技术是有必要的，但人工智能不能提供安全性保证。在未来，应该把核心方法结合起来，一方面基于数据，另一方面基于模型。
“我们要把人工智能的技术与现在已经得到成熟应用的一些传统技术相结合，来进行关键安全系统的开发。”
5
毫无用处？很有帮助？两位图灵奖得主激辩通用人工智能
“很多人说我们要造一个人工智能机器来代替人，我觉得这不可能，也不应该。真正应该研究的是用人工智能增强人的能力”。
11月1日，在世界顶尖科学家青年论坛人工智能会议上，通用人工智能成为图灵奖得主拉吉·雷迪(Raj Reddy)和曼纽尔·布鲁姆（Manuel Blum）等人“争论”的焦点。
拉吉·雷迪认为，研究通用用途的人工智能毫无用处。“用AI能开发出的东西是无穷无尽的，但研究人员应专注研究如何用AI增强人的能力，而不只是增强AI的能力”，也即关注“人在AI的辅助下还能做哪些事情。”他表示，应看清未来的重点在哪，这样才能对社会带来好处。“每次说到人工智能要代替人，大家都吓死了。‘机器人会取代人类，人都成了机器的奴隶’，这是大家都不想看到的。”
“我的观点正好相反，我倒是很喜欢多功能的智能代理。”1995年图灵奖得主曼纽尔·布鲁姆（Manuel Blum）回应拉吉·雷迪称，已有神经科学家尝试提出通用用途的认知神经科学模型。“当前，我们已经出现下围棋的阿尔法狗、用于图像识别的系统等专门用途的人工智能，结合神经科学，可以去探索通用用途的AI。”这一观点得到美国国家科学院院士兰诺·布鲁姆的认同（LenoreBlum），她认为通用用途的人工智能对人类很有帮助。
6
中科院院士杨雄里：脑机接口大胆创新，但还有问题要解决
“现在的问题是我们要在脑子或者神经系统保持完整的情况下，对产生意识过程进行研究，这个是难点所在。换句话说，在不破坏整个脑结构的情况下，如何检测，如何区分脑细胞活动。这是我们接下去需要投入更多精力去做的事情。”中国科学院院士、复旦大学教授、“辞海”副总主编、“Progress in Neurobiology”国际顾问编委杨雄里说。
在杨雄里看来，无创伤脑成像技术是解决目前大脑研究的手段之一。目前，已经有科学家通过正电子断层扫描、核磁共振成像技术、脑磁场技术等来研究大脑。在对动物的试验中，科学家已经可以在大脑一个小区域放置上千个电极，来进行研究。
“我们的脑科学手术技术发展得很快，可能对于我们进行一些较为复杂的脑科学研究有帮助。但是应该看到，即便是有帮助，这类技术和研究也才刚开始。”杨雄里说。
“我认为马斯克提的这个技术是个创新大胆的尝试，会改变我们大脑一些高级活动的过程。他可能会改变我们的记忆，改变语言功能。他现在用高明且精巧的外科手段，将电极植入到皮层上面，又能通过手段吧脑神经细胞信号采集出来，进行分析，我认为是一个突破。有助于解释我们大脑的认知过程，提供了非常有用的工具。”
至于对大脑终极研究，即对人脑高级认知过程的研究，则可能需要我们长期坚持。“我们要清楚认识到对于大脑的高级研究，我们只能够逐渐逼近它，但可能永远也无法完全了解大脑。所以我想对于每一位致力于脑科学研究的年轻科学家来说，他都得从它具体一个研究问题来开始，来推进自己的认识，去逐渐逼近最终的目标。”
7
科学家和高科技企业风险投资人共话创新：创新，是为了让生活变得更美好
“据估计，我们这一生中，有一半可能会患上癌症与阿尔兹海默症，六分之一的人在80岁以后都会受到这些疾病的困扰。”在昨天下午举行的世界顶尖科学家论坛“科学前沿与颠覆性技术论坛”上，英国牛津大学副校长查斯·邦德拉“语出惊人”，之所以援引这组数据，是希望给更多的科学家“压担子”，如他所言，“我们迫切需要更加新颖、有效、实惠的药物”，创新始终在路上！
都说基础科学研究是一场寂寞长跑，但“运动员”却总是乐在其中。尤其对科学家来说，创新的热情似乎天生融入他们的骨血之中。在这场海内外科学家和高科技企业风险投资人共同参与、切磋思想的论坛上，谈到“创新”，会场始终热气腾腾。
“我们的研究要不断做出新的尝试，因为AI也在不断进步，近年来进步尤其快。”2016年京都先进技术奖获得者金出武雄，在昨天的论坛上展示了新近正在研究的人工智能超级视觉系统。他直言，所有AI技术进步的本质，其实是包括算法在内的基础科学研究的进步。“技术从0到1的突破，本质是基础研究从0到1的突破。”因此，若想不断保持创新的能力，基础研究永远是最好的抓手。
邦德拉也认为，在既有这么多出色的技术和研究人员的情况下，要破解研发新药的困难，还需要增加对疾病相关的基础研究的创新和突破。
优秀科学家企业家都对原创有“绝对追求”。
“科学家和企业家某种程度上有着很大的相似性，创新是他们共同追求的目标，并且真正热爱的人会沉迷其中，而不觉其苦。”高科技企业投资人沈南鹏昨天也参加了论坛。在他眼中，优秀的科学家和企业家一样，对原创精神有着绝对的追求。
8
万思瀚：人才是创新的引领者，我们需要培养和维护高素质科学家团队
美国国家医学院院士、诺华公司首席执行官万思瀚表示，今年的诺奖颁给基因编辑技术体现出基础研究和临床应用的完美互动。他认为，科技创新的主要因素是：多学科合作、丰富人才组合、搭建友好型生态系统。
万思瀚说，科学要首先回答自然和生命的根本问题，用新的方法造福人类。转化医学是一个重要领域，它推动临床医生与科学家的合作，利用人体样本推动药物开发。科学创新革命性地改变了制药和医学。靶向药品有力地改善了生活质量、挽救生命、防止残疾、防止不适。很多新药和治疗方法出台杜绝了很多疾病的发生，大幅提高寿命，改善患者生活质量。在欧洲现有的1000万丙肝患者中95%可被治愈，年龄标化死亡率下降94%，心血管死亡率在欧洲五国下降37%。英法糖尿病死亡率下降41%，肿瘤死亡率下降21%。
他认为人才要素至关重要。“人才是创新引领者，我们需要培养和维护高素质科学家团队，让他们保持高创新活力，参与到国际研发中。”
如何吸引和挽留人才，打造一支高素质的人才团队？万思瀚提出，“我们需要建立创新友好的生态系统，让科学界和医疗界在这个系统中发展。”新药研发风险高，往往需要10-15年，人体研究极端复杂，任何新药都有很高的失败率。因此我们需要保护知识产权，让新药可以长期惠及患者。
“我们看到中国政府不断推进良好的生态系统建设，中国本身创新也进步非常快。”万思瀚说，“中国是诺华的全球第三大市场，马上会成为第二大市场。”他表示，未来诺华将在实验室和设备方面贡献力量，与顶尖科学家论坛共同培养顶尖科学家。
来源|志阳创谈
排版|何烨斌
●往期推荐 ●