澎湃新闻 - 深度学习总被忽悠,清华AI院长张钹:修修补补治不好

上一篇(左方向键) 下一篇(右方向键) 回目录(回车键) 粗体(B键)  正常(N键) 随机浏览(S键)   浏览次数:25    发布时间:2020/1/15 8:30:16   出处:澎湃新闻   

  澎湃新闻记者 张唯

深度学习总被忽悠,清华AI院长张钹:修修补补治不好 - 后花园网文 - 科技新闻

  清华大学人工智能研究院院长张钹

  “常常有比喻说,钥匙并不丢在这个地方,大家为什么都在这个地方找钥匙呢?因为这个地方灯亮看得见。真正的钥匙丢在黑暗的角落里,那里不好找,一时半会写不了文章,所以好多人不愿意去找。”

  近日,中国科学院院士、清华大学人工智能研究院院长张钹在一次学术活动中阐述深度学习方法易受欺骗、易受攻击的根本原因。他提出,根本解决办法并不在“灯亮看得见”的深度学习模型的修修补补上,而应该向人类学习。学习的内容包括,一、改变深度学习网络的模型与结构;二、在数据驱动的基础上引进知识。

  张钹,清华大学计算机系教授,中国科学院院士,1958年毕业于清华大学自动控制系。他参与人工智能、人工神经网络、机器学习等理论研究,以及这些理论应用于模式识别、知识工程与机器人等技术研究。

  从“让数据说话”到引入知识

  数据、算法、算力通常被认为是深度学习时代驱动人工智能崛起的三大因素。

  但张钹认为,知识与这三者同样重要,共同组成人工智能的四大基础。“回顾人工智能的历史,可以看到这四个因素不断地发挥作用。”

  1月11日,张钹在清华-中国工程院知识智能联合研究中心年会暨认知智能高峰论坛上提出上述观点。

  张钹介绍,第一代人工智能即符号主义主导的人工智能时代强调知识对智能的作用,由于当时受算法和算力的限制,知识表示依赖人工编程,因而以知识为基础的推理模型没有得到大量推广。

  深度学习兴起之后,学界将目标转移至数据,提出“让数据说话”。张钹认为,这种强调对深度学习的发展起到积极的作用,但也有“很大的不足”:过分强调数量的重要性,片面认为“质量差没关系,数据多就可以解决问题”。

  “这导致按照大数据建起来的人工智能系统面临不可信、不可靠、不安全、不易推广的挑战”。

  在他看来,解决这个挑战的办法之一是引入知识。

  “这也是我们人工智能研究院所提倡的第三代人工智能的道路——通过数据驱动和知识驱动的结合克服第一代和第二代人工智能的不足。

  “钥匙丢在黑暗的角落里”

  深度学习应用于模式识别虽然可以在大数据的训练中学到正确的分类,却很容易受到恶意干扰、欺骗和攻击。将狮子识别为图书馆、把雪山认作一只狗、停止标志识别被当成限速标志……此类深度学习系统被“忽悠”的案例层出不穷,如果发生在自动驾驶场景,就可能产生严重后果。

  面对深度学习的脆弱性,单纯从深度学习网络上修修补补只能治标,不能治本。

  张钹在回答现场观众提问时表示,“深度学习不能提取出语义层面的特征,只能提取底层特征,这是它脆弱、易受攻击的根本原因。如果不解决这个问题,只靠修修补补,不能根本解决问题,现在的很多做法就是如此。”

  如何根本解决深度学习存在的问题?

  张钹认为,有两个工作可以做:一是学习人类神经网络的结构,结合脑科学以改进深度学习模型,二是将知识驱动与数据驱动结合起来。“前者涉及学科交叉更难一点,搞计算机的大多数选择后一条路”。

  走第二条路的关键问题是如何从原始数据中自动提取知识。“这一直做不好,因为知识很难自动获取,需要依赖人工,单纯依赖人工是走不远的”。他鼓励人工智能研究者重点在知识获取方面做工作,“如果这个问题解决了,很多问题将迎刃而解。”

原标题:清华人工智能研究院院长张钹:深度学习的钥匙丢在黑暗角落

  

澎湃新闻』的更多其他内容(随机显示)

01、NASA新一代火星车征名 曾命名好奇号的华裔女孩任裁判

2020/1/14 21:21:55

02、你咋看?滴滴春节加价全给司机上热搜 网友表示理解

2020/1/14 16:36:02

03、彩电大厂争锋CES:无边框、可卷曲、像壁纸

2020/1/8 7:27:47

04、苹果CEO今年也"降薪"了:收入减少至1.25亿美元

2020/1/6 11:23:05

05、北斗应用创新:救援实现双向通信,提升搜救成功率

2019/12/27 11:59:51

06、工信部将国产特斯拉纳入免征购置税新能源车目录

2019/12/27 15:52:22

07、座头鲸如何一口吞下一大群小鱼?研究登上知名期刊

2019/12/24 15:08:50

08、分析近40万人:良好睡眠让心血管疾病风险降35%

2019/12/23 15:19:33

09、雷军:小米希望在武汉建万人超大规模研发总部

2019/12/20 17:33:38

10、比特币价格跌破6600美元 嘉楠科技较发行价跌去四成

2019/12/18 21:16:44

11、爱尔兰一飞机租赁公司起诉波音,索赔1.85亿美元

2019/12/18 12:59:19

12、中兴通讯高级副总裁徐锋:5G时代中兴手机希望重回主流队列

2019/12/17 10:07:36

13、陈睿卸任哆啦哔梦法定代表人,B站:属正常公司行为

2019/12/16 14:10:00

14、谷歌地图覆盖全球98%居住区,已拍千万英里街景

2019/12/16 7:38:14

15、天文学家抱怨星链太亮影响观测?SpaceX拟用新涂层

2019/12/11 12:15:25

16、未来预测:人工智能是否会抢走所有的工作?

2019/12/9 9:46:27

17、董明珠:格力电器世界第一 不服你换个空调试试

2019/12/8 11:59:10

18、松下电器:不排除今后为特斯拉上海厂供应电池

2019/12/8 9:17:13

19、李斌:蔚来销量少是因为没生产那么多

2019/12/7 17:13:57

20、360拟募108亿:投向大数据中心、AI等9个项目

2019/12/6 8:35:59

21、史上最热太空探测器揭晓"触日"初体验 4篇论文上《自然》

2019/12/5 8:14:54

22、中央系统软件出问题 脸书和Ins大规模宕机

2019/11/29 9:13:00

23、"定制婴儿"更高大聪明?科学家给出技术层面答案

2019/11/29 8:32:33

24、"人造肉"是炒作吗?靠养牛羊,未来肉可能真不够吃

2019/11/25 7:38:12

25、微博回应"向饭圈营销网贷":未来会注意完善

2019/11/22 17:50:04

26、美团Q3营收创新高:共享单车是明年核心投资领域

2019/11/22 12:19:55

27、松下计划2021年前停止液晶面板生产 将专注B2B业务

2019/11/22 11:19:25

28、部分债权人要求法院驳回贾跃亭破产重组申请

2019/11/21 13:15:36

29、李斌:新能源车市场出现新拐点 电动汽车春天不远了

2019/11/20 22:59:12

30、院士:布局好6G 否则5G优势只维持5/6年

2019/11/20 16:40:43

31、雷军:明年5G起飞,国内手机市场将大卖

2019/11/19 11:21:27

32、中国移动5G引领计划:明年5G客户达到7000万

2019/11/15 11:15:19

33、WeWork三季度亏损12.5亿美元 同比增加逾150%

2019/11/14 19:44:45

34、微软级别最高的中国员工沈向洋离职 继续任盖茨顾问

2019/11/14 7:10:57

35、王思聪被列为被执行人 北京二中院:未采取强制措施

2019/11/6 12:31:02

36、科学家已经拍出黑洞照片:未来十年想拍视频

2019/11/5 8:56:50

37、三星折叠屏手机Galaxy Fold将在进博会正式发布

2019/10/31 19:30:06

38、芝麻信用:两三年内不考虑盈利 与百行征信没合作

2019/10/31 18:38:58

39、水杯上的指纹被快速克隆:屏下指纹识别设备被攻破

2019/10/25 10:51:35

40、全国开通5G基站超8万,2G/3G退网条件渐成熟

2019/10/22 13:50:46

41、平头哥开源MCU芯片平台 成国内首家芯片平台开源企业

2019/10/21 17:32:31

42、海康威视:大部分美国供应商都已经陆续恢复供货

2019/10/21 10:26:13

43、喜马拉雅:移动时代下半场音频将占用户1/4媒体时间

2019/10/18 8:23:40

44、Airbnb一季度运营亏损3.06亿美元,同比增长逾一倍

2019/10/18 7:38:40

45、充电出现问题,哈雷首款电动摩托车暂停生产和交付

2019/10/15 11:23:40

46、"墨迹天气"IPO被否,曾因违规发布信息被责令整改

2019/10/11 22:17:26

47、38架波音737NG客机存在裂缝,将停飞至修复完成

2019/10/11 20:43:33

48、"太空行走第一人"、苏联宇航员阿列克谢·列昂诺夫去世

2019/10/11 20:25:14

49、特斯拉收购加拿大电池制造商海霸 或为自产电池铺路

2019/10/11 20:11:57

50、Waymo通知用户:你可能打到完全无人驾驶网约车

2019/10/11 8:06:45