加载中 ...

周鸿祎:AI也存在先天缺陷,应避免利用AI作假

2019-05-16 20:15:00 来源:腾讯网

摘要:
周鸿祎表示,最近发生的三件与人工智能有关的事情,揭示了人工智能的安全隐忧。

文 | 腾讯科技 王潘

5月16日,在第三届世界智能大会上,360董事长兼CEO周鸿祎发表演讲。周鸿祎表示,最近发生的三件与人工智能有关的事情,揭示了人工智能的安全隐忧。

周鸿祎说,讲这三件事并非贬低人工智能,恰恰相反,关注安全有利于人工智能更好地发展。因为只有安全的信息化,才会给人民带来安心和幸福的信息化。

无人值守系统里的“最后控制权之争”

周鸿祎提到的第一件事是波音737MAX坠机事件。近期,737MAX型飞机在过去六个月内发生两次坠毁事故,原因为其飞行控制系统的严重安全风险。

周鸿祎自称非航空专家但也看到两个问题,一是系统设计得再完美,一旦传感器出错,就会影响飞行控制系统的判断,继而“犯错”。二是当计算机出错后,究竟是听计算机的还是驾驶员的?

“大家都应该思考这个问题”,周鸿说,在将来无人车、无人工厂、无人码头等众多无人值守系统里,当我们没有很大把握的情况下,在传感器误报、数据被污染的情况下,最后的控制权和决定权应该留给机器还是人?

人工智能时代的“畅销服装”

周鸿祎讲的第二件事从“逃犯克星张学友”说起,据悉,因为张学友演唱会现场的“人脸识别”技术,警察轻松抓获多名在场逃犯。

不过,周鸿祎提醒大家不要只觉得人脸识别厉害,这一技术本身也存在先天缺陷:黑客们通过研究发现,只要把一种奇怪的条纹打印下来,别在衣服上,就能“屏蔽”掉人脸识别系统,出入自由。

“这种衣服可能会很畅销”,周鸿祎不忘在演讲中调侃。他认为,这还只是不太严重的情况。以小见大,一些无人驾驶的汽车,可能会被马路上‘奇怪’的符号误导,导致严重的交通事故。

为了杜绝这种情况,周鸿祎建议企业在上线系统前,应做好安全检测,做好“实网攻防”。“要用实际的攻击发现问题,而非靠静态的研究证明系统的安全”,周鸿祎还为公司“打广告”:“一定要找我们这些天天吃饱没事干的‘黑客公司’来帮大家做实际的攻防,在我们手里发现问题,比在实践中发现问题可能要好一些。”

周鸿祎为何调侃刘庆峰?

“我要攻击刘庆峰”,谈到第三件事时,周鸿开门见山,调侃科大讯飞刘庆峰。据悉,去年人工智能大会期间,两人埋下了“吃包子”的恩怨,刘庆峰爆料周鸿祎在最近的活动中连续吃了11个天津狗不理包子。

不过,“吃包子”恩怨是假,担忧人工智能是真。周鸿祎指出,去年刘庆峰在演讲中播放了用人工智能“伪造” 的视频,引发了他的思考。他在演讲中提醒大家:最近,国外已经有人利用人工智能将不雅视频里的女主角换成女明星。这一技术正引发恐慌,遭到该国政府查封。

“我今天已经不相信朋友圈里的美女了”,周鸿祎说,如果这种工具降低了每个人的做假成本,就可能会出现假新闻、假名人视频。这颠覆了我们过去“百闻不如一见”的固有观念,甚至会在关键时刻带来混乱。

“新加坡正在制定相应的法律”,周鸿祎呼吁我国也应加强对该类问题的重视,防止这样的“工具”流传,引发一系列道德伦理问题。

(更多精彩内容,关注云掌大发香港分分彩 公众号(ID:yunzhangcaijing),或者点击这里下载云掌大发香港分分彩 App

“云掌大发香港分分彩 ”的新闻页面文章、图片、音频、视频等稿件均为自媒体人、第三方机构发布或转载。如稿件涉及版权等问题,请与

我们联系删除或处理,客服邮箱kf@123.com.cn,稿件内容仅为传递更多信息之目的,不代表本网观点,亦不代表本网站赞同

其观点或证实其内容的真实性。

腾讯网聚合

7942 文章
2962.35万 阅读

集新闻信息、互动社区、娱乐产品和基础服务为一体的大型综合门户网站。服务于全球华人用户,致力成为最具传播力和互动性,权威、主流、时尚的互联网媒体平台。

最近内容