1. 狮吼网首页
  2. 视野
  3. 观察

周鸿祎:AI也存在先天缺陷,应避免利用AI作假

腾讯科技

腾讯科技

2019-05-17 09:12

27.21K

周鸿祎:AI也存在先天缺陷,应避免利用AI作假

图片来源:视觉中国

5月16日,在第三届世界智能大会上,360董事长兼CEO周鸿祎发表演讲。周鸿祎表示,最近发生的三件与人工智能有关的事情,揭示了人工智能的安全隐忧。

周鸿祎说,讲这三件事并非贬低人工智能,恰恰相反,关注安全有利于人工智能更好地发展。因为只有安全的信息化,才会给人民带来安心和幸福的信息化。

无人值守系统里的“最后控制权之争”

周鸿祎提到的第一件事是波音737MAX坠机事件。近期,737MAX型飞机在过去六个月内发生两次坠毁事故,原因为其飞行控制系统的严重安全风险。

周鸿祎自称非航空专家但也看到两个问题,一是系统设计得再完美,一旦传感器出错,就会影响飞行控制系统的判断,继而“犯错”。二是当计算机出错后,究竟是听计算机的还是驾驶员的?

“大家都应该思考这个问题”,周鸿祎说,在将来无人车、无人工厂、无人码头等众多无人值守系统里,当我们没有很大把握的情况下,在传感器误报、数据被污染的情况下,最后的控制权和决定权应该留给机器还是人?

人工智能时代的“畅销服装”

周鸿祎讲的第二件事从“逃犯克星张学友”说起,据悉,因为张学友演唱会现场的“人脸识别”技术,警察轻松抓获多名在场逃犯。

不过,周鸿祎提醒大家不要只觉得人脸识别厉害,这一技术本身也存在先天缺陷:黑客们通过研究发现,只要把一种奇怪的条纹打印下来,别在衣服上,就能“屏蔽”掉人脸识别系统,出入自由。

“这种衣服可能会很畅销”,周鸿祎不忘在演讲中调侃。他认为,这还只是不太严重的情况。以小见大,一些无人驾驶的汽车,可能会被马路上‘奇怪’的符号误导,导致严重的交通事故。

为了杜绝这种情况,周鸿祎建议企业在上线系统前,应做好安全检测,做好“实网攻防”。“要用实际的攻击发现问题,而非靠静态的研究证明系统的安全”,周鸿祎还为公司“打广告”:“一定要找我们这些天天吃饱没事干的‘黑客公司’来帮大家做实际的攻防,在我们手里发现问题,比在实践中发现问题可能要好一些。”

周鸿祎为何调侃刘庆峰?

“我要攻击刘庆峰”,谈到第三件事时,周鸿祎开门见山,调侃科大讯飞刘庆峰。据悉,去年人工智能大会期间,两人埋下了“吃包子”的恩怨,刘庆峰爆料周鸿祎在最近的活动中连续吃了11个天津狗不理包子。

不过,“吃包子”恩怨是假,担忧人工智能是真。周鸿祎指出,去年刘庆峰在演讲中播放了用人工智能“伪造” 的视频,引发了他的思考。他在演讲中提醒大家:最近,国外已经有人利用人工智能将不雅视频里的女主角换成女明星。这一技术正引发恐慌,遭到该国政府查封。

“我今天已经不相信朋友圈里的美女了”,周鸿祎说,如果这种工具降低了每个人的做假成本,就可能会出现假新闻、假名人视频。这颠覆了我们过去“百闻不如一见”的固有观念,甚至会在关键时刻带来混乱。

“新加坡正在制定相应的法律”,周鸿祎呼吁我国也应加强对该类问题的重视,防止这样的“工具”流传,引发一系列道德伦理问题。

发布者:腾讯科技,转载请注明出处:http://www.shizihome.com/65383.html

发表评论

电子邮件地址不会被公开。 必填项已用*标注

联系我们

在线咨询:点击这里给我发消息

客服微信:Big-Dream1314

邮件:info@shizihome.com

工作时间:周一至周五,9:30-18:30,节假日休息

QR code