公众号彩色图片可以被用来“欺骗”人工智能
2019-04-24 18:14:05
- +1 你赞过了
【雷竞技须安全稳定 网络频道】当前，人工智能技术已经被应用于监控摄像头中，出现在交通、安防、零售、社区等多个场景。而对抗性样本有可能欺骗神经网络，导致其产生错误的输出。
近日，来自比利时鲁汶大学的研究人员，在预印本平台(arXiv.org)上分享的一篇论文中，研究人员展示了简单的印刷图案如何能够欺骗一个用来识别图像中人物的人工智能系统。
研究人员打印出特别设计的彩色图片并挂在脖子上，从人工智能的角度来看，这可能相当于“隐形斗篷”，也就是说，人工智能检测不出右边的人。
这些类型的图像因其欺骗计算机视觉系统的能力而被称为“对抗性样本”。
正如研究人员写道：“我们相信，如果我们将这项技术与复杂的服装模拟技术相结合，就可以设计出一种T恤印花，它可以让一个人在自动监控摄像头下几乎隐形。”
这可能看起来很奇怪，但实际上是人工智能世界中一个众所周知的现象。这些类型的模式被称为对抗性样本，它们利用计算机视觉系统的缺陷来诱骗它们看到不存在的东西。
在过去，对抗性样本被用来欺骗面部识别系统。许多研究人员警告说，对抗性的例子具有潜在的危险性。例如，它们可以用来欺骗自动驾驶汽车，将停车标志当成路灯柱，或者它们可以欺骗旨在识别疾病的医学人工智能视觉系统，这可能是为了医疗欺诈，甚至是故意造成伤害。
如何对对抗性样本进行有效的防御是很多学者的重要研究课题。不过，到目前为止，研究人员尚未找到针对对抗样本的最佳防御策略，希望在不久之后，该研究领域会出现突破性的进展。
发布
相关文章
本周热门
yu
最新资讯
热门视频
新品评测
热门产品排行榜
编辑推荐排行榜
- 1 H3C S6520X-54XC-UPWR-SI 即将上市
- 2 H3C S6520X-26XC-UPWR-SI 即将上市
- 3 H3C S6520X-26MC-UPWR-SI 即将上市
- 4 H3C S6520X-26MC-SI 即将上市
- 5 华为CloudEngine XH16800-16 即将上市
- 6 华为CloudEngine XH16800-8 即将上市
- 7 H3C S5570S-36F-EI ￥7960
- 8 华为S6720S-S36S16X-A ￥8480
- 9 锐捷网络 RG-S5310-24SFP4XS-E 即将上市
- 10 锐捷网络 RG-S5310-24GT4XS-P-E 即将上市
- 1 锐捷网络 蜂鸟套装H30（1+1） 即将上市
- 2 Juniper ACX5048 即将上市
- 3 Juniper MX80 即将上市
- 4 Juniper MX2020 即将上市
- 5 Juniper MX10008 即将上市
- 6 Juniper MX10003 即将上市
- 7 Juniper MX40 即将上市
- 8 华为AR611W-LTE4CN 即将上市
- 9 TP-LINK TL-R470GP-AC ￥1539
- 10 Juniper PTX10002 即将上市
X
第三方账号登录
-
微博认证登录
-
QQ账号登录
-
微信账号登录
