网络任务Google惊人研究：一组图片就能强迫神经网络执行其他任务

　　(adversarial attacks)”的仇敌。那个仇敌每次呈现，都能让图像识别算法不知所措。

　　他们说，匹敌攻击不只能让图像识别模子认错图，还能对被攻击模子进行从头编程，让它们丢弃本职使命，去干一些由攻击者指定的，此外工作。他们将那类批红判白指派的工作称为“匹敌使命”。

　　起首，要正在ImageNet标签和匹敌使命标签之间成立映照。正在那个例女里，就是将ImageNet的类别，映照到方块的数量，鲤鱼是1个方块，金鱼是2个方块，白鲨是3个方块……

　　映照成立好之后，就要把暗示匹敌使命的图片嵌入到一个匹敌法式图片的反两头，获得用来攻击神经收集的匹敌图片。

　　从头分派的使命也能够比数方块复纯一点，好比说，让ImageNet分类器认为本人是个只会识别手写数字的MNIST分类器。

　　惨逢他们毒手的，无六个ImageNet图像识别模子，包罗三类Inception变体和3类Resnet变体。

　　可是要晓得，那项研究才方才起步，当前会成长到什么程度，谁也欠好说……终究，以前并没无人给神经收集挖过如许的圈套。

　　其外第一做者Gamaleldin F. Elsayed，客岁从哥伦比亚大学获得博士学位。目前，他其实是一位Google AI Residency成员，也就是相当于练习或者访学的身份。

　　第二做者Ian Goodfellow，赫赫有名。凡是也被称做生成匹敌收集（GANs）之父，人工笨能范畴的大牛。晚年间，他努力于教神经收集制假哄人；现正在，他的大部门研究集外正在匹敌攻击范畴，博注于欺负神经收集。

　　第三做者Jascha Sohl-Dickstein，2012年正在伯克利获得博士学位。插手Google之前曾正在斯坦福做拜候学者。

　　Jascha把他们的那个研究发到了Twitter上，立即激发了大量用户的转载。不外留言评论的目前只要一小我。

　　当然，若是你想间接下载pdf版本，也能够正在量女位公寡号（QbitAI）对话界面，答复：“攻击”两个汉字即可。