阅读论文《Is Neuron Coverage a Meaningful Measure for Testing Deep Neural Networks?》。记录阅读笔记。

全文内容总结：

在以往研究中，基于增加NC可以提高测试集质量的隐含假设，NC被用于指导测试生成。

本文设计了一种新的促进多样性的正则化算法，该算法可以嵌入现有的对抗性攻击算法（CW、PGD）中。并评估增加NC是否能生成测试套件满足：

结果却发现：增加NC会使生成有效测试套件更困难，即更高的NC会导致检测到的缺陷更少、自然输入更少、预测偏好更有偏差。

最后，作者呼吁一种新的测试生成技术，能同时考虑缺陷检测、自然性和输出公正性。

算法思想：

本文的正则化算法通过惩罚倾斜的层状激活而促进更多不同的神经激活分布，将所有神经元吸引到平均激活程度（在现有对抗性攻击中增强）。即诱导先前不活跃的神经元放电，从而增加NC（将NC增加和多样化纳入优化目标）。

评估标准：

所使用的数据集、模型和算法：

总共生成了2095个测试套件，超过200,000图像。

结论：

讨论：

对DeepXplore和DeepTest生成的测试套件进行了类似分析，从单个神经元的意义大小对NC的意义进行了讨论，列出了支持论文结果的分析。