论文全名为Variable Selection with Rigorous Uncertainty Quantification using Deep Bayesian Neural Networks

算法:

Step 1:根据数据维度和数据个数给出了网络的复杂程度规定

Step 2:训练神经网络

Step 3:利用神经网络对每个变量Xi 求导,导数的估计为整个数据集中求出的导数的平均值

Step 4:对导数的估计量进行改动使其变为无偏估计

Step 5:给出导数估计量的抽样分布,利用假设检验做特征选择

 

长处:

1.给出了导数的计算方法,使得神经网络中可以引入relu等激活函数

2.给出了网络大小与数据维度之间的关系,对网络设计有一定好处

 

缺点

1.虽然给出了多重比较的假设检验,但并没有详细阐述多重比较方法。

   只给出了多个变量导数的概率分布,若想依靠此分布去做特征选择,则要遍历所有情况,且可能有很多个结果

2.在模型变量较少时效果并不是很好

 

后续应做的工作

1.对贝叶斯网络不是很熟,应该去试着写一下

2.关于导数修改使其变成无偏估计并没有完全搞懂

3.各种分布和理论的证明没有细看

版权声明:本文为shensobaolibin原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接和本声明。
本文链接:https://www.cnblogs.com/shensobaolibin/p/12133585.html