nn_vis神经网络可视化

[ziwang-com]

https://github.com/julrog/nn_vis
人工神经网络是人工智能研究的一个热门领域。大型模型的尺寸和复杂性不断增加带来了某些问题。神经网络内部工作原理缺乏透明度，因此很难为不同的任务选择有效的架构。事实证明，解决这些问题具有挑战性，并且由于缺乏对神经网络的有见地的表示，这种事态变得根深蒂固。考虑到这些困难，引入了一种新颖的3D可视化技术。经过训练的神经网络的属性是利用神经网络优化领域的既定方法估计的。批量归一化与微调和特征提取一起使用，以估计神经网络不同部分的重要性。将重要性值与各种方法（如边缘捆绑、光线追踪、3D 冒名顶替者和特殊的透明度技术）相结合，生成代表神经网络的 3D 模型。证明了提取的重要性估计的有效性，并探索了所开发的可视化的潜力。