为实际应用寻找好的神经网络架构的资源

Question

我已经完成了两门神经网络课程，并就该主题进行了大量阅读。我对 Tensorflow 和 Keras 以及构建高级神经网络（多输入、大数据、特殊层......）感到满意。我对底层数学也有相当深刻的理解。

我的问题是我知道如何构建神经网络，但不知道“专家”为特定应用程序创建神经网络的过程。

我可以：

• 收集大量数据并进行清理。
• 训练神经网络。
• 微调超参数。
• 将其导出以用于实际应用。

我缺少的是如何提出神经网络中的层（多宽，什么样的......）。我知道这有点反复试验，看看对别人有用的东西。但是必须有一个过程，人们可以使用它来提出实际上运行良好的架构*。例如最先进的神经网络。

我正在寻找一种免费资源，可以帮助我了解创建一个非常好的架构的过程*。

*我所说的架构是指构成网络的不同层及其属性

Answer 1

我写了关于这个主题的硕士论文：

托马斯，马丁。 “Analysis and Optimization of Convolutional Neural Network Architectures。” arXiv 预印本 arXiv:1707.09725 (2017)。

长话短说：有几种分析技术（第 2.5 章）和学习拓扑的算法（第 3 章），但在实践中主要是反复试验/直觉。