【问题标题】:Heterodox use of Deep Learning to find hidden patterns异端使用深度学习来寻找隐藏模式
【发布时间】:2016-04-16 21:17:13
【问题描述】:

对于我在一项分析中应用的策略,我非常感谢您的 cmets/帮助。简而言之,我的情况是:

1) My data have biological origin, collected in a period of 120s, from a
 subject receiving, each time, one of possible three stimuli (response label 1
 to 3), in a random manner, one stimulus per second (trial). Sampling 
 frequency is 256 Hz and 61 different sensors (input variables). So, my 
 dataset has 120x256 rows and 62 columns (1 response label + 61 input 
 variables);
2) My goal is to identify if there is an underlying pattern for each stimulus.
 For that, I would like to use deep learning neural networks to test my
 hypothesis, but not in a conventional way (to predict the stimulus from a
 single observation/row).
3) My approach is to divide the whole dataset, after shuffling per row
 (avoiding any time bias), in training and validation sets (50/50) and then to
 run the deep learning algorithm. The division does not segregate trial events
 (120), so each training/validation sets should contain data (rows) from the
 same trial (but never the same row). If there is a dominant pattern per
 stimulus, the validation confusion matrix error should be low. If there is a
 dominant pattern per trial, the validation confusion matrix error should be
 high. So, the validation confusion matrix error is my indicator of the
 presence of a hidden pattern per stimulus;

如果您能就我的逻辑的有效性提供任何意见,我将不胜感激。我想强调一下,我并不是要根据行输入来预测刺激。

谢谢。

【问题讨论】:

    标签: machine-learning deep-learning neuroscience


    【解决方案1】:

    是的,您可以使用交叉验证集中的分类性能,超过证明每个类的示例中存在模式或关系的机会。如果在一个单独的、前所未见的测试集中找到类似的性能,这个论点就会更有说服力。

    如果深度神经网络、SVM 或任何其他分类器的分类效果优于偶然性,则意味着:

    1. 关于每个预测类的训练集示例之间存在信息(一种模式)
    2. 并且该模式可被分类器学习
    3. 并且该信息并非特定于训练集(没有过度学习

    因此,如果分类性能超过机会,则上述 3 个条件为真。如果不是,那么一个或多个条件可能是错误的。训练变量可能不包含任何有助于预测类别的信息。或者选择了预测变量,但是它们与类之间的关系太复杂,分类器无法学习。或者分类器过度学习,并且 CV 集的性能处于机会级别或更差。

    这是一篇论文(开放获取),它使用类似的逻辑来论证 fMRI 活动包含有关人们正在查看的图像的信息:

    Natural Scene Categories Revealed in Distributed Patterns of Activity in the Human Brain

    注意:根据使用的分类器(尤其是 DNN,但决策树较少),这只会告诉您是否存在模式,它不会告诉您该模式是什么。

    【讨论】:

    • 感谢您的回答和文章。我完全同意你的观点。我面临的主要批评与如何 DNN 正确猜测响应标签有关。一旦每个试验事件没有隔离(来自同一试验/事件的不同行/观察可以属于训练和验证集),据说 DNN 正在根据它所属的试验“找到”正确的类(例如。通过相似性)而不是通过刺激。我已经测试了这两种情况并构建了不同的 DNN(不同顺序的变量重要性)。我怎样才能反驳这种怀疑?
    • 啊,污染。有没有一种方法可以确保 CV 集不包含训练集中存在的试验行?例如。划分数据,就好像它来自两个不同的实验一样,例如您正在对来自 exp1 的数据进行训练,并在来自 exp2 的数据上测试 DNN,以便将所有内容分开。
    • 完全隔离会导致偶然错误。但是使用每行输入来预测整个事件(相当于 256 行)似乎并不正确。如果将其视为整个事件,并进行隔离,则错误是一半的机会。我的第二种方法是检查每个试验的行之间的余弦相似度。平均而言,只有 n x n+1 的角度小于 20 度。然后我降低了训练/验证数据集之间的比率(训练的行数更少)。随着预期误差的增长,但即使有 2% 的训练 x 98% 的验证,误差也只有一半的机会。有什么建议/建议吗?
    • 您是否尝试过组合每个事件的后续行,然后将其用作输入,例如在卷积 dnn 中?例如 row1,row2,row3=A, row2,row3,row4=A .... row257,row258,row259=B, r258,r259,r260=B... 等。在示例中,我使用的是窗口大小为 3 行,但您可以尝试不同的窗口大小,最多 256 个。
    • 在我看来您正在尝试进行多通道时间序列分类,例如:staff.ustc.edu.cn/~cheneh/paper_pdf/2014/Yi-Zheng-WAIM2014.pdf
    猜你喜欢
    • 1970-01-01
    • 2022-11-10
    • 2023-04-10
    • 2019-01-24
    • 2018-10-27
    • 2019-09-15
    • 1970-01-01
    • 2023-03-03
    • 2023-03-29
    相关资源
    最近更新 更多