【问题标题】:R: Training and Test Set take on different values for Categorical Explanatory Variable: Logistic RegressionR:训练集和测试集对分类解释变量采用不同的值:逻辑回归
【发布时间】:2019-04-08 10:48:44
【问题描述】:

我正在尝试预测基因变体所属的类别。我的数据框在我的代码中称为遗传。我将我的数据框拆分为训练和测试数据集,如下所示:

set.seed(1)
train=sample(54248,27124)
test=-train
Genetictrain=Genetic[train,]
Genetictest=Genetic[test,]

问题是我的一个解释变量(分类变量,数据框的列之一)在训练集(Genetictrain)和测试集(Genetictest)中具有不同的值。解释变量称为Genetic$Consequence。 Genetic$Consequence 的级别为:

 [1] "3_prime_UTR_variant"                                           
 [2] "5_prime_UTR_variant"                                           
 [3] "downstream_gene_variant"                                       
 [4] "frameshift_variant"                                            
 [5] "frameshift_variant&splice_region_variant"                      
 [6] "frameshift_variant&start_lost"                                 
 [7] "frameshift_variant&start_lost&start_retained_variant"          
 [8] "frameshift_variant&stop_lost"                                  
 [9] "frameshift_variant&stop_retained_variant"                      
[10] "inframe_deletion"                                              
[11] "inframe_deletion&splice_region_variant"                        
[12] "inframe_insertion"                                             
[13] "inframe_insertion&splice_region_variant"                       
[14] "intergenic_variant"                                            
[15] "intron_variant"                                                
[16] "intron_variant&non_coding_transcript_variant"                  
[17] "missense_variant"                                              
[18] "missense_variant&splice_region_variant"                        
[19] "protein_altering_variant"                                      
[20] "splice_acceptor_variant"                                       
[21] "splice_acceptor_variant&coding_sequence_variant"               
[22] 
"splice_acceptor_variant&coding_sequence_variant&intron_variant"
[23] "splice_acceptor_variant&intron_variant"                        
[24] "splice_donor_variant"                                          
[25] "splice_donor_variant&coding_sequence_variant"                  
[26] "splice_donor_variant&coding_sequence_variant&intron_variant"   
[27] "splice_donor_variant&intron_variant"                           
[28] "splice_region_variant&3_prime_UTR_variant"                     
[29] "splice_region_variant&5_prime_UTR_variant"                     
[30] "splice_region_variant&coding_sequence_variant&intron_variant"  
[31] "splice_region_variant&intron_variant"                          
[32] "splice_region_variant&synonymous_variant"                      
[33] "start_lost"                                                    
[34] "start_lost&5_prime_UTR_variant"                                
[35] "start_lost&splice_region_variant"                              
[36] "stop_gained"                                                   
[37] "stop_gained&frameshift_variant"                                
[38] "stop_gained&inframe_deletion"                                  
[39] "stop_gained&inframe_insertion"                                 
[40] "stop_gained&protein_altering_variant"                          
[41] "stop_gained&splice_region_variant"                             
[42] "stop_lost"                                                     
[43] "stop_lost&3_prime_UTR_variant"                                 
[44] "stop_retained_variant"                                         
[45] "stop_retained_variant&3_prime_UTR_variant"                     
[46] "synonymous_variant"   
[47] "TF_binding_site_variant"                                       
[48] "upstream_gene_variant"  

但是:当我对训练数据 (Genetictrain) 运行逻辑回归时,我得到了错误:

Error in model.frame.default(Terms, newdata, na.action = na.action, xlev = object$xlevels) : 
  factor Consequence has new levels frameshift_variant&stop_retained_variant, protein_altering_variant, splice_acceptor_variant&coding_sequence_variant, start_lost&splice_region_variant, stop_retained_variant&3_prime_UTR_variant

我的逻辑回归代码是:

Logisticfit=glm(CLASS~AF_TGP + Consequence + CHROM + AF_ESP+STRAND + AF_EXAC + CADD_RAW + LoFtool + CADD_PHRED,data=Genetictrain,family="binomial")
LogisticProb=predict(Logisticfit,Genetictest,type="response")

错误结果(使用上面的预测函数运行代码)是因为训练集Genetictrain 没有出现任何Consequence 的蛋白质改变变体,但Genetictest 确实出现了Consequence 的蛋白质改变变体:

which(Genetictrain$Consequence=="protein_altering_variant")
integer(0)
 which(Genetictest$Consequence=="protein_altering_variant")
[1] 10720

错误产生的其他值也是如此。

有什么办法可以规避这个问题,这样我就可以运行预测函数而不会收到错误(注意我的解释变量是分类变量和连续变量,我试图预测二进制 0 或 1 的 CLASS)?结果是我要保留的重要解释变量,因此我不想删除它。
谢谢!

【问题讨论】:

标签: r machine-learning statistics logistic-regression categorical-data


【解决方案1】:

刚刚检查了您的数据框。数据集不匹配

引发的问题

训练数据集和测试数据集在Genetic$consequence 中的信息不同。

检查以下代码:

data.frame(table(Genetic$Consequence))%>%setNames(.,c("Consequnce","Freq"))%>%arrange(Freq)

输出:

                                                       Consequnce  Freq
1            frameshift_variant&start_lost&start_retained_variant     1
2                        frameshift_variant&stop_retained_variant     1
3                         inframe_insertion&splice_region_variant     1
4                    intron_variant&non_coding_transcript_variant     1
5    splice_region_variant&coding_sequence_variant&intron_variant     1
6                                  start_lost&5_prime_UTR_variant     1
7                                    stop_gained&inframe_deletion     1
8                                   stop_gained&inframe_insertion     1
9                            stop_gained&protein_altering_variant     1

频率的后果有 9 种类型,1 表示如果您拆分将进入训练或测试数据集的数据帧。

示例 比如说“frameshift_variant&start_lost&start_retained_variant”只有一行在 Genericdata$consequence 中,所以当你划分数据帧时,它将进入训练或测试数据集。如果训练数据集中的那一行,那么对于测试数据集中没有行。仅此而已,它会返回错误。

解决方案: 尝试使用 1 获取更多频率变量(意味着只有一行存在,因此需要至少 2 个用于一列火车,一个用于测试数据集) 要么 你可以对数据集进行子集化,比如频率低的数字,这样你就可以在训练和测试数据集中轻松获取信息。

【讨论】:

  • 我可以在将数据帧拆分为训练或测试数据集之前删除与这些频率 1 对应的行吗?还是这不是一个好习惯?
  • 是的,您可以在拆分之前对数据集进行子集化并尝试一次。如果仍然无效,请在此处发布错误
  • 在拆分之前请注意Genetic$Consequence的类,它必须是因子格式并且拆分好的方法ind<-sample(2,nrow(Genetic),replace = T,prob=c(0.7,0.3)) Genetictrain<-Genetic[ind==1,] Genetictest<-Genetic[ind==2,]
猜你喜欢
  • 2015-04-10
  • 2015-01-07
  • 2020-02-25
  • 2018-12-29
  • 1970-01-01
  • 2016-01-31
  • 2016-04-04
  • 1970-01-01
  • 2016-02-01
相关资源
最近更新 更多