【问题标题】:How can I select features for Symbolic Regression如何为符号回归选择特征
【发布时间】:2021-05-25 11:39:12
【问题描述】:

如何为符号回归选择特征? 我有 30 个特征,我只想将最敏感的特征用于符号回归。

作为一个例子,可以使用这个数据集,它类似于我的数据集。 https://scikit-learn.org/stable/modules/generated/sklearn.datasets.load_boston.html

【问题讨论】:

标签: genetic-algorithm genetic-programming deap gplearn


【解决方案1】:

一种可能性是首先使用随机森林来拟合数据,然后选择随机森林认为最重要的特征。

【讨论】:

  • 随机森林认为最重要的特征对于符号回归可能并不重要。是不是?因此,也使用符号回归进行特征选择。但它没有内置模块...
【解决方案2】:

30 个功能并不多。 遗传编程应该能够自动选择最有用的。

当然,您不应该使用常量。使用常量可能会允许将一些不重要的特征与一个非常小的常量相乘,从而将它们包含在最终表达式中。

但是,很难完全排除常量。例如,如果你使用除法运算符,它会产生一个副作用:x/x = 1,如果你有常数 1,那么你可以得到 1+1,然后 1/(1+1) 和等等……

无论如何,你有一些数据可以测试吗? 我维护一个实现 GP 变体(多表达式编程)的免费软件。如果您将数据发送给我,我可以运行它们,或者您自己从我的网站尝试:https://mepx.org

更新:我已经在波士顿房价数据集上运行了我的程序,并且我从仅具有 8 个特征的预期输出中获得了大约 4% 的误差。附上截图。但是,我不太确定程序是否不尝试自己发现一些常量,因为解决方案太长(有 37 条指令)。

【讨论】:

    猜你喜欢
    • 2021-06-10
    • 2019-10-08
    • 2018-08-08
    • 2017-11-15
    • 2022-01-06
    • 2018-02-27
    • 2013-03-07
    • 2015-05-21
    • 2020-05-01
    相关资源
    最近更新 更多