【问题标题】：Building regression using Categorical features使用分类特征构建回归
【发布时间】：2017-05-25 15:12:01
【问题描述】：

我正在尝试使用房价预测作为学习机器学习的实际示例。目前我遇到了关于邻里的问题。

在大多数机器学习示例中，我看到使用了卧室数量、建筑面积、土地面积等特征。直观地说，这些特征与房价有很强的相关性。然而，这不是邻里的情况。假设我为每个社区随机分配了一个 community_id。我无法判断 id 为 100 的社区的房价是否高于或低于 id 为 53 的社区。p>

我想知道我是否需要做一些数据预处理，例如找到每个街区的平均价格然后使用处理后的数据，或者是否有现有的机器学习算法可以从看似不相关的特征中找出关系？

【问题讨论】：

【解决方案1】：

我假设您正试图在具有连续和分类数据的回归模型中解释社区与房价之间的关系。据我记得，R 使用 one-hot 编码自动处理分类变量。

有一些方法可以通过从分类变量创建数据抽象来解决这个问题：

假设您正试图根据建筑面积和街区来预测房价。假设地板空间是连续的，并且邻域是分类的，有 3 个可能的邻域，分别是 A、B 和 C。一种可能性是将邻域编码为 one-hot 向量，并将每个分类变量视为一个新的二元变量：

neighborhood A B C
     A       1 0 0
     B       0 1 0 
     B       0 1 0
     C       0 0 1

回归模型类似于：

y = c0*bias + c1*floor_space + c2*A + c3*B + c4*C

请注意，此邻域变量类似于回归模型中的偏差。每个邻域的系数可以解释为邻域的“偏差”。

2) 从分类到连续

我们将所有邻域到地图上固定点的水平和垂直距离称为 Dx 和 Dy。通过这样做，您可以创建一个将邻域（一个分类变量）转换为两个连续变量的数据抽象。通过这样做，您可以将房价与距您的固定点的水平和垂直距离相关联。

请注意，这仅适用于从分类到连续的转换有意义的情况。

【讨论】：