【发布时间】:2015-01-03 16:33:37
【问题描述】:
我正在尝试使用 Weka 对一组数据进行 K-Means 聚类,检查不同的权重如何影响不同的属性。
但是,当我调整每个属性的权重时,我没有看到聚类有任何差异。
//Initialize file readers
...
Instances dataSet = readDataFile(dataReader);
double[][] modifiers = readNormalizationFile(normReader, dataSet.numAttributes());
normalize(dataSet, modifiers);
SimpleKMeans kMeans = new SimpleKMeans();
kMeans.setPreserveInstancesOrder(true);
int[] clusters = null;
try
{
System.out.println(kMeans.getSeed());
if(distMet != 0)
kMeans.setDistanceFunction(new ManhattanDistance(dataSet));
kMeans.setNumClusters(k);
kMeans.buildClusterer(dataSet);
clusters = kMeans.getAssignments();
}
//Print clusters
“修饰符”数组的第一个维度对应每个属性,每个属性中有两个值。从属性值中减去第一个,然后将结果除以第二个值。
标准化是这样的:
public static void normalize(Instances dataSet, double[][] modifiers)
{
for(int i = 0; i < dataSet.numInstances(); i++)
{
Instance currInst = dataSet.instance(i);
double[] values = currInst.toDoubleArray();
for(int j = 0; j < values.length; j++)
{
currInst.setValue(j, (values[j] - modifiers[j][0]) / modifiers[j][1]);
}
}
}
我的期望是增加第二次归一化应该会降低特定属性对聚类的重要性,从而改变聚类的分配方式,但这不是我所观察到的。我的调试器显示正确的标准化值正在发送到集群器中,但我很难相信是 Weka 而不是我搞砸了。
我是否正确使用了 Weka 的 K-Means,还是遗漏了一些重要的东西?
【问题讨论】:
-
Weka 通常会自动规范化您的数据,从而破坏权重。试试 ELKI。
-
虽然 Weka 确实为我规范了数据,但我没有时间废弃所有代码并使用另一个框架重新启动。正如下面的答案所说,告诉 Weka 不要正常化会更有意义。
标签: java cluster-analysis weka data-mining k-means