程序流程图:
![](https://box.kancloud.cn/2016-04-21_57187d6e43044.jpg)
Hierarchical(MIN)核心功能函数,采用vector<vector<float> >::dTable存储两点之间的距离。计算每两个point间的距离并保存到distance table中;判断是否达到需要聚类的cluster数量,若是,将point信息写入clustering文件,程序结束。否则,合并两个具有最小距离的point,将两个point中的所有node全部加入到一个point中,删除拷贝node数组后的多余point,跟新dataset数组。然后更新distance table,删除被合并point对应的distance table中行与列,进入下一步循环。
~~~
/*
K-means Algorithm
15S103182
Ethan
*/
#include <iostream>
#include <sstream>
#include <fstream>
#include <vector>
#include <iterator>
#include <cmath>
#include <stack>
#include <limits>
using namespace std;
class node{
public:
float x;
float y;
node(float a,float b){
x = a;
y = b;
}
};
class point{
public:
float x;
float y;
vector<node> nds;
point (float a,float b){
x = a;
y = b;
node t(a,b);
nds.push_back(t);
}
};
float stringToFloat(string i){
stringstream sf;
float score=0;
sf<<i;
sf>>score;
return score;
}
vector<point> openFile(const char* dataset){
fstream file;
file.open(dataset,ios::in);
if(!file)
{
cout <<"Open File Failed!" <<endl;
vector<point> a;
return a;
}
vector<point> data;
while(!file.eof()){
string temp;
file>>temp;
int split = temp.find(',',0);
point p(stringToFloat(temp.substr(0,split)),stringToFloat(temp.substr(split+1,temp.length()-1)));
data.push_back(p);
}
file.close();
cout<<"Read data successfully!"<<endl;
return data;
}
float squareDistance(point a,point b){
return sqrt((a.x-b.x)*(a.x-b.x)+(a.y-b.y)*(a.y-b.y));
}
void HierarchicalClustering(vector<point> dataset,int clusters){
//Similarity table:distance table
vector<vector<float> > dTable;
for(int i=0;i<dataset.size();i++){
vector<float> temp;
for(int j=0;j<dataset.size();j++){
if(j>i)
temp.push_back(squareDistance(dataset[i],dataset[j]));
else if(j<i)
temp.push_back(dTable[j][i]);
else
temp.push_back(0);
}
dTable.push_back(temp);
}
int len = dataset.size();
cout<<"len:"<<len<<endl;
while(dataset.size()>clusters){
//Merge two closest clusters
float minDt =INT_MAX;
int mi,mj;
for(int i=0;i<dTable.size();i++){
for(int j=i+1;j<dTable[i].size();j++){
if(dTable[i][j]<minDt){
minDt = dTable[i][j];
mi = i;
mj = j;
}
}
}
for(int i=0;i<dataset[mj].nds.size();i++){
dataset[mi].nds.push_back(dataset[mj].nds[i]);
}
//rm
vector<point>::iterator imj = dataset.begin();
imj += mj;
dataset.erase(imj);
//Update the dTable
for(int j=0;j<dTable.size();j++){
if(j==mi||j==mj) continue;
if(dTable[mi][j]>dTable[mj][j]){
dTable[mi][j] = dTable[mj][j];
dTable[j][mi] = dTable[mi][j];
}
}
//rm
vector<vector<float> >::iterator ii = dTable.begin();
ii += mj;
dTable.erase(ii);
for(int i=0;i<dTable.size();i++){
vector<float>::iterator ij = dTable[i].begin();
ij += mj;
dTable[i].erase(ij);
}
}
fstream clustering;
clustering.open("clustering.txt",ios::out);
for(int i=0;i<dataset.size();i++){
for(int j=0;j<dataset[i].nds.size();j++)
clustering<<dataset[i].nds[j].x<<","<<dataset[i].nds[j].y<<","<<i+1<<"\n";
}
cout<<dataset.size();
clustering.close();
}
int main(int argc, char** argv) {
vector<point> dataset = openFile("dataset3.txt");
HierarchicalClustering(dataset,15);
return 0;
}
~~~
数据文件格式:(x,y)
运行结果格式:(x,y,cluster)
具体文件格式见DBSCAN篇:http://blog.csdn.net/k76853/article/details/50440182
图形化展现:
![](https://box.kancloud.cn/2016-04-21_57187d6e5a775.jpg)
总结:
Hierarchical(MIN)算法能够很好处理非圆形状的数据。但对于噪音和离群点,Hierarchical(MIN)算法具有局限性。由于层次聚类具有不可恢复性,一旦聚类,就难以撤销聚类操作,刚开始编码的时候走了不少弯路,后来果断决定用数组存储node信息,方便cluster合并。对于近邻表的更新,也遇到一点小麻烦,由于二级指针对于行列的删除比较复杂,果断采用动态数组vector来存储距离信息,二级vector对于行的删除非常直接简单,对于列的删除也只需O(n)操作,比较简洁高效。
- 前言
- 插入排序
- 归并排序
- 快速排序
- 最长公共子序列
- 斐波那契数列-台阶问题
- 求n*n阶矩阵最大子矩阵阶数
- 01背包
- 整数序列合并问题
- 动态规划算法的一般解题思路
- 01背包-近似算法
- 树搜索策略
- 求数组中的逆序对
- 并行机器最短调度问题
- 随机算法
- 判断两多项式之积是否等于另一多项式
- 顶点覆盖问题
- Apriori算法 (Introduction to data mining)
- 聚类算法-DBSCAN-C++实现
- 聚类算法-K-means-C++实现
- 聚类算法-Hierarchical(MIN)-C++
- 爬山法、分支限界法求解哈密顿环问题
- Best-First求解八数码问题
- Naive Bayesian文本分类器