COMP5318 Week 10 Tutorial 聚类手算总结(Transformer 不考)
COMP5318 W10 考点速成:聚类手算练习(Transformer 不考)
用时约 10 分钟。本周讲义 Transformer 整周不考(Ed 帖 187、212),只保留 Tutorial 10 的聚类手算,是 W09 聚类的配套练习。
一、知识点(三条够用)
- K-means 一轮:用初始质心把所有点分配完,再逐坐标取平均更新质心;比较平方距离就够。
- Single link 取跨簇最小距离,complete link 取最大距离;每次合并后用原始点对距离更新矩阵。
- Single link 容易「链」成不平衡的大簇;complete link 偏紧凑、平衡。
二、考点
flowchart BT
subgraph S["Single link"]
a1["A"] --> ae["AE (1)"]
e1["E"] --> ae
ae --> abe["ABE (2)"]
b1["B"] --> abe
abe --> abce["ABCE (3)"]
c1["C"] --> abce
abce --> all1["全部 (4)"]
d1["D"] --> all1
end
subgraph C["Complete link"]
a2["A"] --> ae2["AE (1)"]
e2["E"] --> ae2
b2["B"] --> bc["BC (3)"]
c2["C"] --> bc
bc --> bcd["BCD (5)"]
d2["D"] --> bcd
ae2 --> all2["全部 (10)"]
bcd --> all2
end
- ★★★ 写出每一步合并和更新后的矩阵(大题按步骤给分)。
- ★★ 同一份矩阵 single 和 complete 的合并顺序可能完全不同。
- ★ 检查平局。
三、题目
下面 Q2、Q4 用同一个距离矩阵:
| A | B | C | D | E | |
|---|---|---|---|---|---|
| A | 0 | 2 | 7 | 10 | 1 |
| B | 2 | 0 | 3 | 4 | 6 |
| C | 7 | 3 | 0 | 5 | 9 |
| D | 10 | 4 | 5 | 0 | 8 |
| E | 1 | 6 | 9 | 8 | 0 |
Q1(T10 Ex.1) 同上矩阵但 D–E = 1,初始质心 A、B,K-means 第一轮分配?
C(7 vs 3)→ B,D(10 vs 4)→ B,E(1 vs 6)→ A。{A, E}、{B, C, D}。只有距离矩阵、没有坐标,算不了均值,所以不更新质心。
Q2(T10 Ex.2) 用 single link 做凝聚聚类,写出合并顺序和高度。
- {A}+{E},高度 1;更新:到 B
,到 C ,到 D 。 - {A,E}+{B},高度 2;更新:到 C
,到 D 。 - {A,B,E}+{C},高度 3;到 D
。 - {A,B,C,E}+{D},高度 4。
Q3(T10 Ex.3) A(1,1)、B(1,3)、C(4,2)、D(8,6)、E(10,6),初始质心 A、D,做一轮 K-means。
平方距离到 A / D:A 0 / 74,B 4 / 58,C 10 / 32,D 74 / 0,E 106 / 4 → {A, B, C}、{D, E}。 新质心
(2, 2), (9, 6)。
Q4(T10 Ex.4) 同一矩阵用 complete link,写出合并顺序和高度。
- {A}+{E},高度 1;更新:到 B
,到 C ,到 D 。 - 最小是 B–C = 3 → {B}+{C},高度 3;更新:{A,E}–{B,C}
,{B,C}–D 。 - {B,C}+{D},高度 5。
- {A,E}+{B,C,D},高度
。
Q5(对比) Q2 和 Q4 最后两大簇分别是什么?
Single:{A,B,C,E} 与 {D}(最后高度 4);complete:{A,E} 与 {B,C,D}(最后高度 10)。