CSYS5030 Week 03 What is Information? I 讲课总结
CSYS5030 Module 3 讲课总结。整理 Scissors-Paper-Rock 数据分析中「样本混池」的陷阱、cross-entropy 与 KL divergence、互信息的定义与六种解读、pointwise mutual information 及其可为负的 misinformation,以及 Seinfeld 英文文本中相邻字符互信息的实测结果。
CSYS5030 Module 3 讲课总结。整理 Scissors-Paper-Rock 数据分析中「样本混池」的陷阱、cross-entropy 与 KL divergence、互信息的定义与六种解读、pointwise mutual information 及其可为负的 misinformation,以及 Seinfeld 英文文本中相邻字符互信息的实测结果。
COMP5318 Week 04 讲课总结,整理贝叶斯定理与先验/后验/似然、朴素贝叶斯的两条假设与完整算例、零频问题与 Laplace 平滑、缺失值处理、数值属性的高斯朴素贝叶斯,以及模型评估的 holdout / 分层 / 重复 holdout / 十折交叉验证 / 留一法、网格搜索调参,与混淆矩阵、accuracy、precision、recall、F1。
COMP5318 Week 03 讲课总结,整理简单/多元线性回归与最小二乘法、三类误差 SSE/SST/SSR 与决定系数 R²、MAE/MSE/RMSE、逻辑回归的 sigmoid 曲线与最大似然、log-odds 线性形式,以及过拟合与欠拟合、模型复杂度与泛化的权衡、Ridge(L2)与 Lasso(L1)正则化。