シラバス参照

講義概要/Course Information

2025/05/12 現在

科目基礎情報/General Information

授業科目名 /Course title (Japanese)	統計的機械学習特論
英文授業科目名 /Course title (English)	Advanced Statistical Machine Learning
科目番号 /Code
開講年度 /Academic year	2022年度	開講年次 /Year offered	全学年
開講学期 /Semester(s) offered	後学期	開講コース・課程 /Faculty offering the course	博士前期課程、博士後期課程
授業の方法 /Teaching method	講義	単位数 /Credits	2
科目区分 /Category	大学院専門教育科目 - 専門科目Ⅱ
開講類・専攻 /Cluster/Department	情報・ネットワーク工学専攻
担当教員名 /Lecturer(s)	○川野　秀一
居室 /Office	非常勤のためなし
公開E-mail /e-mail	skawano@math.kyushu-u.ac.jp
授業関連Webページ /Course website	https://sites.google.com/site/shuichikawanoja/lecture
更新日 /Last update	2022/10/05 21:51:59	更新状況 /Update status	公開中 /now open to public

講義情報/Course Description

主題および 達成目標（2,000文字以内） /Themes and goals（up to 2,000 letters）	膨大な量のデータが蓄積され続けている今日において、データ解析技術の需要は高まる一方である。本講義では、データ解析方法の一手段である統計的学習について学ぶ。とくに、統計的学習を数理的に理解することを目標とし、統計的モデル構築の考え方およびその推定法の基本的概念を身につける。 Data analysis has received much attention in recent years, because various fields of data have been collected and stored. In this class, I introduce several methods on statistical machine learning. In particular, the aim of this lecture is to be able to construct statistical models given data and to understand statistical thinking.
前もって履修 しておくべき科目（1,000文字以内） /Prerequisites（up to 1,000 letters）	確率・統計、線形代数学、微分積分学に関する科目 Probability and Statistics, Linear algebra, Calculus
前もって履修しておくこ とが望ましい科目（1,000文字以内） /Recommended prerequisites and preparation（up to 1,000 letters）	最適化に関する科目 Optimization
教科書等（1,000文字以内） /Course textbooks and materials（up to 1,000 letters）	資料を配付する。 Lecture materials will be distributed. 参考書として以下を挙げておく。 Reference books are given as follows. ・James, G., Witten, D., Hastie, T., Tibshirani, R. (2012) An Introduction to Statistical Learning. Springer. (The PDF file can be downloaded from https://www.dropbox.com/s/krvhmt7z8zxhl7f/ISLRv2_website.pdf?dl=0) ・Hastie, T., Tibshirani, R., Friedman, J. (2009) The Elements of Statistical Learning. Springer. (The PDF file can be downloaded from https://web.stanford.edu/~hastie/ElemStatLearn/printings/ESLII_print12_toc.pdf) ・小西貞則 (2010) 多変量解析入門. 岩波書店. ・Konishi, S. (2014) Introduction to Multivariate Analysis: Linear and Nonlinear Modeling. CRC Press. ・Bishop, C. M. (2006) Pattern Recognition and Machine Learning. Springer. (The PDF file can be downloaded from https://www.microsoft.com/en-us/research/uploads/prod/2006/01/Bishop-Pattern-Recognition-and-Machine-Learning-2006.pdf)
授業内容と その進め方（2,000文字以内） /Course outline and weekly schedule（up to 2,000 letters）	(a) 授業内容（Contents） 統計的学習は、教師あり学習と教師なし学習に分類されるが、本講義では教師あり学習について学ぶ。具体的には以下の内容を扱う。 Statistical learning is classified into supervised learning and unsupervised learning. In this class, I introduce supervised learning. The details of contents are given as follows. 第　１回：単回帰モデル 第　２回：重回帰モデル（１）最小２乗法、最小２乗推定量 第　３回：重回帰モデル（２）最小２乗推定量の性質 第　４回：重回帰モデル（３）最尤法、重回帰モデルの幾何学的解釈 第　５回：正則化法 第　６回：L1型正則化法（１）lasso 第　７回：L1型正則化法（２）解パス、ブリッジ、エラスティックネット 第　８回：L1型正則化法（３）連結lasso、グループlasso、計算アルゴリズム（座標降下法、交互方向乗数法） 第　９回：ロジスティクス回帰モデル 第１０回：線形判別、２次判別 第１１回：フィッシャー判別 第１２回：サポートベクトルマシン（１）線形分離可能な状況 第１３回：サポートベクトルマシン（２）サポートベクトルマシンの主問題と双対問題、KKT条件 第１４回：サポートベクトルマシン（３）線形分離不可能な状況、スラック変数 第１５回：サポートベクトルマシン（４）カーネル法、SMOアルゴリズム Week 1: Simple regression model Week 2: Multiple regression model (least squares method, least squares estimator) Week 3: Multiple regression model (property of least squares estimator) Week 4: Multiple regression model (maximum likelihood method, geometrical interpretation of multiple regression model) Week 5: Regularization Week 6: L1-type regularization (lasso) Week 7: L1-type regularization (solution path, bridge, elastic net) Week 8: L1-type regularization (fused lasso, group lasso, computational algorithm (coordinate descent method, alternating direction method of multipliers)) Week 9: Logistic regression model Week 10: Linear discriminant analysis, quadratic discriminant analysis Week 11: Fisher discriminant analysis Week 12: Support vector machine (separable case) Week 13: Support vector machine (primal and dual problems of support vector machine, KKT condition) Week 14: Support vector machine (non-separable case, slack variable) Week 15: Support vector machine (kernel method,  SMO algorithm) (b) 授業の進め方（Procedure of lecture） Zoom により行う。講義資料は Google Classroom を通して配付する。英語タイプⅠI（Cb）により講義を実施する。 Lecture materials will be distributed through Google Classroom. Based on the lecture materials, I will teach classes. The class will be held by the english type II (Cb).
実務経験を活かした 授業内容 (実務経験内容も含む) /Course content utilizing practical experience
授業時間外の学習 （予習・復習等）（1,000文字以内） /Preparation and review outside class（up to 1,000 letters）	(a) 予習（preparation） 講義資料は遅くても講義日前日までに Google Classroom を通して配付する。講義資料を事前にダウンロードし、各自予習を行って欲しい。 Lecture materials will be distributed via Google Classroom by the day before the lecture at the latest. Download the lecture materials in advance and do your own preparation. (b) 復習（review） 配付した資料をよく復習して欲しい。また、参考書を挙げているので、興味のある内容については適宜学習して欲しい。 Review the handouts carefully. Study interesting contents that you are from reference books.
成績評価方法 および評価基準 （最低達成基準を含む） （1,000文字以内） /Evaluation and grading （up to 1,000 letters）	(a) 成績評価方法（evaluation） レポート (100%) により評価する。 Evaluation will be based on the reports. (b) 評価基準（grading） 以下の到達をもって合格の最低基準とする。 ● 回帰モデルに対して、正則化最小二乗推定量や正則化最尤推定量、およびその簡単な性質を計算することができる。 ● 判別モデルに対して、その導出方法を計算することができる。 The following achievement shall be the minimum standard for passing the course. ・For regression models, regularized least squares and regularized maximum likelihood estimators and their properties can be computed. ・For discriminant models, the derivations can be computed.
オフィスアワー： 授業相談（1,000文字以内） /Office hours（up to 1,000 letters）	適宜相談に応じる。メール（skawano@ai.lab.uec.ac.jp）に連絡すること。 Contact by e-mail.
学生へのメッセージ（1,000文字以内） /Message for students（up to 1,000 letters）	ビッグデータの出現によって、データ解析技術が大きな注目を集めています。本講義を通して、モデリング技術を身に付け、自由にモデリングできるようになってください。 With the advent of big data, data analysis has received much attention. In this class, study statistical modeling to analyze big data.
その他 /Others	なし Non.
キーワード /Keywords	統計モデル、機械学習、多変量解析、教師あり学習 Statistical model, Machine learning, Multivariate analysis, Supervised learning