STAT578

STAT578: Topics in Statistics: High-Dimensional Probability and Statistics, Spring 2015

InstructorXiaohui Chen (Office: Illini Hall 104A).

Lecture (A1): TR 12:30pm –1:50pm, 260 Everitt Elec & Comp Engr Lab.

Syllabus

Announcements:

— Welcome!
— First Day of Class: Jan. 20, 2015, T.
— Last Day of Class: May. 5, 2015, T.

Course Plan/Progress (Tentative)

Week 1                                               Contents
Jan. 20 (T):                                          Introduction
Jan. 22 (R):                                    Efron-Stein inequality

Week 2                                               Contents
Jan. 27 (T):                        Efron-Stein inequality & its applications
Jan. 29 (R):                                     Markov semigroups

Week 3                                               Contents
Feb. 3 (T):                           Poincare inequality and mixing rate
Feb. 5 (R):               Ornstein-Uhlenbeck process, Gaussian Poincare inequality

Week 4                                               Contents
Feb. 10 (T):                    Cramer-Chernoff method, Hoeffding lemma
Feb. 12 (R):                             Azuma-Hoeffding inequality

Week 5                                               Contents
Feb. 17 (T):                                McDiarmid’s inequality
Feb. 19 (R):                    SubGaussian concentration, Bernstein inequality

Week 6                                               Contents
Feb. 24 (T):                    Random projection: Johnson-Lindenstrass lemma
Feb. 26 (R):                           Concentration of quadratic forms

Week 7                                               Contents
Mar. 3 (T):                            Performance bounds of Lasso
Mar. 5 (R):                        Sparse covariance matrix estimation

Week 8                                               Contents
Mar. 10 (T):                          Entropy method, Herbst argument
Mar. 12 (R):                                Log-Sobolev inequality

Week 9                                               Contents
Mar. 17 (T):                 Gaussian log-Sobolev and concentration inequalities
Mar. 19 (R):               Discrete log-Sobolev and bounded difference inequalities

Week 10                                               Contents

                                               Spring vacation, no class

Week 11                                               Contents
Mar. 31 (T):                      Wasserstein distance and relative entropy
Apr. 2 (R):                                  Bobkov-Gotze theorem

Week 12                                               Contents
Apr. 7 (T):               Transportation cost inequality, Monge-Kantorovich duality
Apr. 9 (R):                         Marton tensorization, Talagrand’s inequality

Week 13                                               Contents
Apr. 14 (T):                    Variance bound for suprema of empirical process
Apr. 16 (R):                       Bousquet’s inequality: exponential decay

Week 14                                               Contents
Apr. 21 (T):                       Chaining method, expected value of suprema
Apr. 23 (R):                          Gaussian process, Sudakov inequality

Week 15                                               Contents
Apr. 28 (T):                          Stein’s method, normal approximation
Apr. 30 (R):                                      Berry-Esseen bound

Week 16                                               Contents
May. 5 (T):                         High-dimensional Gaussian approximation