Statistics

Program Description

Statistics is concerned with the development and use of mathematical and computational methods for the collection, analysis, and interpretation of data in support of scientific inquiry, informed decision-making, and risk management. It calls on a broad range of tools from probability theory to computer-intensive techniques. The main areas of research by statisticians in the ISM network include

  • Bayesian inference and Markov chain Monte Carlo methods
  • causal inference
  • computational statistics
  • dependence modeling and multivariate analysis
  • directional statistics
  • empirical process theory
  • extreme-value analysis
  • high-dimensional data modeling
  • machine learning
  • nonparametric statistics
  • statistical learning
  • survey sampling
  • survival analysis
  • time series

Statistical research is largely motivated by collaboration with other disciplines. It finds applications in many fields, including biology, environmental science, finance and insurance, health sciences, hydrology, market research, and social sciences. With the abundance of very large and complex data sets coming, for example, from the social media and digital processes, financial transactions, astronomy, genomics, meteorology or Big Science like the Giant Hadron Collide, the statistical treatment and analysis of Big Data has become a major challenge of modern statistics.

Program Members

Academic Program

The statistics program gives an opportunity to graduate students to study in these two major areas of modern statistics. The curriculum allows the students to get well acquainted with the basic elements of mathematical statistics, decision theory and applied statistics. Furthermore, advanced graduate courses can be offered in some more specialized areas.

This program welcomes graduate students with a good background in calculus, mathematical statistics, numerical analysis, and probability (all at the undergraduate level). To get strong training in decision theory and mathematical statistics students should take the basic course in measure and integration (for PhD students) and at least three courses at the intermediate and advanced levels.

2020-21 Course Listings

Fall

Topics in Statistics & Probability: Reinforcement Learning

This course is an introduction to reinforcement learning techniques. It requires extensive programming with the R language. Topics covered include: Multi-armed bandit problem, Markov Decision Problems, Dynamic Programming, Monte-Carlo solution methods, Temporal difference methods, Multi-period Approximation methods, Policy gradient.

Prof. Frédéric Godin

MAST 679/2, MAST 881

Institution: Concordia University

Analysis of Extreme Values with Application to Financial Engineering

Extreme events on financial markets are very difficult to predict and few models are capable of accounting for these characteristics. The theory of extreme values is an important statistical discipline allowing for a more proper modeling of rare events.  In this course, we present the theory of extreme values necessary to solve problems in finance, economics and financial engineering.  The analysis tools required to study such data are also studied.  The proper analysis of extreme values, including methods of estimation, quantification of uncertainty, diagnostics, and maximal utilisation of available data are considered.  We also make extensive use of R, a freely available language and environment for statistical computing and graphics.

Prof. Debbie Dupuis

80-622-A

Institution: HEC Montréal

Statistique mathématique avancée

Notions de probabilité : variables aléatoires, lois de probabilité, méthodes de calcul multidimensionnel, notions de convergence et théorèmes limites. Estimation ponctuelle et par intervalles de confiance : définitions, inférence par la méthode du maximum de vraisemblance. Test d'hypothèses : lemme de Neyman-Pearson, tests uniformément les plus puissants, tests basés sur la théorie de la vraisemblance.

Prof. Khader Khadraoui

STT 7115

Institution: Université Laval

Théorie et applications des méthodes de régression

Régression linéaire. Modèles linéaires généralisés. Méthodes de sélection de variables. Validation de modèles. Modèles mixtes. Équations d'estimation généralisées. Couverture des aspects théoriques et mise en oeuvre pratique avec un logiciel statistique de tous ces modèles et méthodes.

Prof. Thierry Duchesne

STT 7125

Institution: Université Laval

Nonparametric Statistics

Distribution free procedures for 2-sample problem: Wilcoxon rank sum, Siegel-Tukey, Smirnov tests. Shift model: power and estimation. Single sample procedures: Sign, Wilcoxon signed rank tests. Nonparametric ANOVA: Kruskal-Wallis, Friedman tests. Association: Spearman's rank correlation, Kendall's tau. Goodness of fit: Pearson's chi-square, likelihood ratio, Kolmogorov-Smirnov tests. Statistical software packages used.

Prof. David Wolfson

MATH 524

Institution: McGill University

Honours Regression and Analysis of Variance

Multivariate normal and chi-squared distributions; quadratic forms. Multiple linear regression estimators and their properties. General linear hypothesis tests. Prediction and confidence intervals. Asymptotic properties of least squares estimators. Weighted least squares. Variable selection and regularization. Selected advanced topics in regression. Applications to experimental and observational data.

Prof. Abbas Khalili Mahmoudabadi

MATH 533

Institution: McGill University

Mathematical Statistics I

Distribution theory, stochastic models and multivariate transformations. Families of distributions including location-scale families, exponential families, convolution families, exponential dispersion models and hierarchical models. Concentration inequalities. Characteristic functions. Convergence in probability, almost surely, in Lp and in distribution. Laws of large numbers and Central Limit Theorem. Stochastic simulation.

Prof. Abbas Khalili Mahmoudabadi

MATH 556

Institution: McGill University

Topics in Applied Mathematics. Statistical Learning Theory: Mathematical Foundations of Machine Learning

SVM and kernel methods. Proof of generalization using concentration of measure.

Prof. Adam Oberman & Prakash Panangaden

MATH 597

Institution: McGill University

Topics in Statistics: Bayesian Inference, Computational Methods and Monte Carlo

Bayesian statistical inference and decision making; de Finetti’s representation; parametric methods; conjugate models; hierarchical models; computational approaches to inference; Monte Carlo methods; bootstrap methods; Markov chain Monte Carlo methods; Metropolis–Hastings; advancedMCMCmethods; sequential Monte Carlo; approximate Bayesian computation; non-parametric Bayesian inference; semiparametric Bayesian inference.

 

Prof. David A. Stephens

MATH 598

Institution: McGill University

Computation Intensive Statistics

General introduction to computational methods in statistics; optimization methods; EM algorithm; random number generation and simulations; bootstrap, jackknife, cross-validation, resampling and permutation; Monte Carlo methods: Markov chain Monte Carlo and sequential Monte Carlo; computation in the R language.

Prof. Yi Yang

MATH 680

Institution: McGill University

Statistical Inference

Conditional probability and Bayes’ Theorem, discrete and continuous univariate and multivariate distributions, conditional distributions, moments, independence of random variables. Modes of convergence, weak law of large numbers, central limit theorem. Point and interval estimation. Likelihood inference. Bayesian estimation and inference. Hypothesis testing.

Prof. James McVittie

MATH 682

Institution: McGill University

Méthodes de rééchantillonnage

Étude du « bootstrap ». Estimation du biais et de l'écart-type. Intervalles de confiance et tests. Applications diverses, incluant la régression et les données dépendantes. Étude du « jackknife », de la validation croisée et du sous-échantillonnage.

Prof. Christian Léger

STT 6220

Institution: Université de Montréal

Données catégoricielles

Tableaux de contingence. Mesures d'association. Risque relatif et rapport de cote. Tests exacts et asymptotiques. Régression logistique, de Poisson. Modèles log-linéaires. Tableaux de contingence à plusieurs dimensions. Méthodes non paramétriques.

Prof. Alejandro Murua

STT 6516

Institution: Université de Montréal

Séries chronologiques univariées

Méthodes graphiques. Estimation des paramètres d'un processus stationnaire. Inversibilité et prévision. Modèles ARMA, ARIMA et estimations de paramètres. Propriétés des résidus. Séries saisonnières. Données aberrantes.

Prof. Pierre Duchesne

STT 6615

Institution: Université de Montréal

Mathématiques pour l’intelligence artificielle

Prof. Félix Camirand-Lemyre

STT 760

Institution: Université de Sherbrooke

Statistique mathématique

Fonctions de variables aléatoires, fonction génératrice des moments, quelques inégalités et identités en probabilité,  familles de distributions dont la famille exponentielle, vecteurs aléatoires, loi multinormale, espérances conditionnelles, mélanges et modèles hiérarchiques.  Théorèmes de convergence, méthodes de simulation, statistiques d'ordre, exhaustivité, vraisemblance.  Estimation ponctuelle et par intervalles : construction d'estimateurs et critères d'évaluation, méthodes bayésiennes.  Normalité asymptotique et efficacité relative asymptotique.

Prof. Éric Marchand

STT 751

Institution: Université de Sherbrooke

Mesure et probabilités

Tribus et variables aléatoires. Théorie de l'intégration: théorème de Lebesgue, espace Lp, théorème de Fubini. Construction de mesures, mesure de Radon. Indépendance. Conditionnement.

 

Prof. Anne Mackay et Jean-François Renaud

MAT 7070

Institution: Université du Québec à Montréal

Séminaire de statistique : Géostatistique et tests multiples

Prof. Jean-François Coeurjolly

MAT 998X

Institution: Université du Québec à Montréal

Analyse statistique multivariée

Étude des distributions échantillonnales classiques: T2 de Hotelling; loi de Wishart; distribution des valeurs et des vecteurs propres; distribution des coefficients de corrélation. Analyse de variance multivariée. Test d'indépendance de plusieurs sous-vecteurs. Test de l'égalité de matrices de covariance. Sujets spéciaux.

Prof. Karim Oualkacha

MAT 8081

Institution: Université du Québec à Montréal

Principes de simulation

Nombre aléatoire. Simulation de lois classiques. Méthodes d'inversion et de rejet. Algorithmes spécifiques. Simulation des chaines de Markov à temps discret et continu. Solution numérique des équations différentielles ordinaires et stochastiques. Méthode numérique d'Euler et de Runge-Kutta. Formule de Feynman-Kac. Discrétisation. Approximation faible et forte, explicite et implicite. Réduction de la variance. Analyse des données simulées. Sujets spéciaux.

Prof. Simon Guillotte

MAT 8780

Institution: Université du Québec à Montréal

Méthodes d’analyse des données - UQTR

Prof. Nadia Ghazzali

MAP 6018

Institution: Université du Québec à Trois-Rivières

Winter

Théorie de la décision bayésienne

Concepts élémentaires: paradigme bayésien, principe de vraisemblance, loi a priori et a posteriori. Information a priori, lois a priori non informatives et fonctions de perte. Estimation ponctuelle, région PHDP, cote de Bayes. Calcul bayésien.

Prof. Mylène Bédard

STT 6115

Institution: Université de Montréal

Modèles de régression

Théorie des modèles linéaires généraux. Théorie des modèles linéaires généralisés. Régression logistique. Modèles log-linéaires.

Prof.

MAT 7381

Institution: Université du Québec à Montréal

Risk Theory

The emphasis is on the probabilistic aspects (stochastic processes) although some estimation (inference) questions will also be discussed. The topics include (but are not limited to) aggregate risk models, homogenous and nonhomogenous discrete-time Markov chain models, Poisson processes, coinsurance, effects of inflation on losses, copulas, risk measures (VaR, TVaR), claim reserving. 


Prof. Mélina Mailhot

MAST 724

Institution: Concordia University

Time Series and Forecasting

This course introduces classical time series concepts: trend and seasonal pattern identification, stationarity, autocorrelation and partial autocorrelation, ARMA processes, estimation and prediction, model diagnostics and possibly GARCH and regime-switching models.

Prof. D. Sen

MAST 677-J, MAST 881-J

Institution: Concordia University

Stochastic Processes

In the first part of  this course we  cover some basic topics on Markov chains,  optimal stopping problems for Markov chains and discrete time Martingales. The second part starts with an introduction of various exotic properties of Brownian motion. We then introduce stochastic integrals with respect to Brownian motion, Ito's formula together with Girsanov transform and Feyman-Kac formula.

Prof. Xiaowen Zhou

MAST 679I (MAST 881I)

Institution: Concordia University

Statistical Learning

This course is an introduction to statistical learning techniques. Some applications to finance and insurance will be illustrated. Topics covered include: Cross-validation, Linear and non-linear regression and classification methods, Shrinkage approaches, Variable selection, Neural networks, Support vector machines, Classification and regression trees, Unsupervised Learning (Clustering and Principal Component Analysis).

Prof. Frédéric Godin

MAST 679H

Institution: Concordia University

Topics in Statistics & Probability: Large Sample Statistics

This course will cover selected topics from asymptotic theory of statistical inference, i.e., properties of statistical inference procedures when sample-size is large. Needless to say, these properties are obtained via taking limit as sample-size goes to infinity. Even in moderately complex statistical models the large-sample properties, such as variance of an estimator, are less cumbersome than the exact ones, i.e., those for a fixed sample-size. Both parametric and non-parametric framework will be considered. Topics to be covered include:

Functional Delta-method, U-statistics, M-estimators, Rank statistics, Local asymptotic normality (LAN).

Texts: Serfling, 'Approximation theorems of mathematical statistics' (John Wiley, 1980), van der Vaart, 'Asymptotic statistics' (Cambridge University Press, 1998) and journal articles.

Evaluation: Assignments (3) and class presentations of assigned journal articles.

Prof. Arusharka Sen

MAST 679/4, I (MAST 881)

Institution: Concordia University

Méthodes d'analyse des données

Réduction de la dimensionnalité : par exemple, analyse en composantes principales et analyse canonique des corrélations. Classification non supervisée : classification hiérarchique, non hiérarchique et sur la base de modèles, évaluation de la qualité et choix du nombre de groupes. Classification supervisée : classifieurs linéaires et non linéaires, évaluation de la qualité des classifieurs.

Prof.

STT 7335

Institution: Université Laval

Statistique computationnelle

Thèmes choisis parmi les suivants : analyse exploratoire de données; rééchantillonnage (« jackknife », « bootstrap »); lissage (estimation de densité), régression non paramétrique, « splines »; optimisation (problèmes de maximisation), algorithme espérance maximisation (EM); méthodes de Monte Carlo (introduction, intégration, optimisation).

Prof.

STT 7325

Institution: Université Laval

Generalized Linear Models

Exponential families, link functions. Inference and parameter estimation for generalized linear models; model selection using analysis of deviance. Residuals. Contingency table analysis, logistic regression, multinomial regression, Poisson regression, log-linear models. Multinomial models. Overdispersion and Quasilikelihood. Applications to experimental and observational data.

Prof. Johanna Neslehova

MATH 523

Institution: McGill University

Sampling Theory and Applications

Simple random sampling, domains, ratio and regression estimators, superpopulation models, stratified sampling, optimal stratification, cluster sampling, sampling with unequal probabilities, multistage sampling, complex surveys, nonresponse.

 

Prof. Russell Steele

MATH 525

Institution: McGill University

Mathematical Statistics 2

Sampling theory (including large-sample theory). Likelihood functions and information matrices. Hypothesis testing, estimation theory. Regression and correlation theory.

Prof. Masoud Asgharian-Dastenaei

MATH 557

Institution: McGill University

Méthodes avancées d'inférence

Principes d'inférence; estimation ponctuelle et distribution des estimateurs, approximation normale, point de selle et « bootstrap »; tests d'hypothèses; robustesse, inférence bayésienne, pseudo- et quasi vraisemblance, estimation non paramétrique.

Prof. François Perron

STT 6100

Institution: Université de Montréal

Statistique non paramétrique - Sherbrooke

Prof. Taoufik Bouezmarni

STT 712

Institution: Université de Sherbrooke

Analyse de la variance

Rappels et compléments sur la théorie du modèle linéaire : moindres carrés, théorèmes de Gauss-Markov et de Cochran, inférence. Modèle à effets fixes et aléatoires. Plan incomplet. Plan à mesures répétées.

Prof. Martin Bilodeau

STT 6410

Institution: Université de Montréal

Régression

Rappels sur la régression linéaire multiple (inférence, tests, résidus, transformations et colinéarité), moindres carrés généralisés, choix du modèle, méthodes robustes, régression non linéaire, modèles linéaires généralisés.

Prof. Florian Maire

STT 6415

Institution: Université de Montréal