OPTIMIZATION WITH APPLICATIONS I

En statistique de nombreux estimateurs sont définis comme solution d'un problème d'optimisation, par exemple l'estimateur des moindres carrés, du maximum de vraisemblance, ou vraisemblances pénalisées (e.g., ridge, lasso, basis pursuit). Nous étudierons ces problèmes d'optimisation (existence, unicité, convexité, différentiabilité) et développerons des algorithmes pour calculer ces estimateurs, notamment steepest descent, conjugate gradient, BFGS, relaxation (back-fitting), méthodes duales. Des travaux pratiques mettront en applications ces méthodes en les programmant en Python ou R.