This paper deals with a non-parametric problem coming from physics, namely quantum tomography. That consists in determining the quantum state of a mode of light through a homodyne measurement. We apply several model selection procedures: penalized projection estimators, where we may use pattern functions or wavelets, and penalized maximum likelihood estimators. In all these cases, we get oracle inequalities. In the former we also have a polynomial rate of convergence for the non-parametric

more »

... em. We finish the paper with applications of similar ideas to the calibration of a photocounter, a measurement apparatus counting the number of photons in a beam. Here the mathematical problem reduces similarly to a non-parametric missing data problem. We again get oracle inequalities, and better speed if the photocounter is good. Résumé. Nous nous intéressonsà un problème de statistique non-paramétrique issu de la physique, et plus précisémentà la tomographie quantique, c'est-à-dire la détermination de l'état quantique d'un mode de la lumière via une mesure homodyne. Nous appliquons plusieurs procédures de sélection de modèles : des estimateurs par projection pénalisés, où on peut utiliser soit des fonctions motif, soit des ondelettes, et l'estimateur du maximum de vraisemblance pénalisé. Dans chaque cas, nous obtenons une inégalité oracle. Nous prouvonségalement une vitesse de convergence polynomiale pour ce problème non-paramétrique, pour les estimateurs par projection. Nous appliquons ensuite des idéesà la calibration d'un photocompteur, l'appareil dénombrant le nombre de photons dans un rayon lumineux. Le problème mathématique se réduit dans ce casà un problème non-paramétriquè a données manquantes. Nous obtenonsà nouveau des inégalités oracle, qui nous assurent des vitesses de convergence d'autant meilleures que le photocompteur est bon. Mathematics Subject Classification. 62G05, 81V80, 62P35.