On the detection of low rank matrices in the high-dimensional regime

Antoine Chevreuil (1) , Philippe Loubaton (2)

1 ESYCOM - Electronique, Systèmes de communication et Microsystèmes
2 LIGM - Laboratoire d'Informatique Gaspard-Monge

We address the detection of a low rank nxn matrix X0 from the noisy observation X0+Z for large n, where Z is a complex Gaussian random matrix with independent identically distributed Nc(0, 1/n) entries. Thanks to large random matrix theory results, it is now well-known that if the largest singular value lambda1(X0) of X0 verifies lambda1(X0) > 1, then it is possible to exhibit consistent tests. In this contribution, we prove a contrario that under the condition lambda1(X0) < 1, there are no consistent tests. Our proof is inspired by previous works devoted to the case of rank 1 matrices X0.

Nous nous intéressons dans cet article à la détection d'une matrice X0 nxn de rang faible et de grande dimension perturbée additivement par une matrice Gaussienne dont les entrées sont i.i.d. Nc(0,1/n). La théorie des grandes matrices aléatoires nous enseigne qu'à la condition que la plus grande valeur singulière lambda1(X0) de X0 vérifie lambda1(X0)>1, il est possible de construire un test consistent (i.e. dont la probabilité d'erreur totale tend vers 0 lorsque n croît). Nous montrons a contrario qu'aucun test consistent n'existe dans le cas où lambda1(X0)<1. La preuve que nous apportons s'inspire de travaux antérieurs dans lesquels la matrice X0 est de rang 1.

Mots clés: Index Terms—statistical detection tests; large random matrices; large deviation principle

Domaines: Traitement du signal et de l'image [eess.SP]

Antoine Chevreuil, Philippe Loubaton. On the detection of low rank matrices in the high-dimensional regime. EUSIPCO, Sep 2018, Rome, Italy. ⟨hal-01798530v1⟩