Hay un camino un poco más directo para probar que \[ \langle x,x_i \rangle=0 \] para todo \[ i\in I \] salvo a lo sumo un conjunto numerable.
La cuestión está en que si \[ \sum_{i\in I} a_i \] es convergente (con la definición que dio antes Masacroso como el supremo sobre las sumas finitas), donde los \[ a_i \] son reales no negativos, entonces todos los \[ a_i \] son cero salvo un conjunto numerable. Para ver esto, fíjate que definiendo \[ I_n=\{i \in I \mid a_i>1/n\} \] para \[ n\geq 1 \] y \[ I_0=\{i\in I \mid a_i=0\} \], tenemos que \[ I=\bigcup_{n=0}^\infty I_n \]. Si algún \[ I_n \] fuera infinito, tendríamos que \[ \sum_{i\in I_n} a_i \geq \sum_{i\in I_n} 1/n = \infty \], contradiciendo el hecho de que la suma era convergente. Luego todos los \[ I_n \] son finitos, y su unión, que coincide con \[ I\setminus I_0 \] es numerable. Pero \[ I\setminus I_0 \] es precisamente el conjunto de índices \[ i\in I \] para los que \[ a_i>0 \].
Ahora, aplica esto a tu caso con \[ a_i=|\langle x,x_i\rangle|^2 \]. La desigualdad de Bessel te da que la suma es convergente, así que puedes aplicar lo anterior.
En realidad, esta prueba que he puesto para series de reales es esencialmente la misma que estáis discutiendo (que sirve para el caso general de redes en espacios de Hilbert), pero así te ahorras la igualdad en rojo y creo que es más simple.