No logro entender como trabajar con \( S(dy) \), no estoy familiarizado con eso, y sin embargo la desigualdad de la que se puede partir es \( u(x) \leq \frac{1}{w_{n}} \int_{\partial B_{1}}u(x+ry) S(dy) \).
En geometría diferencial \( S(dy):=N\,{\Large\lrcorner}\, dy \), donde \( dy \) es una abreviatura para \( dy^1 \wedge \ldots \wedge dy^n \) que es el diferencial de volumen canónico en \( \mathbb{R}^n \), y donde \( N=\sum_{k=1}^n a^k \frac{\partial}{\partial y^k} \) es un campo vectorial unitario y normal a la hipersuperficie en cuestión (una hiperesfera, un hiperplano, etc... cualquier subvariedad de dimensiones \( n-1 \)), y donde el símbolo \( \,{\Large\lrcorner}\, \) representa lo que se denomina "multiplicación interior" (por la izquierda). En todo lo anterior las expresiones de la forma \( b^k \) no son potencias, sino que son coordenadas de vectores, que en geometría diferencial es común escribirlos así en vez de \( b_k \). Entonces la fórmula sería
\( \displaystyle{
N\,{\Large\lrcorner}\, dy=\sum_{k=1}^n (-1)^{k-1} a^k dy^1 \wedge dy^2\wedge \ldots \wedge \widehat{dy^k}\wedge \ldots \wedge dy^n
} \)
donde el símbolo \( \widehat{\;\;} \) representa "ausencia de". Si no has visto nada de esto, olvida lo que he dicho. En el libro que estás leyendo seguramente muestren una manera de trabajar con el diferencial de volumen asociado a una hipersuperficie (lo que en el libro denotan por \( d\sigma \)), o al menos estarán dando fórmulas concretas para aplicar el teorema de Stokes y similares. La verdad es que tendría que leerlo para ver qué hacen los autores de ese libro. Como he visto que utilizan el término "medida" quizá lo estén viendo desde el punto de teoría de la medida.
En cualquier caso quédate con estos dos teoremas (los cuales se cumplen para condiciones suficientes de regularidad):
1. Si \( dS \) es la forma de volumen asociada a una hipersuperficie \( S \) y haces un cambio de variable (=aplicas un difeomorfismo) \( \varphi :A\to B \) tal que \( \varphi ^{-1}(S)=S' \) entonces \( \int_{S}u \,dS=\int_{S'} u\circ \varphi\,d S' \).
2. Si \( N \) es un campo vectorial normal y unitario a una superficie cerrada \( S \) que apunta hacia el exterior del volumen \( V \) encerrado por \( S \) y \( F \) es un campo vectorial entonces para condiciones de regularidad suficientes se cumple el teorema de la divergencia, es decir que \( \int_{S}F\cdot N\, dS=\int_{V}\operatorname{div}F\, dV \).
Con esos dos teoremas (más la posibilidad de cambiar signo integral y derivación direccional) es suficiente para justificar rigurosamente los pasos de tu primera respuesta.
No entiendo de donde sacas el \(r\) en \( \frac{1}{w_{n}r} \). Si encuentras fallas en eso y quieres explicarme quizás de otra forma la resolución del ejercicio lo agradeceré mucho.
El \( r \) se lo pongo yo, no lo dije explícitamente pero ahí debe vale cualquier \( r>0 \) suficientemente pequeño, es decir, cualquier \( r \) tal que \( \overline{\mathbb{B}(x,r)}\subset \Omega \). Con más detalle
\( \displaystyle{
\begin{align*}
u(x)&\leqslant \frac1{\omega _n r^{n-1}}\int_{\partial \mathbb{B}(x,r)}u(y)\, S(dy)=\frac1{\omega _n}\int_{\partial \mathbb{B}(0,1)}u(x+ry)\, S(dy)\\
\iff 0&\leqslant \frac1{\omega _n}\int_{\partial \mathbb{B}(0,1)}u(x+ry)\, S(dy)-u(x)\\
&=\frac1{\omega _n}\int_{\partial \mathbb{B}(0,1)}u(x+ry)\, S(dy)-u(x)\frac1{\omega _n}\int_{\partial \mathbb{B}(0,1)}S(dy)\tag1
\end{align*}
} \)
ya que \( \omega _n=\int_{\partial \mathbb{B}(0,1)} S(dy) \). En (1) multiplico a ambos lados por \( 1/r \), que al ser positivo no cambia la desigualdad, y reacomodo los términos, quedando entonces
\( \displaystyle{
0\leqslant \frac1{\omega _n}\int_{\partial \mathbb{B}(0,1)}\frac{u(x+ry)-u(x)}{r}\, S(dy)\tag2
} \)
lo cual es cierto para cualquier valor de \( r>0 \) suficientemente pequeño. Mi idea era tomar límites cuando \( r\to 0^+ \) a ambos lados de (2), pero observo que entonces queda
\( \displaystyle{
0\leqslant \frac1{\omega _n}\int_{\partial \mathbb{B}(0,1)}\nabla u(x)\cdot y\, S(dy)=\frac1{\omega _n}\int_{\mathbb{B}(0,1)}0\,d y=0\tag3
} \)
ya que la divergencia de un campo vectorial constante, como lo es \( \nabla u(x) \) en \( \partial \mathbb{B}(0,1) \), es cero, por lo que esa idea, así tal cual, no nos sirve.
Una forma de resolución que funciona es a través de un argumento topológico quedando una demostración semejante a tu intento original, es decir, si \( u\in C^2 \) entonces \( \Delta u \) es una función continua en \( \Omega \), por tanto si existe un punto \( x\in \Omega \) tal que \( \Delta u(x)<0 \) entonces, de la definición de continuidad, observamos que necesariamente existe un \( r>0 \) tal que \( \overline{\mathbb{B}(x,r)}\subset \Omega \) y \( \Delta u(y)<0 \) para todo \( y\in \overline{\mathbb{B}(x,r)} \).
Entonces, repitiendo el mismo argumento que en \( \impliedby \), es decir, si definimos
\( \displaystyle{
g(r):=\frac1{\omega _n}\int_{\partial \mathbb{B}(0,1)}u(x+ry)S(dy)\tag4
} \)
llegamos a la conclusión de que \( g'(t)< 0 \) para \( t\in(0,r) \) ya que \( \Delta u(y)<0 \) en \( \mathbb{B}(x,r) \), y como \( g(0)=u(x) \) entonces hemos demostrado que, en un entorno de \( x \), \( u \) no es subarmónica. O dicho de otro modo: si existe un \( x\in \Omega \) tal que \( \Delta u(x)<0 \) entonces \( u \) no es subarmónica en \( \Omega \).∎