La notación formal exacta se puede estudiar en libros de Lógica de Primer Orden,
pero es demasiado mecánica y engorrosa.
La "coma" (,) en general se usa para reemplazar a la conjunción lógica (\(\wedge\)).
Por otra parte, escribir \(a,b\in Z\) es informal, pues desde un punto de vista estricto eso no es correcto (lo correcto sería \(a\in Z,b\in Z\)),
pero aún así está bien que lo escribas así, porque es una informalidad muy usada y aceptada, y que se entiende.
La primer coma de tu conjunto no corresponde a ese uso, así que estaría mal.
Es mejor ahí usar el símbolo \(|\) que pusiste después,
que es un separador entre la variable muda que recorrerá los elementos del conjunto,
y la descripción posterior de las propiedades que dicha variable ha de cumplir para pertenecer al conjunto.
Los conjuntos numéricos suelen representarse con letras doblemente barradas:
\(\mathbb{NZQRC}\), que en LaTeX se obtienen con el comando
\mathbb.
Por otra parte, cada autor, o cada área de la matemática, acostumbra sus notaciones particulares, que tienen variantes respecto otros autores.
Conviene ver cuáles son las convenciones que un libro adopta en un principio,
y uno mismo también ha de ser claro explicando detalles de la notación a utilizar.
Por ejemplo, hace un tiempo que procuro evitar el uso de demasiados "chirimbolos",
y prefiero usar símbolos que sean mucho más fáciles de leer de corrido,
con lo cual evito, en lo posible, letras griegas, "colgajos de índices y superíndices innecesarios", y símbolos estrambóticos.
En vez de la barra vertical \(|\) utilizo como separador un punto y coma (
.
Si uno es consecuente con una notación, que además es clara,
entonces la puede usar tranquilamente.
Pero darse un chapuzón en un libro de Lógica de Primer Orden puede ser buena idea, para tener los conceptos frescos, "pensar" con rigor, para luego expresarse con cierta flexibilidad.