Me refiero a que no sé porqué en este caso ha de ser \( |a+b\delta|^2=a^2+ab+\dfrac{b^2(1-d)}{4} \)

Ah, es que he metido yo la pata, pero no es una cuestión de cálculos. Lo que pasa es que, en general, sea \( d \) positivo o negativo, puedes definir el conjugado de \( \delta = \dfrac{1+\sqrt d}2 \) como \( \bar\delta = \dfrac{1-\sqrt d}2 \) (que coincide con la conjugación compleja cuando \( d<0 \), pero es una "conjugación nueva" cuando \( d>0 \)), pero en ambos casos se cumple que, si defines \( \overline{a+b\delta} = a+b\bar \delta \), y así tienes una conjugación \( \mathbb Z[\delta]\longrightarrow \mathbb Z[\delta] \) que conserva productos (el conjugado de un producto es el producto de los conjugados), y eso hace que si defines
\( N(a+b\delta) = (a+b\delta)(\overline{a+b\delta}) = (a+b\delta)(a+b\bar \delta) = a^2+ab+\dfrac{1-d}4b^2\in \mathbb Z \)
todo lo que decía antes es válido. Lo que no es verdad es que en este caso \( N(a+b\delta)=|a+b\delta|^2 \). Lo importante es que con esta definición de \( N \) se cumple que \( N(a+b\delta)\in \mathbb Z \) y que \( N(xy) = N(x)N(y) \).
Mi error en mi mensaje anterior ha sido no haber caído en la cuenta de que al pasar a \( d>0 \) la "norma algebraica" ya no coincide con el cuadrado del valor absoluto.
En resumen, y recapitulando paso a paso, el proceso para analizar el caso \( d>0 \) sería:
1) Considera igualmente \( \mathbb Z[\delta] \) como el conjunto de los números reales de la forma \( a+b\delta \), con \( a, b\in \mathbb Z \).
2) Define \( \bar\delta = \dfrac{1-\sqrt d}2 \) y, en general, \( c: \mathbb Z[\delta]\longrightarrow \mathbb Z[\delta] \) mediante \( c(a+b\delta) = \overline{a+b\delta} = a+b\bar \delta \). Entonces puedes comprobar que \( c(xy) = c(x)c(y) \).
3) Define \( N: \mathbb Z[\delta]\longrightarrow \mathbb Z \) como \( N(a+b\delta)=(a+b\delta)(a+b\bar \delta) = a^2+ab+\dfrac{1-d}4 b^2 \)
4) Se comprueba que \( N(xy) = N(x)N(y) \)
5) Se comprueba (como en el caso \( d<0 \)) que \( a+b\delta \) es inversible si y sólo si \( N(a+b\delta)=1 \).
Pero en este caso hay infinitas soluciones. No es evidente, pero podría pensar una forma de probarlo lo más directa posible, sin recurrir a resultados de teoría algebraica de números. Pero lo primero es desfacer el entuerto que fice.