\begin{enumerate}
\item $\left(a+b\sqrt{2}\right)^2=a^2+2b^2+2ab\sqrt{2}$.
\item Si $A=a+b\sqrt{2}=\sqrt{33+20\sqrt{2}}$, alors $A^2=a^2+2b^2+2ab\sqrt{2}=33+20\sqrt{2}$.

Par identification du coefficient de $\sqrt{2}$ et du nombre entier, on a :
\[
\begin{cases}
a^2+2b^2=33\\
2ab=20
\end{cases}\qquad\text{soit : }\qquad
\begin{cases}
a^2+2b^2=33\\
ab=10
\end{cases}
\]

\item De la seconde équation du système précédent, on peut déduire : 
\[ b=\dfrac{10}{a}\]
et en remplaçant $b$ par cette valeur dans la première équation, on obtient : 
\[
a^2+\dfrac{200}{a^2}=33
\]
soit :
\[
a^4-33a^2+200=0.
\]
En posant $X=a^2$, on arrive à :
\[
X^2-33X+200=0
\]
dont le discriminant est :
\[
\Delta=(-33)^2-800=289=17^2.
\]
Les deux solutions de $X^2-33X+200=0$ sont alors :
\[
X_1=\dfrac{33+17}{2}=25\qquad\text{et}\qquad X_2=\dfrac{33-17}{2}=8.
\]
Donc les solutions de $a^4-33a^2+200=0$ sont $a_1$ et $a_2$ tels que :
\[
a_1^2=25\qquad\text{et}\qquad a_2^2=8
\]
soit :
\[
a_1=5\text{ ou }a_1=-5\qquad\text{et}\qquad x_2=2\sqrt{2}\text{ ou } a_2=-2\sqrt{2}.
\]
Or, $a\in\Z$ donc $a=5$ ou $a=-5$.

\begin{itemize}
\item Si $a=5$, alors $b=\dfrac{10}{5}=2$ et $A=5+2\sqrt{2}$ ;
\item Si $a=-5$, alors $b=-2$ et $A=-5-2\sqrt{2}<0$, ce qui n'est pas possible car $A>0$.
\end{itemize}

Ainsi, 
\[
\boxed{\sqrt{33+20\sqrt{2}}=5+2\sqrt{2}}
\]

\item Posons $A=\sqrt{p+q\sqrt{n}}$. Alors, $A^2=p+q\sqrt{n}$ d'où :
\[
\begin{cases}
a^2+nb^2=p\\
b=\dfrac{q}{2a}
\end{cases}
\]
La première équation devient alors :
\[
a^2+\dfrac{nq^2}{4a^2}=p
\]
ou encore :
\[
a^4-4pa^2+nq^2=0.
\]
ou encore :
\[ X^2-4pX+nq^2\qquad\text{en posant }X=a^2.
\]
Le discriminant est :
\[
\Delta=16p^2-4nq^2=4(4p^2-nq^2).
\]

\textbf{Première condition d'existence :} il faut que $4p^2-nq^2\geqslant0$ pour pouvoir transformer l'écriture de $A$.

Dans ce cas, les deux solutions $X_1$ et $X_2$ sont :
\[
X_1=\dfrac{4p-2\sqrt{4p^2-nq^2}}{2}=2p-\sqrt{4p^2-nq^2}\qquad\text{et}\qquad X_2=2p+\sqrt{4p^2-nq^2}.
\]

\textbf{Deuxième condition : }il faut que $2p-\sqrt{4p^2-nq^2}\geqslant0$ et $2p+\sqrt{4p^2-nq^2}\geqslant0$.

\medskip

Dans ce cas,
\[
a_1=\pm\sqrt{2p-\sqrt{4p^2-nq^2}}\qquad\text{et}\qquad a_2=\pm\sqrt{2p+\sqrt{4p^2-nq^2}}.
\]

Or, $a\in\Z$ donc :

\medskip

\textbf{3\ieme{} condition :} il faut que $\sqrt{2p-\sqrt{4p^2-nq^2}}\in\N$ ou que $\sqrt{2p+\sqrt{4p^2-nq^2}}\in\N$.

On a alors :
\[
a=\pm\sqrt{2p\pm\sqrt{4p^2-nq^2}}\qquad\text{et}\qquad b=\dfrac{q}{\pm2\sqrt{2p\pm\sqrt{4p^2-nq^2}}}.
\]
\end{enumerate}