a. $\left\{\begin{matrix}x\sqrt{2}-3y=1 & \\ 2x+y\sqrt{2}=-2 & \end{matrix}\right.$

Nhân cả hai vế của phương trình thứ nhất với $\sqrt{2}$ta được hệ:

$\left\{\begin{matrix}2x-3y\sqrt{2}=\sqrt{2} (1) & \\ 2x+y\sqrt{2}=-2 (2) & \end{matrix}\right.$

Trừ phương trình (1) cho phương trình (2) ta được hệ:

$\left\{\begin{matrix}-4y\sqrt{2}=\sqrt{2}+2 & \\ 2x+y\sqrt{2}=-2 & \end{matrix}\right.\Leftrightarrow \left\{\begin{matrix}y=\frac{\sqrt{2}+2}{-4\sqrt{2}} & \\ 2x+y\sqrt{2}=-2 & \end{matrix}\right.$

$\Leftrightarrow \left\{\begin{matrix}y=\frac{\sqrt{2}}{-4\sqrt{2}}+\frac{2}{-4\sqrt{2}} & \\ 2x+y\sqrt{2}=-2 & \end{matrix}\right.\Leftrightarrow \left\{\begin{matrix}y=\frac{-1}{4}-\frac{\sqrt{2}}{4} & \\ 2x+y\sqrt{2}=-2 & \end{matrix}\right.$

$\Leftrightarrow \left\{\begin{matrix}y=-\frac{\sqrt{2}+1}{4} & \\ 2x+y\sqrt{2}=-2 & \end{matrix}\right.\Leftrightarrow \left\{\begin{matrix}y=-\frac{\sqrt{2}+1}{4} & \\ 2x-\frac{\sqrt{2}+1}{4}.\sqrt{2}=-2 & \end{matrix}\right.$

$\Leftrightarrow \left\{\begin{matrix}y=-\frac{\sqrt{2}+1}{4} & \\ 2x=-2+\frac{\sqrt{2}+1}{4}.\sqrt{2} & \end{matrix}\right.$

$\Leftrightarrow \left\{\begin{matrix}y=-\frac{\sqrt{2}+1}{4} & \\ 2x=\frac{-8}{4}+\frac{2+\sqrt{2}}{4} & \end{matrix}\right.$

$\Leftrightarrow \left\{\begin{matrix}y=-\frac{\sqrt{2}+1}{4} & \\ 2x=\frac{-8+2+\sqrt{2}}{4} & \end{matrix}\right.$

$\Leftrightarrow \left\{\begin{matrix}y=-\frac{\sqrt{2}+1}{4} & \\ x=\frac{\sqrt{2}-6}{8} & \end{matrix}\right.$

Vậy hệ phương trình có một nghiệm duy nhất là $\left ( \frac{\sqrt{2}-6}{8};-\frac{\sqrt{2}+1}{4} \right )$

b. $\left\{\begin{matrix}5x\sqrt{3}+y=2\sqrt{2} & \\ x\sqrt{6}-y\sqrt{2}=2 & \end{matrix}\right.$

Nhân cả hai vế của phương trình thứ nhất với $\sqrt{2}$ta được:

$\left\{\begin{matrix}5x\sqrt{6}+y\sqrt{2}=4 (3) & \\ x\sqrt{6}-y\sqrt{2}=2 (4) & \end{matrix}\right.$

Cộng phương trình (3) với phương trình (4) ta được hệ:

$\left\{\begin{matrix}6x\sqrt{6}=6 & \\ x\sqrt{6}-y\sqrt{2}=2 & \end{matrix}\right.\Leftrightarrow \left\{\begin{matrix}x=\frac{1}{\sqrt{6}} & \\ x\sqrt{6}-y\sqrt{2}=2 & \end{matrix}\right.$

$\Leftrightarrow \left\{\begin{matrix}x=\frac{1}{\sqrt{6}} & \\ 1-y\sqrt{2}=2 & \end{matrix}\right.\Leftrightarrow \left\{\begin{matrix}x=\frac{1}{\sqrt{6}} & \\ y\sqrt{2}=1-2 & \end{matrix}\right.$

$\Leftrightarrow \left\{\begin{matrix}x=\frac{1}{\sqrt{6}} & \\ y\sqrt{2}=-1 & \end{matrix}\right.\Leftrightarrow \left\{\begin{matrix}x=\frac{1}{\sqrt{6}} & \\ y=\frac{-1}{\sqrt{2}} & \end{matrix}\right.$

Vậy hệ phương trình có một nghiệm duy nhất là $\left ( \frac{1}{\sqrt{6}};\frac{-1}{\sqrt{2}} \right )$