a. $\left\{\begin{matrix}x\sqrt{5}-(1+\sqrt{3})y=1 & \\ (1-\sqrt{3})x+y\sqrt{5}=1 & \end{matrix}\right.$

$\Leftrightarrow \left\{\begin{matrix}x =\frac{1+(1+\sqrt{3})y}{\sqrt{5}} & \\ (1-\sqrt{3})x+y\sqrt{5}=1 & \end{matrix}\right.$

Áp dụng quy tắc thế ta được :

$\left\{\begin{matrix}x =\frac{1+(1+\sqrt{3})y}{\sqrt{5}} (1) & \\ (1-\sqrt{3})\frac{1+(1+\sqrt{3})y}{\sqrt{5}}+y\sqrt{5}=1 (2) & \end{matrix}\right.$

Giải phương trình (2) ta có :

$(1-\sqrt{3})\frac{1+(1+\sqrt{3})y}{\sqrt{5}}+y\sqrt{5}=1$

$\Leftrightarrow \frac{1-\sqrt{3}+(1-\sqrt{3})(1+\sqrt{3})y}{\sqrt{5}}+\frac{5y}{\sqrt{5}}=1$

$\Leftrightarrow 1-\sqrt{3}+(1-\sqrt{3})(1+\sqrt{3})y+5y=\sqrt{5}$

$\Leftrightarrow (1-3)y+5y=\sqrt{5}-1+\sqrt{3}$

$\Leftrightarrow 3y=\sqrt{5}-1+\sqrt{3}$

$\Leftrightarrow y=\frac{\sqrt{5}-1+\sqrt{3}}{3}$

Thay y vào phương trình (1) ta được:

$x =\frac{1+(1+\sqrt{3})y}{\sqrt{5}}$

$\Leftrightarrow x =\frac{1+(1+\sqrt{3})\frac{\sqrt{5}-1+\sqrt{3}}{3}}{\sqrt{5}}$

$\Leftrightarrow x =\frac{3+(1+\sqrt{3})(\sqrt{5}+\sqrt{3}-1)}{3\sqrt{5}}$

$\Leftrightarrow x =\frac{3+\sqrt{5}+\sqrt{3}-1+\sqrt{15}+3-\sqrt{3}}{3\sqrt{5}}$

$\Leftrightarrow x =\frac{5+\sqrt{5}+\sqrt{15}}{3\sqrt{5}}$

$\Leftrightarrow x =\frac{\sqrt{5}(\sqrt{5}+\sqrt{3}+1}{3\sqrt{5}}$

$\Leftrightarrow x=\frac{\sqrt{5}+\sqrt{3}+1}{3}$

Vậy hệ phương trình có một nghiệm duy nhất là $x=\frac{\sqrt{5}+\sqrt{3}+1}{3};y=\frac{\sqrt{5}-1+\sqrt{3}}{3}$

b. $\left\{\begin{matrix}\frac{2x}{x+1}+\frac{y}{y+1}=\sqrt{2} & \\ \frac{x}{x+1}+\frac{3y}{y+1}=-1 & \end{matrix}\right.$

Đặt $\frac{x}{x+1}=u;\frac{y}{y+1}=v$

Ta được hệ phương trình mới tương đương với hệ phương trình ban đầu là:

$\left\{\begin{matrix}2u+v=\sqrt{2} & \\ u+3v=-1 & \end{matrix}\right.\Leftrightarrow \left\{\begin{matrix}v=\sqrt{2}-2u & \\ u+3v=-1 & \end{matrix}\right.$

Áp dụng quy tắc thế ta được:

$\left\{\begin{matrix} v=\sqrt{2}-2u & \\ u+3(\sqrt{2}-2u)=-1 & \end{matrix}\right.\Leftrightarrow \left\{\begin{matrix}v=\sqrt{2}-2u & \\ u+3\sqrt{2}-6u=-1 & \end{matrix}\right.$

$\left\{\begin{matrix} v=\sqrt{2}-2u & \\ -5u=-1-3\sqrt{2} & \end{matrix}\right.\Leftrightarrow \left\{\begin{matrix}v=\sqrt{2}-2u & \\ u=\frac{1+3\sqrt{2}}{5} & \end{matrix}\right.$

$\Leftrightarrow \left\{\begin{matrix}v=\sqrt{2}-2\frac{1+3\sqrt{2}}{5} & \\ u=\frac{1+3\sqrt{2}}{5} & \end{matrix}\right.\Leftrightarrow \left\{\begin{matrix}v=\frac{5\sqrt{2}-2-6\sqrt{2}}{5} & \\ u=\frac{1+3\sqrt{2}}{5} & \end{matrix}\right.$

$\Leftrightarrow \left\{\begin{matrix}v=\frac{-\sqrt{2}-2}{5} & \\ u=\frac{1+3\sqrt{2}}{5} & \end{matrix}\right.$

Ta có: $\frac{x}{x+1}=u\Leftrightarrow \frac{x}{x+1}=\frac{1+3\sqrt{2}}{5}$

$\Leftrightarrow 5x=(x+1)(1+3\sqrt{2})\Leftrightarrow 5x=x+3x\sqrt{2}+1+3\sqrt{2}$

$\Leftrightarrow x+3x\sqrt{2}-5x+1+3\sqrt{2}=0\Leftrightarrow x(3\sqrt{2}-4)=-1-3\sqrt{2}$

$\Leftrightarrow x=\frac{-1-3\sqrt{2}}{3\sqrt{2}-4}\Leftrightarrow x=\frac{1+3\sqrt{2}}{4-3\sqrt{2}}$

Ta có: $\frac{y}{y+1}=v\Leftrightarrow \frac{y}{y+1}=\frac{-\sqrt{2}-2}{5}$

$\Leftrightarrow 5y=(y+1)(-\sqrt{2}-2) \Leftrightarrow -y\sqrt{2}-2y-\sqrt{2}-2-5y=0$

$\Leftrightarrow y(-\sqrt{2}-7)=\sqrt{2}+2\Leftrightarrow y=\frac{-\sqrt{2}-2}{\sqrt{2}+7}$

Vậy hệ phương trình có một nghiệm duy nhất là $x=\frac{1+3\sqrt{2}}{4-3\sqrt{2}}; y=\frac{-\sqrt{2}-2}{\sqrt{2}+7}$