a) Thay $m = \sqrt{2}$ vào hệ phương trình, ta được hệ phương trình sau:

$\left\{\begin{matrix}(\sqrt{2} + 1)x - y = 3\\ \sqrt{2}x + y = \sqrt{2}\end{matrix}\right.$

$\Leftrightarrow \left\{\begin{matrix}(2\sqrt{2} + 1)x = 3 + \sqrt{2} \\ \sqrt{2}x + y = \sqrt{2}\end{matrix}\right.$

$\Leftrightarrow \left\{\begin{matrix}x = \frac{3 + \sqrt{2}}{2\sqrt{2} + 1} \\ \sqrt{2}x + y = \sqrt{2}\end{matrix}\right.$

$\Leftrightarrow \left\{\begin{matrix}x = \frac{1 + 5\sqrt{2}}{7} \\ y = \frac{-10 + 6\sqrt{2}}{7}\end{matrix}\right.$

b) $\left\{\begin{matrix}(m + 1)x - y = 3\\ mx + y = m\end{matrix}\right.$

$\Leftrightarrow \left\{\begin{matrix}(2m + 1)x = m + 3\\ y = m - mx\end{matrix}\right.$

$\Leftrightarrow \left\{\begin{matrix}x = \frac{m + 3}{2m + 1}\\ y = m - m\times \frac{m + 3}{2m + 1}\end{matrix}\right.$

$\Leftrightarrow \left\{\begin{matrix}x = \frac{m + 3}{2m + 1}\\ y = \frac{m^2 - 2m}{2m + 1}\end{matrix}\right.$

Để hệ có nghiệm duy nhất thì $2m + 1 \neq 0 \Leftrightarrow m \neq \frac{-1}{2}$

Lại có:

$x + y = \frac{m + 3}{2m + 1} + \frac{m^2 - 2m}{2m + 1} = \frac{m^2 - m + 3}{2m + 1} = \frac{(m - \frac{1}{2})^2 + \frac{11}{4}}{2m + 1} > 0$ với mọi $m \neq \frac{-1}{2}$

Vậy $m \neq \frac{-1}{2}$