Ta có $\left.\begin{matrix} SA \perp BC\\ AB \perp BC \end{matrix}\right\} \Rightarrow BC \perp (SAB) \Rightarrow BC \perp AB'$.

Mà $AB' \perp SB \Rightarrow AB' \perp SC$.

Chứng minh tương tự $AD' \perp SC$.

$\Rightarrow SC \perp (AB'C'D')$

Từ $AB' \perp (SBC) \Rightarrow AB' \perp B'C'$

Tương tự $AD' \perp D'C'$.

Từ kết quả trên ta thu được $V_{AB'C'D'}=\frac{1}{3}SC'. \frac{1}{2}(AB'. B'C'+AD'.D'C')=\frac{1}{6}SC'.(AB'. B'C'+AD'.D'C')$.

Xét tam giác vuông SAB có AB' là đường cao nên 

$\frac{1}{AB'^{2}}=\frac{1}{a^{2}}+\frac{1}{c^{2}}\Rightarrow AB'=\frac{ac}{\sqrt{a^{2}+c^{2}}}$.

Tương tự $AD'=\frac{bc}{\sqrt{b^{2}+c^{2}}}$.

Ta lại có $SC^{2}=AC^{2}+SA^{2}=a^{2}+b^{2}+c^{2}\Rightarrow SC=\sqrt{a^{2}+b^{2}+c^{2}}$.

Xét tam giác SAC có AC' là đường cao thuộc cạnh huyền nên $SC'=\frac{SA^{2}}{SC}=\frac{c^{2}}{\sqrt{a^{2}+b^{2}+c^{2}}}$.

$\Delta SBC$ đồng dạng $\Delta SC'B'$ nên $\frac{B'C'}{BC}=\frac{SC'}{SB}$

$\Rightarrow B'C'=\frac{SC'.BC}{SB}=\frac{bc^{2}}{\sqrt{a^{2}+b^{2}}.\sqrt{a^{2}+b^{2}+c^{2}}}$

Tương tự ta có $D'C'=\frac{c^{2}a}{\sqrt{b^{2}+c^{2}}\sqrt{a^{2}+b^{2}+c^{2}}}$

vậy $V=\frac{1}{6}\frac{abc^{5}(a^{2}+b^{2}+2c^{2})}{(a^{2}+c^{2})(b^{2}+c^{2})(a^{2}+b^{2}+c^{2})}$.