a) Ta có: SH = h là chiều cao hình nón.

          SS' = 2r là đường kính hình cầu.

Xét tam giác vuông SAS' có: $AH^{2}=SH.S'H=h(2r-h)$

=> $V=\frac{1}{3}\prod. AH^{2}.SH=\frac{1}{3}\prod.h^{2}.(2r-h)$

b) Để $V_{max}<=>\frac{1}{3}\prod. AH^{2}.SH=\frac{1}{3}\prod.h^{2}.(2r-h)$ đạt giá trị lớn nhất.

<=> $2V=\frac{1}{3}\prod. AH^{2}.SH=\frac{1}{3}\prod.h^{2}.(4r-2h)$

<=> $h^{2}.(4r-2h)=h.h.(4r-2h)\leq (\frac{h+h+4r-2h}{3})^{3}=(\frac{4r}{3})^{3}$

Dấu " = "  xảy ra <=> $h=\frac{4r}{3}$

=> $V_{max}=\frac{\prod }{6}(\frac{4r}{3})^{3}=\frac{32}{81}\prod r^{3}$.