Ta có:

a) 

Do đường tròn (C) tiếp xúc với ∆ nên bán kính của đường tròn (C) bằng:

R = d(O, ∆) = $\frac{|3\times 0+4\times 0-25|}{\sqrt{3^{2}+4^{2}}}=\frac{25}{5}=5$

=> Phương trình đường tròn (C) là: $(x – 0)^{2} + (y – 0)^{2}  = 5^{2}$ hay $x^{2} + y^{2} = 25.$

b) 

Vì ∆ tiếp xúc với (C) tại điểm H nên ta có OH ⊥ ∆. Do đó, $\vec{u_{OH}}=\vec{n_{\Delta }}=(3;4)$

=>  vectơ pháp tuyến của đường thẳng OH là $\vec{n_{OH}}=(4;-3)$

Phương trình của đường thẳng OH là: 4(x – 0) – 3(y – 0) = 0 hay 4x – 3y = 0.

Vì H là giao điểm của ∆ và OH 

=> tọa độ của điểm H là nghiệm của hệ phương trình

$\left\{\begin{matrix}3x+4y-25=0\\ 4x-3y=0\end{matrix}\right.<=>\left\{\begin{matrix}x=3\\ y=4\end{matrix}\right.$

Vậy H(3; 4).