Đặt \(AM=x, MI=NI=y (0<x,y<13)\)

Khi đó theo đề bài ta có \(x+y=13\) (1) (AI=13cm)

Mặt khác áp dụng hệ thức lượng cho tam giác vuông ABN với đường cao BM ta có \(AB^2=AM.AN\) hay \(12^2=x(x+2y)\) (2)

Từ (1) ta có \(y=13-x\) thế vào (2) ta được: \(x(x+2(13-x))=12^2\Leftrightarrow -x^2+26x-144=0\)

Dễ dàng giải phương trình trên bằng công thức nghiệm ta được \(x=18 ,x=8\)

Kết hợp với điều kiện ta suy ra AM=8cm