Иногда такая проблема возникает из - за выключенного BHOManager Class add-on от HP в IE. Если он выключен, то QTP отказывается выполнять команды Navigate, Back, Refresh... etc

Апдейты для QTP стоят?
UAC на винде отключен?

У меня инсталлирован пэтч QTWEB_0078 и UAC на винде Default

Отключите UAC

К сожелению и это не помогло. Мне пришлось переинсталлировать IE9 на IE8.
QTP 11 с пэтч QTWEB_0078 работает без проблем на IE8.

Но всетаки интересно - что должно быть сделано что бы QTP 11 работал на IE9