Для GUI Testing есть опубликованные guidelines у Майкрософта и Эппл. Например, Майкрософт говорит, что лучше к недоступной функциональности сделать кнопку disabled, чем оставить кнопку enabled и потом, после того, как пользователь ее нажмет, выдать message box, объясняющий почему эта функциональность недоступна. Или, если menu item вызывает dialog box, то dialog box title должен быть таким же в точности как menu item text.Ну, например, в серии вебинаров Михаила Портнова второй урок называется "Тестирование графического интерфейса", даже на слайдах к уроку значится GUI testing. А разговор весь урок идёт скорее о юзабилити...
Для тестирования WEB GUI очень многие правила переносимы вполне из Windows. Но прямой инструкции нет. Зато есть Usability (not exactly GUI) guidelines на сайте usability.gov, за что уже большое спасибо. Оттуда много очень много взять для GUI Testing если понимать что ты делаешь.
Usability testing я по-серьезному наблюдал однажды, работая в Борланде. Они собирались выйти с электронной почтой и работали над хорошим пользовательским интерфейсом - было предложено три варианта. Наняли бригаду со стороны. Те расписали пользователей по категориям. Для каждой категории собрали группки человек по 5-10. Разработали тестовые задания. Принесли прибор на треноге для отслеживания траектории движения зрачков. Предлагали одни и те же задания для 3-х разных проектов интерфейса. Потом по замысловатости движений зрачков выбирали менее проблемный интерфейс. То есть, вполне объективное действо.