Не знаю, как в Висте, но в ХРюшке DEP настраивается в Параметрах быстродействия окна Свойств системы (вкладка «Дополнительно»). Там можно включить DEP только для основных программ и служб, либо для всех, кроме «белого списка». Может, загвоздка притаилась именно здесь (например, DEP включён для всех, а «белый список» пуст).
Ещё есть вполне рабочий образ, который на ура работает в связке с Daemon Tools 3.xx / 4.xx версий. Плюс миниобраз для тех, кому полный качать накладно. Он, правда, чуть тормозит из-за нуления... будем исправлять