Попробуй запустить игру с параметром
/sw. Он установит программную визуализацию по умолчанию и игру можно будет запустить. Как использовать этот параметр (и другие в том числе) подробно написано на сайте в статье
Параметры запуска Homeworld.
Потом в настройках игры можно будет попробовать выбрать DirectX, а если запускать ХВ1 в режиме совместимости с WinNT, то и OpenGL. Если же игра опять будет вылетать... что ж, софтверный визуализатор – лучше, чем ничего
