qmake и QT_INSTALL_PREFIX. Как я могу выбрать новое место для библиотеки Qt?

Это «встроенный», скомпилированный build в qmake из qconfig.cpp. Лучший build способ - перенастроить Qt build с другим префиксом и, к сожалению, пересобрать. Для builds большинства других переменных qt вы можете использовать файл qmake .qmake.cache. См.

http://doc.qt.digia.com/qt/qmake-environment-reference.html

для получения build дополнительной информации