По поводу "допиливания" - у всех, конечно, разные потребности, но мне думается проще запустить в виртуалке винду 8.1 и делать с ней что хочется. Зачем рисковать настроенным сервером?
По поводу видеокарт с поддержкой RemoteFX - погуглите. Где то был такой список совместимых карт. За себя скажу - у меня прекрасно работает "не совместимая, по некоторым данным
" GeForce GTS 450 c 4 гигами оперативки на борту и версией драйвера 9.18.13.2049 от 21.06.2013
Кстати неплохо бы найти список совместимых карт, прибить его в шапку и постоянно дополнять проверенными пользователями форума видеокартами. Есть много статей об этом и много мнений, порой противоречивых.
Вот викки
http://en.wikipedia.org/wiki/RemoteFX Although any GPU meeting the above requirements will be capable of using RemoteFX, the Windows Server Catalog carries an additional qualification to further define the requirements for server-qualified GPUs. These specifications define GPUs configuration requirements and provide VM performance targets. Graphics cards that meet these are typically professional workstation products such as ATI/AMD's FirePro, v5800, v5900, v7800, v7900, v8800, v9800, and Nvidia's Quadro 2000, 3800, 4000, 4800, 5000, 5800, 6000, Quadro FX 2800M and 880M, QuadroPlex 7000 and Tesla M2070Q.
Всё, вышеприведенное для 2008 сервера, но я думаю, что и для 2012 тоже должно работать.
Вот по AMD - это уже для 2012 r2 конкретно...
AMD is supporting Microsoft Windows Server 2008 R2 SP1 and RemoteFX with the following AMD FirePro™ professional graphics:
AMD FirePro™ S10000
AMD FirePro™ S9000
AMD FirePro™ S7000
AMD FirePro™ V9800P
ATI FirePro™ V9800
ATI FirePro™ V8800
ATI FirePro™ V7800
AMD FirePro™ V7800P
ATI FirePro™ V5800
Полистайте англоязычные странички гугля
https://www.google.ru/#newwindow=1&q=RemoteFX+compatible+video+cards&start=10 Есть много чего интересного.