Значит вовсе убрали VMR7 из 10-ки. В Win7 он ещё есть.
Тогда остаётся только режим совместимости с ХР.

Увы... А так всё хорошо было. Смущает, правда, что Win10 у меня с начала её появления, проблема появилась
только после установки видеокарты RX560 (работает только с Win 64-bit). Саму систему, как я уже писал,
переустановил с нуля, с форматированием системного диска.
Кстати, пробовал ставить режим совместимости с Win7, та же петрушка.

Значит в Win7 в любом случае выбирается режим, завязанный на Direc3D - это либо VMR9, либо EVR. У вас аппаратная поддержка DirectX полностью включена? Допустим, если посмотреть через dxdiag.exe

Как ни странно, в dxdiag всё "вкл" и "неполадок не найдено".

И в 32-х и в 64-х битной версии DirectX? Ну тогда ой.
Впрочем, поищите, вроде как в каких-то настройках видеокарт были ползунки для установки уровня аппаратного ускорения.

см. вложение чуть выше.

Из того, что бросилось в глаза, это первое:

D3D9 Overlay: Not Supported
DXVA-HD: Not Supported
DDraw Status: Enabled
D3D Status: Enabled
AGP Status: Enabled
MPO Caps: Not Supported
MPO Stretch: Not Supported
MPO Media Hints: Not Supported
MPO Formats: Not Supported

У меня на nVidia это выглядит так:

D3D9 Overlay: Supported
DXVA-HD: Supported
DDraw Status: Enabled
D3D Status: Enabled
AGP Status: Enabled

И второе, у меня нет вот таких вот блоков в конце файла:

---------------
Diagnostics
---------------

Windows Error Reporting:
+++ WER0 +++:
Контейнер ошибки 120794856536, тип 4
Имя события: APPCRASH
Отклик: Нет данных
Идентификатор CAB: 0

Сигнатура проблемы:
P1: mmc.exe
P2: 10.0.15063.0
P3: c39bfa6e
P4: KERNELBASE.dll
............
и т.д.

Пока не знаю, для чего и что это.
Возможно, это ни о чём не говорит, но настораживает.

Ну вот, всё решилось установкой последнего драйвера v.17.7.2 .
Никаких проблем с BTV в режиме без совместимости, DXVA активен там, где ему положено.
Но в отчете DxDiag всё равно: D3D9 Overlay: Not Supported, DXVA-HD: Not Supported.