При записи с ТВ или A/V работает только один "Способ видеозаписи" - Hardware MPEG (NEC PD61151). При выборе любого другого, запись не работает. Кнопку жмешь и ничего не происходит. Хотелось бы попробовать выполнить захват с использованием обработки кадров дополнительными фильтрами. В Hardware это не работает, т.е. возможность выбора есть, а на картинку они никак не влияют. Может кто знает в чем тут заморочка.

чтобы можно было записывать через другие пресеты нужно установить кодеки в систему и правильно их настроить

У меня установлен K-Lite Codec Pack. И все работает в VirtualDubMod. В Бехолдере все можно выбрать и настроить т.е. все кодеки доступны. Но запись просто не запускается, и никаких сообщений.

Попробуйте их убрать и поставить кодеки по отдельности.
Некоторым помогает.

Всё переустановил с нуля, дрова потом прога, и всё, проблемы нет. Так и не понял что было не так. Но главное теперь все работает как надо. Если кодек не поддерживается, то об этом всплывает сообщение.
А вот как их (кодеки) ставить по отдельности я не знаю.

DivX - http://ifolder.ru/23268576 Вроде и XVid в комплекте (точно не уверен ).
Intervideo - http://ifolder.ru/21091294
Mainconcept MPEG2/H264 - http://ifolder.ru/19188682 Суппорт когда-то рекомендовал это для DVB-T ТВ.

У себя я только их и ставлю. Мне хватает.

Качаешь, инсталлишь по очереди в любом порядке и всё ...

А насчёт аппаратного кодировщика - там плагины не работают. Такова технология. Вот тут - viewtopic.php?p=72076#p72076 я её подробно описывал для желающих. Если хотите - почитайте.