Что за программа дает такое качество, при потоке видео 100 кбит сек получается такое качество. Пробовал несколько программ записи с экрана и последующей обработкой, не могу даже близко добиться такого качества при таких размерах файлов.

там плагин специальный используется и программа для снятия видео с экрана.

(1) Программ снятия видео много разных.
А что за плагин?

TechSmith если не ошибаюсь

(3) techsmith camtasia studio ?

мне кажется они пишут видео uvscreencamera. Это как раз плеер с возможностью защиты видео.