Могу посоветовать прогу
minicam, подходит под ваши хотелки, но очень требовательна к ресурсам.
Встраивается в икар великолепно.
Вот
пример записи(для полного восприятия нужно выставить разрешение 1920х1080), ютуб режет качество, в оригинале картинка лучше.