Частоту строчных СИ посмотрите, будете неприятно удивлены, что она у Вас никак не 64 мкСек, а как минимум в 2 раза меньше требуемой.
Это видно по изображению - 2 повтора картинки.
Голова синхронизировалась как могла
С адаптером HDMI-VGA Вы никак не получите требуемые значения длительности строки.