Ни Протеус, ни Мультисим, Ни Микрокап - не предназначены для симуляции кастом-двигателей.
Для этого надо использовать иные инструменты: MathLab + Simulink, VisSim, МВТУ (отечественный).
В них можно симулировать произвольные динамические системы.
Модель (часть) АД в VisSim: