DUALSHOCK4 が StartJoypadVibration で振動しないのは仕様です。
DUALSHOCK4 はそのまま PC に繋いだだけでは、コントローラーの全ての機能を使用できません。
入力は DirectInput 方式で取得可能ですが、それ以外の機能（振動やライトバーの表示など）は
「InputMapper」等のソフトを介さないと使用できません。
[参考] PS4コントローラ（DUALSHOCK4）を PC で使用する方法（URLの先頭に「h」を付けてください）
ttps://sttty1022.com/blog/ps4controller-pc/
DUALSHOCK4 は元々 PS4 専用コントローラーとして作られているので
PC 用ではないコントローラーはDXライブラリのサポート外だと思います。
（PS4用DXライブラリも提供されていますが、PC用とは別物です）
なので、「InputMapper」等のソフトなしで
StartJoypadVibration で DUALSHOCK4 を振動させるのは諦めた方が良いと思います。
ちなみに、以下の過去のスレッドも参考になるかと思います。
[参考]コントローラの振動に関して。（URLの先頭に「h」を付けてください）
ttps://dxlib.xsrv.jp/cgi/patiobbs/patio.cgi?mode=view&no=4836
