ウインドウにオリジナルのスタイルを使用する関数はありませんが、
幾つかのスタイルを事前に用意していて、関数 SetWindowStyleMode を呼ぶことで
変更することができます
// メインウインドウのスタイルを変更する
int SetWindowStyleMode( int Mode ) ;
// Mode の値
// 0 :デフォルト
// 1 :タスクバーなし
// 2 :タスクバーなし枠なし
// 3 :枠なし
// 4 :何もなし
// 5 :最小化無し
// 6 :ツールバーに適したウインドウ
// 7 :最大化ボタンつきウインドウ、初期状態が通常サイズ
// 8 :最大化ボタンつきウインドウ、初期状態が最大化状態
// 9 :デフォルトに縁の立体化無し
// 10 :最大化ボタンつきウインドウ、縁の立体化無し
// 11 :閉じる無し、最小化無し
ウインドウの半透明化はスタイルとは別で、最近こちらのスレッドにサンプルを載せましたので
よろしければご覧ください
http://hpcgi2.nifty.com/natupaji/bbs/patio.cgi?mode=view&no=3158