マスク画面を設定後、アンチエイリアス効果付きの図形描画をした場合上手くマスクされないみたいです。
例えば、CreateMaskScreen の説明にあるサンプルプログラムで、
DrawBoxをDrawBoxAAにすると何も表示されなくなってしまいます。
(DrawBoxの状態では正常に表示される事は確認出来ました。)
#include "DxLib.h"
int WINAPI WinMain( HINSTANCE hInstance, HINSTANCE hPrevInstance, LPSTR lpCmdLine, int nCmdShow )
{
int MaskHandle ;
if( DxLib_Init() == -1 ) // DXライブラリ初期化処理
{
return -1; // エラーが起きたら直ちに終了
}
// マスク画面を作成します
CreateMaskScreen() ;
// マスクデータをロードします
MaskHandle = LoadMask( "testMask.bmp" ) ;
// ロードしたマスクデータを画面の左上に描画します
DrawMask( 0 , 0 , MaskHandle , DX_MASKTRANS_NONE ) ;
// 画面いっぱいに赤い四角を描きます
DrawBoxAA( 0 , 0 , 640 , 480 , GetColor( 255 , 0 , 0 ) , TRUE ) ;//←ここをアンチエイリアス効果付きに変更
// キーの入力待ちをします
WaitKey() ;
// マスクデータを削除します
DeleteMask( MaskHandle ) ;
// マスク画面を削除します
DeleteMaskScreen() ;
DxLib_End() ; // DXライブラリ使用の終了処理
return 0 ; // ソフトの終了
}