モデムモードの動作確認は、2つのステップに分かれます。
メディアコンバータとの通信ができるかどうか、その次に、相手機器とデータの通信ができるかどうかです。
モデムモードは独自のコマンド解釈が必要ですので、相手の機器として何もない状態でしたら、パソコンとサンプルプログラムを使用して代用するのが便利です。
メディアコンバータとの通信ができるかどうかは、モデムコマンドサンプルで確認します。
モデムコマンドを送信して、戻り値に応答内容が表示されるかどうかで、正常に通信できているかどうかがわかります。
各モデムコマンドについては、モデムコマンドを参照してください。
パソコン同士で通信を行なう場合、ケーブルは以下のように接続します。

動作確認には、モデムデータ送受信サンプルを使用します。
モデムデータ送受信サンプルは、パソコンの本体COM(COM1,COM2)で動作しますので、同じサンプルをPC(1)とPC(2)の両方で起動して、両方とも本体COMであればCOM1に設定し、相手機器IDと送信元機器IDを指定して、送受信を行なってみてください。