XMODEM は、8 bit コード ($00-$FF の文字すべて)を完全に通す回線を用いないと使用できません。
Dataが 7 bit だったり、フロー制御が Xon/Xoff だったりすると、XMODEM が使えません。[Setup] Serial port で Data を 8 bit にし、Flow control を hard (CTS/RTS) か none にしてください。モデム(ホスト)側の設定も同じにしてください。
もし正しく転送できない場合はバイナリオプションで telnet 接続してみてください。
バイナリオプションで接続するには、
どうしても正常に転送できない場合は、ホスト側の XMODEM コマンドを正しく設定および使用していることを確認した上で、XMODEM のログを取り、作者に送ってください。