C2020J3さん,こん**わ.
レスがつかないようなので,半可通な私ですが,書き込ませていただきます.
質問のご主旨に適っているかどうかわかりませんので,外れていたらご容赦ください.
JT65にしろ,FT8にしろ,基本的には相関性を利用して雑音を抑え,信号だけを取り出す技術です.
雑音に埋もれた信号を取り出すようすは,(アベレージングと畳み込み積分は別物ですが)スペアナのアベレージング表示画面に似ていると思います.
すなわち熱雑音のようなランダムな雑音は,繰り返し平均化していくと消えてゆきます.一方,たとえば搬送波が一定周波数の信号は,スペアナが何度もスイープしても同じ周波数にピークが表れます.たとえ搬送波が雑音に埋もれていても,RBW(IF帯域幅)を絞って雑音電力を下げ,さらにアベレージングすれば,雑音に埋もれた信号が見えてきます.雑音電力NはkTBに比例して増大しますが,帯域幅Bを狭めれば下げることができるからです.(kはボルツマン定数,Tは絶対温度)
JT65やFT8では,これと似たようなことを雑音に埋もれた既知のパターンをもつ繰り返し信号のサンプリング値に対して行います.
そのためには時刻と周波数が同期している必要があります.2値シグナリング(HighかLowか)の有線通信なら時刻同期だけで済みますが,無線通信の場合は周波数も同期(一致)している必要があります.同期が確立してしまえば,ペイロード部分は畳み込み積分によって,相関性が低い雑音成分は抑圧され,相関性の高い成分だけが残るので,信号を取り出せます.
添付いただいた資料(ft8syncv8.pdf)のコスタス行列は,x軸を時間軸,y軸を周波数軸として表したものです.コスタス行列は同じ行に,同じ数がたった1回しか登場しないような特殊な組み合わせの配列です.
時間軸の同期は3Gセルラー(DSSS/CDMA)の同期方法と似ていますから,原理を理解するにはスペクトル直接拡散方式に関する文献が参考になると思います.たとえばRFワールドNo.31特集です.
周波数軸は帯域ごとにFFTを行って周波数ずれを補正します.FFT/逆FFTは周波数領域と時間領域を変換する技法です.一般的なディジタル信号処理の解説書では,さらりと書いてあるだけですが概念はわかると思います.具体的に詳しく解説したものは思い当たりません.たとえばRFワールドNo.22特集は,FFT/IFFTのソースコードが公開されていているので,ソフトウェアによる実装方法の参考になるかも知れません.