受信信号から送信シンボルを判定する方法について概観します。 このページは最尤系列推定と最大事後確率判定への導入です。
本題に入る前に、通信で使われるパルスってどんなものかを知っておく必要があります。 詳しくは、帯域制限パルス、ナイキストパルス、アイパターンを参照していただくとして、ザーッと整理しましょう。 ディジタル通信では、与えられた周波数帯域（チャンネル）にパルスの全エネルギーを押し込めて通信します。 しかし、帯域制限されたパルスは、振動的に減衰しますが、完全に消えて無くなることはありません。 シンボルが正確に受信されなければならないという前提のもとで、１秒間に送ることのできるパルスの最大個数は標本化定理で決まります。 すなわち、周波数帯域を
すると、最大で
パルス／秒となります。 この最大速度を実現するパルスは、標本化関数と呼ばれている
ですが、そのスペクトルは帯域の端から端まで使った矩形をしています。 矩形スペクトルは数学的には想像できますが、実現不可能です。 実用では、スペクトルの肩を滑らかに落としたスペクトルを使います。 この操作をロールオフと言っていますが、その結果得られるパルスの一例を下に示します。 振動しながら減衰していますが、パルスが等間隔に
（1/W秒毎に）ゼロ交叉していることに注意してください。 そうです、このゼロ交差点を目がけて次々と正と負のパルスを送ればパルスの振幅（
+1 か -1 か）は不変ですね。 このことを利用して 
パルス／秒 の速度を実現します。
このパルスで２値伝送するベースバンド信号
のアイパターンは下図のように、綺麗に開いています。
もし、このベースバンド信号が変形されずに受信できれば、アイパターンのちょうど中央
でサンプルすると、
なので、正確なシンボル判定が得られます。
以上はパルス通信の原理です。 ちょうど
でサンプルするということも理想的な話です。 実際、サンプリングのタイミングをアイの真ん中付近に合わせるという制御はかなりやっかいそうです。 現実の世界に戻りましょう。 実はアイは開いていないのが普通なのです。 それぐらいパルスは崩れて受かっています。 「アイの真ん中にサンプリングのタイミングを合わせる」ということは元々出来ないのです。 しかも移動通信などでは波形歪みが時間的に変動するので、アイパターンが時間変化します。 次に、もっとも困難な通信障害は雑音です。 もし雑音がなけければ、パルスがどんなに歪んでも、正確に送信信号を復元できるので、理論的に言えば、無限の速さのディジタル通信を実現することができます。
さて本題に入ります。 受信機の設計でもっとも重要なポイントは、受信信号
から、波形歪みと雑音を克服して、いかにして最小の誤り率で送信シンボルを判定するかということにあります。 受信パルス
は等間隔ゼロ交叉を満たしていません。 高速に時間変化することもあります。 
は雑音です。 雑音といっても、伝送媒体によって異なります。 光ファイバー通信では雑音はショット雑音であり、上のように加法的ではありません。 金属線やマイクロ波などでは加法性を仮定でき、通常は加法的白色ガウス雑音(AWGN: Additive White
Gaussian Noise )を前提とします。 CATVなどでは、家庭内の電子機器から集まる流合雑音が大きな障害ですが、これは特定の周波数にエネルギーが集中した有色雑音です。
波形歪みを解消して、シンボル判定に至る方法は大きく二つに分類だれます。
A:チャンネルを等化する方法
受信信号をフィルター（等化器）に通して、受信パルスを等間隔ゼロ交叉するように修復しようという考え方です。 正確には、等化器の出力
のサンプル値と送信シンボル 
の平均自乗誤差
を最小にする等化器
を実現する問題です。 等化器は、チャンネルの逆システムを求めているようなものです。 したがって、もしチャンネルが帯域内にスペクトルヌルをもつと、この逆は無限大に発散するスペクトルを実現しなければなりませんから、等化不能です。 等化方式が用いられるケースは、ＡＤＳＬやＣＡＴＶや基幹回線などの、良くデザインされた媒体を用いた場合です。
上の図では、等化器の入力がアナログ信号なので、等化器もアナログ回路になっています。 実際には、ディジタル回路で実現しますが、この構成には理論的な意味があり、評価関数
を厳密に最小化する問題を表現しています。 これに関しては最適受信フィルタを参照してください。 実用されている等化の方法は次の二つのどちらかになっています。
それぞれ一長一短がありますが、整理すると以下のようです。
シンボルレート等化方式の特徴
- 真の最適受信フィルターを実現しない。 ただし、バンドパスフィルターを整合フィルター(Matched Filter )で実現できれば、最適に非常に近い等化性能を実現できる。
- あるサンプリング位相でスペクトル・ヌルが生じ、等化性能が著しく劣化する場合がある。
- 受信信号の電力スペクトルがフラットなときは収束速度が速いが、スペクトルが落ち込んでいると収束は遅くなる。
ダブルサンプリング方式の長所と短所
- 長いチャンネル応答に対して、等化器の規模（タップ数）が大きくなる。
- 適当なパンドパスフィルターに対して、最適受信フィルターが実現できる。 整合フィルターが不要。
- サンプリング位相に関わらず、等化性能は一定。
- 最適受信フィルターまで収束させるためには長い収束時間が必要。
等化アルゴリズムは適用する局面によって３つのタイプに大別できます。 第１は、受信側で送信シンボルが予め分かっているタイプです。 これを強制等化 ( force trainig )といいます。 第２は、送信シンボルは分かっていないが等化出力を一番近いシンボルに仮判定したとき、それがかなり高い確率で送信シンボルを与える場合です。これを仮判定等化 ( decision directed )といいます。 第３は、等化出力と送信シンボルの対応がまったくつかない場合です。この場合に用いる等化をブラインド等化 ( blind equalization )といいます。 ディジタル情報がフレーム構造で間歇的に送られる場合は、フレームの頭に既知のランダムシンボルを置き、この間に強制等化を高速に実行し、続くテキスト区間では仮判定等化で最適状態を維持します。 一方、ディジタル情報が切れ目なく送られる場合は、既知ランダムシンボルを挿入することができないので、ブラインド等化を実現しなければなりません。
B：チャンネルを同定する方法
等化器はチャンネルの逆システムを実現しました。 しかし、もしチャンネルが帯域内にスペクトル・ヌルをもつと逆システムは実現できません。 スペクトル・ヌルは移動通信では頻繁に生じます。 基地局と携帯電話は複雑な構造物で遮蔽されているのが普通であり、信号はマルチパスを経由して到達します。 しかも、携帯電話は移動するので、マルチパスは時間変化します。 いわゆるレイリーフェージングが発生し、スペクトル・ヌルが頻繁に発生ます。 この問題を解決するために、移動通信ではチャンネルを同定してシンボル判定を行います。 下図は同定方式をモデル化したものです。
起こりうるすべての送信シンボル系列を、順番にチャンネルモデルに入れて見て、推定誤差が最小になるものを選択します。 この方法では、スペクトル・ヌルがあってもチャンネルを同定できます。 多くの場合、シンボル判定は成功します。 ただし、送信シンボル系列のエネルギーがスペクトル・ヌルの近傍に集中しているときは、判定が困難となります。
理論的に言えば、自乗誤差の期待値
を最小にする送信シンボル系列の候補を見つける問題といえます。 ただし、期待値はあくまでも概念的なものですから、実際には自乗誤差の時間平均をとります。
時刻
がどんどん大きくなると、上の式に含まれる送信シンボル候補の数は指数関数的に爆発してしまいます。 これを避けるには、ダイナミック・プログラミングを応用したビタビ・アルゴリズムを用います。 雑音が白色でないと、上のモデルはもっと複雑になります。 また、チャンネル応答が予め分からないときは、もっとやっかいなことになります。 等化方式と同様、ブラインド的に送信シンボル系列を推定しなければなりません。 この問題を解決するため、ブラインド系列推定が開発され、現行携帯電話などに広く応用されています。