ほとんどの通信は、周波数帯域の使用が許可されて始めて可能になります。 そして、信号の周波数成分（スペクトル）はこの帯域からはみ出ないようにしなければなりません。 ディジタル通信はパルスを使って情報を送りますが、このパルスのスペクトルを定められた帯域内に厳密に制限します。 そのようなパルスのスペクトルは下の式および図のように余弦ロールオフで設計されるのが普通です。 Wの単位は Hz です。
余弦ロールオフ
上の図から、使用される帯域幅は 
(Hz) になることがわかります。 ロールオフ率１０％ (
) としてフーリェ逆変換すると、次のようなパルス波形が得られますが、これが通信で使われているパルスです。
一般に、帯域制限されたパルス波形は振動しながら減衰しますが、永遠にゼロになってしまうことはありません。 ナイキスト (Harry Nyquist, 1889-1976) パルスはこのようなパルスの一つですが、この形をよく見ると、ピーク以外で等間隔にゼロ交叉していることがわかります。 この条件をナイキスト条件と呼び、これを満たすパルスをナイキストパルスと呼んでいます。 実際のディジタル通信では、このナイキストパルスが送信機から送り出されますが、等間隔ゼロ交叉の性質が重要な働きをしているのです。 たとえば、正のパルスと負のパルスでディジタル情報を送ることを考えてみてくだい。 もっとも安全な送り方は、パルスの裾が十分減衰してから次のパルスを送り出すことです。 しかし、これでは単位時間に送れるパルスの個数が少なく、もっと多くのパルスを送りたいという欲求が生じます。 そのためには、前のパルスの裾が減衰しないうちに次のパルスを重ねて送る必要があります。 このことを実現することが高速ディジタル通信を実現する一つの重要なポイントなのです。
まず、ナイキスト条件の一般化をしておきましょう。 パルス 
を 
を中心に周期 
秒でサンプルすると、そのサンプル値列は
のようになります。ナイキスト条件は、すべての整数 
について、
を満たすことです。 この条件をパルスのスペクトル 
に反映してみます。 まず、
ですが、
は周期が 
の 
の周期関数ですから、
のように変形できます。 この形は｛ ｝内の関数をフーリエ級数展開していることを表しています。 すべての
について上の式がゼロになるためには、｛ ｝の中味が恒等的に定数でなければなりませんので、ナイキスト条件のスペクトル表現は、
となります。 もし、
が帯域幅 
に制限されているならば、上の総和から関係のない項を省いて、
のようにわかり易い形に書けます。 一般に、
は複素関数でもかまいませんが、実関数とすれば、
で 
であり、この点を中心に点対称のロールオフ特性を持たせればナイキスト条件が満たされます。
たとえば、下図のように直線で切っても、階段状に切っても、いいわけです。
直線ロールオフと階段ロールオフ
さて、ナイキスト条件を満たすパルスがなぜディジタル通信で重要かを説明しましょう。
送信シンボルを
で表します。 たとえば、
ならば２値伝送、
ならば４値伝送です。 
の多値数が多ければ、一つのパルスでたくさんの情報をいっぺんに送れますから能率が良くなります。 しかし、現実には雑音が加わりますから、同じ送信電力で比較すると、受信側のシンボル判定の誤り率は多値数を上げてゆくとどんどん悪化します。 どれくらいの多値数で実現するかは、実際の重要な設計パラメータになります。 シンボル系列 
を送るベースバンド信号は
のように与えられます。 これを、現在時刻 
でサンプリングしてみると、
となり、第１項が現在時刻に送られたシンボルの情報を表し、第２項は前後のシンボルに起因するランダムな不要成分を表しています。 この項を符号間干渉
(Inter-symbol interference ) と呼んでいます。 もしパルスが等間隔ゼロ交叉していれば、第２項は必ず消滅しますから、正確にシンボル
を受信することができます。
ただし、このことはちょうど時刻
で 
をサンプルできることを前提にしています。たとえば、
のように遅れた位相でサンプルすると、現在時刻 
でのサンプル値は
のようになり、第２項の符号間干渉は非ゼロとなりシンボルの判定誤りを引き起こします。 この様子を直感的に理解するために、アイパターンを描きます。 これは、現在時刻を中心とする時間区間
に、過去未来のベースバンド信号 
を幅 
秒で切り取った波形を重ね書きしたものです。 正確に言えば、ランダムなシンボルを送信している
の区間 
の波形の断片を現在区間 
に移して描き、これをすべての 
について行うということです。 この結果、下図のようなアイパターンが得られます。 横軸は時間、縦軸は信号の電圧値です。
４値アイパターン
中央に開いた３つの空白の領域をアイ(eye)と呼んでいます。 アイが開いていれば、この中央でサンプリングすれば正確にシンボルが判定できます。 もし、サンプリング位相 がゼロでなければ、アイの中央からずれてサンプリングすることになり、正確なシンボル判定ができません。 そして、サンプリング位相が限界を超えると、シンボル判定が確実に誤ることが分かります。 サンプリング位相を、ちょうどアイがもっとも開いている位置にコントロールすることをタイミング位相制御と言っています。 ただし、パルスがチャンネルを通過すると必ずチャンネル歪を受け、せっかく送信信号がナイキスト条件を満たしていても、受信時点でアイは閉じてしまいます。 こうなると、どこでサンプリングしてよいか分からなく、タイミング位相制御する意味もなくなり、大変困難な壁にぶっつかります。 この問題は、まさにモデム設計の重要なポイントであり、いろいろな判定理論（等化器、最尤系列推定、最大事後確率判定など）につながります。