第１図に示す，前向き伝達要素；Ｇ(ｓ)とフィードバック要素；Ｈ(ｓ)からなる自動制御系の一巡伝達関数は，Ｇ(ｓ)Ｈ(ｓ)である．

一巡伝達関数の周波数伝達関数；Ｇ(jω)Ｈ(jω)のベクトル軌跡をナイキスト線図という．
このナイキスト線図を用いた制御系の安定判別法をナイキストの安定判別法という．

第２図において，円；Ｏは半径１の円であり（ＯＡ＝ＯＰ＝ＯＢ＝1），図中ＯＱ＝0.5であるものとする．
ナイキスト線図は角周波数ωが0から∞まで変化したときのＧ(jω)Ｈ(jω)（もし直結フィードバック；Ｈ＝１の場合はＧ(jω)そのもの）のベクトル軌跡（＝Ｇ(jω)Ｈ(jω)が複素平面上で描く軌跡）である．
ＯＰが形成する偏角（∠ＡＯＰ）を−105°とする．［角度の測り方はベクトルの考え方のとおり，反時計回り＝左回りを正，時計回り＝右回りを負とする．］
第２図のように，Ｇ(jω)Ｈ(jω)がω；0→∞に変化する際に描くベクトル軌跡が図中点Ｂ；（-1＋ｊ0）を常に左側に見て進むときには，前向き伝達要素；Ｇ(ｓ)，フィードバック要素；Ｈ(ｓ)からなるフィードバック制御系は安定である．

これに対し，第３図の曲線Ｃ₁のようにナイキスト線図が点；（-1+j0）を一度でも右に見て進むときには，同フィードバック系は不安定であり，曲線Ｃ₂のようにナイキスト線図がちょうど点；（-1+j0）を通るときには，同フィードバック系は安定限界である．
［解説］ここでいうところの「ナイキスト安定判別（法）」は厳密には「ナイキストの簡易安定判別（法）」というべきもので広義の「ナイキスト安定判別（法）」の一部をなすものである．
ナイキストは電子回路の学者であり，もともとナイキストの判別法は正フィードバック系（←自動制御系は負フィードバックである）の発振条件の判別に使われたものである．
すなわち，正フィードバック系が不安定⇔発振する，正フィードバック系が安定⇔発振しないの原理で使用されたものである．後に，これをアレンジして，自動制御系＝負フィードバック系の安定判別に使用されるようになった．

第２図において，-20log₁₀|ＯＱ|＝-20log₁₀0.5＝6.02[dB]をゲイン余裕という．
また，位相；-180°を基準に測ったゲインが0[dB]になる点の偏角（図中ＯＢを基準に左回りに測ったＯＰの偏角（∠ＢＯＰ＝-105°−(-180°)＝75°）を位相余裕という．次項でナイキスト線図とボード線図の間の相関性を示す．
［参考］場合によっては，図中ＢＱ＝1−ＯＱをゲイン余裕と定義する場合があるがあまり適切ではない．このように定義すれば，ゲイン余裕をデシベルで表示することができず，定量的な評価ができないことになり，ボード線図上でのゲイン余裕と対応しなくなる．

第４図のように横軸に（角）周波数を対数目盛で，縦軸にデシベルで表したゲインおよび度（°）で表した位相を等間隔目盛で，一巡伝達関数（＝閉ループ伝達関数）のゲイン曲線および位相曲線をセットで描いた線図をボード線図という．
第２図のナイキスト線図におけるゲイン余裕と位相余裕がボード線図上でどのように表されるかを理解されたい．


ボード線図上でのゲイン余裕および位相余裕は，第５図および第６図におけるＸ[dB]およびＹ[°]である．ここで，第５図の場合はフィードバック系は安定（Ｘ＞0かつＹ＞0）で，第６図の場合は不安定（Ｘ＜0，Ｙ＜0）である．ここではゲイン余裕および位相余裕の測り方に注意されたい．

［問�T］

第７図のように，一次遅れ要素の直結フィードバック系がある．この自動制御系においてつぎの問に答えよ．
(ａ)この系において，出力；Ｃ(jω)の位相が入力;Ｒ(jω)の位相に比べ60°遅れるときの角周波数ωの値はつぎのどれか．
(1)5√2
(2)25
(3)20√2
(4)20√3
(5)30√3
(ｂ)ωが(ａ)で求めた値のときのこの系全体のゲイン[dB]の値はつぎのどれか．
ただし，log₁₀2＝0.301，log₁₀11＝1.041とする．
(1)3.42
(2)6.84
(3)-3.42
(4)-6.84
(5)-10.26
［問�U］


第８図に示した直結フィードバック系がある．この系のナイキスト線図が第９図のようになるという．つぎの問に答えよ．
(ａ)点Ａの座標(0，-ja)におけるa(＞0)の値はつぎのどれか．
(1)1.59
(2)3.69
(3)4.24
(4)4.87
(5)5.05
(ｂ)点Ｂの座標(-b，j0)におけるb(＞0)の値はつぎのどれか．
(1)0.45
(2)0.50
(3)0.75
(4)1.00
(5)1.25
(補問)この系におけるゲイン余裕[dB]はいくらか．
［問�T解答］
(ａ)この系の総合伝達関数は，

であり，位相が60°遅れるための条件は，
0.55ω/11＝tan60°＝√3
である．
∴ω＝(√3×11)/0.55＝20√3
である．
(ｂ)ω＝20√3のとき，0.55ω＝11√3
ゆえにこの系全体のゲイン[dB]は，
ｇ＝20log₁₀｜10/(11＋j11√3)｜＝20log₁₀{10/(11×2)}
＝20(log₁₀10−log₁₀11−log₁₀2)＝20(1−1.041−0.301)＝−6.84[dB]
である．
(注)本問はフィードバック系全体の位相差およびゲインを求めているものである．一巡伝達関数のゲインマージン＆位相マージンの問題だと早とちりすれば正解は得られない．いつの場合もそうであるが，題意をよく理解することが大切である．
［答］(ａ)−(4)，(ｂ)−(4)
［問�U解答］
(ａ)前向き要素の周波数伝達関数の分母は，
(1＋jω)(1＋j2ω)²＝(1＋jω)(1＋j4ω−4ω²)
＝１−8ω²＋jω(5−4ω²)
この式において，Ａ点ではその実数部が0であり，Ｂ点ではその虚数部が0になる．
1−8ω²＝0とおいて，
ω＝√2/4
このときの分母の値は，
j(√2/4){5−4(√2/4)²}
＝j4.5√2/4
これよりＡ点の虚数部は，
6.75/j(4.5√2/4)＝−j4.24＝-ja
∴a＝4.24
(ｂ)つぎにＢ点では，分母の式で，虚数部＝0とおいて，
5−4ω²＝0
（ω＝0は不適当で除外） ∴ω＝√5/2
このときの分母の値は，
1−8(√5/2)²＝−9
これよりＢ点の実数部は，
6.75/(−9)＝−0.75＝−b
∴b＝0.75
［答］(ａ)−(3)，(ｂ)−(3)
［補問解答] ゲイン余裕＝−20log₁₀0.75＝2.499[dB]（ゲイン余裕が正である（位相余裕はナイキスト線図の形状から正であるといえる）のでこの系は安定である．）