エントロピー - 通信用語の基礎知識

物質または場からなる系の状態量の一つで、熱力学的系が温度Tの熱源から熱量ΔQを吸収する可逆な微小変化において、ΔS=ΔQ/Tとおいた場合の状態量Sのこと。示量変数。

語源

エントロピーという言葉はギリシャ語のεν=in、τρεπειν=turningにちなみ、1865(慶応元)年にRudolf Julius Emmanuel Clausius(ルドルフ・クラウジウス)が導入したものである。

エントロピーは主に次のような性質を持つ。

エントロピーは系の熱力学的状態だけに依存する状態量であるので、ある状態Aから別のある状態Bへの可逆変化の経路に沿ってΔQ/Tを積分したものは、その経路に無関係に状態A,B各々におけるエントロピーの差に等しい。

熱力学におけるエントロピーの定義

上と同じ理由により、系Aと系Bの合成系の系Cにおけるエントロピーは系A,B各々のエントロピーの合計である(示量変数)。

閉じた系が勝手に起こす変化ではエントロピーは常に増大する(エントロピー増大の法則=熱力学第二法則)。

絶対零度におけるエントロピーは0である。

しかし、絶対零度を作り出せないので、エントロピーの絶対量も測れない。

エントロピーは元来は熱力学における言葉であったが、ボルツマンによって、統計力学にも導入された。

統計力学においては、エントロピーは状態数Wの対数をとったものに比例するが、熱力学におけるエントロピーとあわせるために比例定数としてボルツマン定数k_bを使用する。

統計力学におけるエントロピーの定義は

S=k_b·log W

エントロピーは情報量を表わすことにも使われ、これを特に情報エントロピーと呼ぶ。

マクスウェルの悪魔のパラドックスは、悪魔の持つ情報エントロピーが負であるということによって説明できる。

情報エントロピーの定義は

H=-ΣP(i)log₂

P(i)=- Σ P(j)P_j(i)

log₂ P_j(i)

現在では、さらに環境エントロピーというものも現われており、様々な分野で使われるようになって来ている。

なお、エントロピーの次元はML²T⁻²θ⁻¹である。

用いる単位は使用する単位系によって異なり、SI単位系だとJ·k⁻¹である。

それ以外にもボルツマン定数k_bや、気体定数Rでもってエントロピーの単位とするという考えが存在し、情報エントロピーだとビットを使用することもある。