1. 概要: エントロピーとは
   • ルールの設定
   • 取りうるパターンの総数 W
   • W と S の関係: なぜエントロピーに log が出てくるのか
2. 熱力学のエントロピー
3. 「時間は存在しない」読書メモ

概要: エントロピーとは

ルールの設定

文献 1 をもとに、情報の総数 W から、新しい概念として 情報量 (エントロピーと同じ) S を定義する 部分をまとめる。極度に省略したメモ書き程度なので、必要に応じて本を読むこと。

以下のように、適当な数列を考えてみる。

1) 2312456346433142543126
2) 1222112122111121121211
3) 1212121212121212121212

数列 1 は「1 から 6 までの数字をランダムに繰り返す」という規則に基づいて作られた数列。サイコロを振った目を並べた感じ。2 は「1 と 2 をランダムに繰り返す」という規則、つまりコインの裏表。3 は「1 と 2 を交互に繰り返す」という規則に基づいた数列である。

感覚的に、「でたらめさ」が大きい = 情報量が多い度合いは 数列 1 > 数列 2 > 数列 3 と言える。この「でたらめさ = 情報量」という概念を S として、これを定式化することを試みる。最終的に S がエントロピーということになる。

ここでは「数列」 1, 2, 3 と表現したが、実際にこれは「ルール 1, 2, 3」と表現した方が正確である。たとえば数列 1 は途中までしか書いておらず、本当に「1 から 6 までの数字をランダムに繰り返す」というルールに基づいたものか明らかでないためである。もしかすると「2312456346433142543126 という数字を 1 回繰り返す」というルールかもしれない。この場合、数字の列を長くしていくと「でたらめさ」は明らかに「1 から 6 までの数字をランダムに繰り返す」場合よりも小さい。

そこで、今後は上記の「ルール」1 から 3 について考える。

取りうるパターンの総数 W

数字が 1 - 3 のルールに基づいて n 個並んでいるとき、取りうる全てのパターンの総数を W とする。明らかに

• ルール 1 では W = (1/6)ⁿ
• ルール 2 では W = (1/2)ⁿ
• ルール 3 では W = 2 (1 から始まる場合と 2 から始まる場合があるので)

それぞれ W₁, W₂, W₃ とすると W₁ > W₂ > W₃ であり、W が大きいほど 情報量 S も大きい という関係がありそうである。上記の「感覚」に基づいている関係ではあるが。

W と S の関係式

ここで W と S の関係を考えてみる。右の耳からルール 1 の数列を、左の耳からルール 2 の数列を聞いたとしよう。このとき、あなたは 2 つの数列を覚えることになるので、情報量の総和 S_total は、ルール 1 およびルール 2 の情報量をそれぞれ S₁, S₂ とすると

と単純に和になるはずである。モールス信号で二つの指令を受け取ったと考えても良い。ただし、2 つの指令は互いに独立であるという条件付き。

ところで、取りうるパターンの総数 W_total は、W₁ の一つ一つに W₂ があると考えられるので、ここは掛け算になる。すなわち

この 2 つを満たす W と S の関係式は、

である。ここで log が登場することになる。k および底は何でもよく、k=1、底=2 とすると情報科学のエントロピー、k をボルツマン定数に、log を自然対数 ln にすると熱力学のエントロピーになる。

熱力学のエントロピー

熱力学のエントロピーについて、もう少し考えてみたい (2)。

エントロピー S の単位は JK^-1 になり、絶対温度との積 TS が、エンタルピー H とともに化学変化の方向を決める要因となる。

として、ΔG が負の場合 (つまり、物質系がエネルギーを失う方向の場合) には、反応が自発的に進む。G を Gibbs の自由エネルギー という。

「時間は存在しない」読書メモ

エントロピー増大の法則 (熱力学の第二法則) が時間の根拠であるという内容なので、とりあえずここに置いておく。

時間の流れは一様ではない。例えば山では早く、平地では遅い。質量はその周辺の空間において時間を減速させ、物体はそこに向かって「落ちる」。これが重力。早く動いている物体は、時間が遅くなることも知られている。

全ての点に固有の時間がある。一様の時間の中で出来事が起こる、「時間 t」という変数をもつのは古典物理。事物がそれぞれの時間の中でどう動くか、または時間同士がどう相互作用するかを記述したのが相対性理論。

では、時間の流れはどうか。それぞれの点で速さは違うものの、全ての時間は過去から未来へ一方的に流れているように見える。しかし、基礎的な物理式のなかで唯一時間を認識するのは、熱力学の第二法則、エントロピー増大の法則である。エントロピーの提唱者・名付け役はクラウジウス。発想のもととなったのは、カルノーの論文だった。カルノーは、熱が実在する何かだと考えていたが、ボルツマンは熱が分子振動であると考えた。

時間の流れとは、エントロピーの増大である。しかし、エントロピーの高低は「主観的」である。たとえば、1111100000は1011101010よりも「整然としている」つまりエントロピーが低いが、このパソコンのモニターを原子レベルで見ると、明確な違いはない。原子の分布を近似的に、曖昧にみたときに、片方が一見整然として見える1と0の並びが浮かび上がってくるにすぎない。

宇宙全体で通じる「現在」という概念は存在しない。数光年離れたところで、「今」何が起こっているかという問いはナンセンス。時間は自分たちを囲む「泡」のようなもので、たとえば地球全体では数ミリ秒の差を無視することで「現在」という感覚を共有しているに過ぎない。

どの出来事にも未来と過去があるが、遠く離れた宇宙では、それらは交わらないこともある。

ニュートンの方程式には時間 t があり、これは彼が仮定した「何も変化がなくても流れる絶対的な時間」である。この考えはいま常識のようになっているが、アリストテレス以来、ニュートン以前では、時間は事物の変化を測定するための方法にすぎなかった。

アインシュタインは、重力場という概念でこれらを統一した。重力場は、しかし一様でも絶対的でもない。伸びたり縮んだりして、その結果、それぞれの場所での時間の流れが変わったりする。重力場が「真の絶対的時間」であり、これが存在するというニュートンの考えは正しかったが、それは不動のものではなかった。他の事物と干渉しながら変化するもので、この意味においてアリストテレスも正しかった。

しかし、この「伸び縮みするシート的な重力場」という概念も完全でない。なぜなら量子的に考えなければならないから。電磁気学では、電場や磁場に量子論的な揺らぎがあると仮定しても、その効果は限定的で、大きな問題は起こらなかった。重力場が、粒であり、不確定であり、他との関係に依存するという量子の性質をもつと、どういうことになるのだろうか。これはまだ実験的な裏付けや定説がない分野のようだ。

プランク時間10^(-44)秒が最小単位で、時間は不連続である。プランク長は10^(-33)cm。これらの点は揺らいでいて、過去と未来を規定する光円錐も揺らいでいる。したがって、ある事象は、他の事象の過去でも未来でもあり得るという現象が成立することになる。

また、量子の性質として、他のものと相互作用したときには値が定まるというのがある。光スリットの実験のように。この場合、電子の位置はスクリーンに対しては相互作用で一意的になるが、電子 + スクリーンとその他の事物という関係では不確かなままである。

エントロピーが増大するのは全宇宙に適用できる法則と仮定すると、宇宙が始まったときにはエントロピーが低かったという事実を天下り的に受け入れなければならない。この本では、宇宙の中にエントロピーが初期に低かった物理系があり、我々はその物理系で生きているとする。

過去と未来を区別するのは、過去はエントロピーが低かったという事実のみである。ただし、これも宇宙に無数にある視点の一つにすぎない。

References

1. 堀 (1979). エントロピーとは何か - でたらめさの効用.

2. ギブズ自由エネルギーとはなにものか？ Link: Last access 2018/02/11.

コメント欄

サーバー移転のため、コメント欄は一時閉鎖中です。サイドバーから「管理人への質問」へどうぞ。

↑