cover of episode 友だちと親しくなる=情報量の期待値が減る【情報理論3】#11

友だちと親しくなる=情報量の期待値が減る【情報理論3】#11

2022/3/13
logo of podcast ゆるコンピュータ科学ラジオ

ゆるコンピュータ科学ラジオ

Frequently requested episodes will be transcribed first

Shownotes Transcript

情報理論3本目。「同じ人と飲むのが嫌いな理由はエントロピー」「1bitって何?(ファミコンの絵のことではない)」「友だちと親しくなることは、エントロピーが減ること」など、ポップな話と数式を交互に行き来します。

【目次】

0:00 同じ人と飲み続けるのが嫌な理由は「エントロピー」

0:33 情報量を計算してみよう。1bitって何?

9:12 「人が犬を噛んだ」は情報量が大きい(ベタ例文)。あとマクラーレンのイップス。

13:08 エントロピーをざっくり言うと「情報量の期待値」

18:15 最近の赤ちゃんの性別のエントロピーはゼロのことが多い。

22:57 偏っているとエントロピーは小さい

25:03 初代ポケモン四天王誰が好き?のエントロピー

33:40 友だちと親しくなるということは、エントロピーが減ること

【参考文献のリンク】

○『通信の数学的理論』

https://amzn.to/3taByzE

→今回のメイン種本。丸ごとシャノンの論文なので難易度は高いが、語り口は意外に堅苦しくない(1940年代の工学論文はそういうトレンドだったらしい)

○『情報理論』

https://amzn.to/3tiWcxI

→研究者によるシャノンの論文の解説。今回の参考文献の中では語り口がいちばん面白いのでオススメ。

○『シャノンの情報理論入門』

https://amzn.to/3tay4Np

→雰囲気だけ分かりたい時におなじみのブルーバックス。とはいえ、ブルーバックスの割にはそこそこ数式も出てきてそれなりに理解できる。

○『情報はなぜビットなのか』

https://amzn.to/3piB5tS

→情報理論の本だと思って読んだらそうでもなかった。「コンピュータって何ができるの?」っていうよもやま本。情報理論の話もちょっとだけある。いちばん平易。

○『教養悪口本』

https://amzn.to/3pkKS2B

→堀元の著書。シャノンの情報理論も悪口として活用しています。買ってね(ダイレクトマーケティング)

【サポーターコミュニティ加入はこちらから】

https://yurugengo.com/support

【親チャンネル:ゆる言語学ラジオ】

https://www.youtube.com/channel/UCmpkIzF3xFzhPez7gXOyhVg

【おたよりフォーム】

https://forms.gle/BLEZpLcdEPmoZTH4A

※皆様からの楽しいおたよりをお待ちしています!

【お仕事依頼はこちら!】

[email protected]

【堀元見プロフィール】

慶應義塾大学理工学部卒。専門は情報工学。WEBにコンテンツを作り散らかすことで生計を立てている。現在の主な収入源は「アカデミックに人の悪口を書くnote有料マガジン」。

Twitter→https://twitter.com/kenhori2

noteマガジン→https://note.com/kenhori2/m/m125fc4524aca

個人YouTube→https://www.youtube.com/channel/UCYJ335HO_qLZDr7TywpI0Gg

【水野太貴プロフィール】

名古屋大学文学部卒。専門は言語学。

某大手出版社で編集者として勤務。言語学の知識が本業に活きてるかと思いきや、そうでもない。