学习观10四格版-【学习观10.5】什么是信息熵(四格版)

AID:
CID:
视频图片:
作者头像:
弹幕地址:
视频描述:

热门回复:

  • 回_回:不用看了,正确答案是C[2233娘_卖萌]
  • 蓝调MC:另外,这期课的学习给了我一些启发,因为我之前看了五分钟之后,我的感受是蒙圈的,因为里头的有些概念、有些话对我来说熵都巨高。 举个栗子,天上有一()在飘,括号里这个词选项很少,而且“朵云”这词的概率奇高,熵很低。 那如果是关于熵的内容:某信息的熵越大,它()起来也就越困难。 对没看过这个课程的我来说,后面的括号,我更难判断出它要写的是什么。 就好像之前讲心情的那个例子,中了500万,和没中500万的前提下,你对()里字的预测难度是不一样的。 原()就是这()信息,或()是前()文提供的()息,直接帮你()少了熵 原因就是这个信息,或者是前后文提供的信息直接帮助你减少了熵。 相信哪怕没后面这个句子,你光看上面都是括号的一段话,也能明白我在说些什么。(理由就是句子的内容) 那up主之前的学习观,对我来说像什么呢。 打个比方: ()信文章老更成,凌云()笔意纵横。 今人()点流传赋,不()前贤畏后生。 熵高不?巨特喵高 就算我把括号里的词填上,再随便拿掉几个你还是有可能有两不会填,和上面“原......熵”那段话的感受完全不一样。 原因就是这两句诗,他的每个字提供的信息对你而言能够减少的熵都有限,所以贼难猜。文言文都这样 再极端一点,随便拿一首你没听过的小语种写的诗,让你去看,那完全就是在看天书了。 而之前看“学习观”就跟看文言文似的,概念一堆,还都不懂,咋整? 我当时就是盯着概念死抠,反复看同一句话的前后文,其实就跟反复念一段文言文有点像,功夫花了很多,然而并没有什么卵用。 念一万遍,该是那么点信息就是那么点信息,该能让你减少多少熵就是多少。 早就达到内容中提供的信息,所能给你减少熵的极限了。 所以,就是在瞎折腾。 那有一个好的办法,就是去用上网线多搜搜相关的内容。 我就是看了第一遍蒙圈,之后在《得到》、《网易公开课》上面搜集了“信息与熵”的相关的信息,然后再回过头来看,就省力很多很多了。 我才不会告诉你我看之前只晓得指数,压根不知道对数是个什么鬼呢,更别说log了╯^╰
  • 黑白庸人:这个视频给了我0比特信息,请问我是懂还是不懂(`・ω・´)
  • 哒哒冒蓝火的意大利炮:从热力学来讲,熵是衡量事物混乱程度的物理量,相同情况下熵值越高信息量越大,但是事物混乱程度也越高,可获取的有效信息反而更少了。 事物普遍具有有趋向熵增的趋势,比如你的房间长时间不整理,它自己会越来越乱,是熵增的过程。 可以用这种理论计算概率或者进行宏观管理
  • 蓝调MC:如果我在1~8里随机选一个数字填在()里头,但不告诉你填的是什么。对于在看这个评论的人来说其熵为3bits,对我来说是0。 3bits是这么来的:log(2)8=以2为底8的对数。 因为我知道填的是啥:log(2)1,log=0 如果我告诉你我填的是8,我减少了你的不确定性(熵),那减少了多少呢? 减少了3bts,你已经没有了不确定的东西,你的熵为0。(这属于确定情况) 如果有这么一段话:我现在很()心。在开心、忧心里头选,熵为1bit。 在开心、忧心、伤心、担心里头选,熵为2bits。 可选项越多,熵越多。 如果我在这段话前面加一个信息:我刚中了500w,我现在很()心。 因为中了500w这个前提,让“开”这个字的可能性蹭蹭往上涨,不论是几选一的情况,我都减少了大量的熵。(这属于调整概率) 具体多少......那我就不会算了。