1 克劳德·香农简介
克劳德·艾尔伍德·香农(Claude Elwood Shannon)(1916年4月30日-2001年2月26日),美国数学家、电子工程师和密码学家,“信息熵”概念提出者,被誉为“信息论之父”。
克劳德·香农定义了信息的度量单位“比特”,让世界变得可以量化;他奠定了数字电路的理论基础,让计算机从运算工具变成“电脑”;他创立了信息论,为整个通信时代写下底层代码。他是信息时代真正的奠基人,却一生只想做个“杂耍博士”。
2 生平与成长:从小镇发明家到普林斯顿天才
1916年4月30日,克劳德·艾尔伍德·香农出生于美国密歇根州佩托斯基的盖洛德小镇,当时镇里只有三千居民。他的父亲与儿子同名,是镇上的法官;母亲是镇里的中学校长。这个小镇家庭有着浓厚的发明基因——香农的祖父是一位农场主兼发明家,发明过洗衣机和许多农业机械,对他产生了直接的影响。此外,香农的家庭与大发明家爱迪生还有远亲关系。
香农从小就展现出惊人的天赋。8岁时,他就自学高等数学,闲暇之余甚至能帮姐姐完成令人头疼的高等数学课后作业——在他的辅导下,姐姐后来成为数学系教授。美国高中通常需要四年完成学业,而香农仅用三年就以优异成绩毕业。
1932年,香农进入密歇根大学学习。1936年,他同时获得数学学士和电子工程学士学位——这个“双学士”的背景,预示了他日后在理论与工程之间自由穿梭的非凡能力。
同年,香农进入麻省理工学院(MIT)攻读研究生。在这里,他遇到了对他影响深远的导师——温尼法·布什(Vannevar Bush),这位“曼哈顿计划”的组织者、模拟计算机的发明者,让香农接触到了微分分析器的研究。
1938年,香农获得MIT电气工程硕士学位。1940年,他同时获得MIT数学博士学位和电气工程硕士学位——这是一个罕见的成就。有趣的是,他的博士论文并不是关于信息论或电路,而是关于人类遗传学的,题目是《理论遗传学的代 algebra》。这充分说明香农的科学兴趣有多么广泛。
1940年至1941年,香农在普林斯顿高等研究院工作了一年——当时那里已有爱因斯坦、哥德尔等科学巨匠。正是在这里,他开始思考信息论与有效通信系统的问题。
1941年,25岁的香农加入贝尔实验室数学部,从此开启了长达31年的贝尔生涯(1941-1972)。在这里,他遇到了冯·诺依曼、图灵等同时代的天才。1943年,图灵乘坐“伊丽莎白女王号”来到美国,与香农在贝尔实验室的食堂里多次共进午餐,讨论着当时还很神秘的“人工智能”话题——图灵认为计算机应该是纯粹逻辑演绎的设备,而香农则认为计算机将是一种社会性的工具,甚至能处理音乐等非逻辑的东西。
注:香农在贝尔实验室
1949年3月27日,香农与贝尔实验室的数据分析员玛丽·伊丽莎白·摩尔结婚。他们共有四个孩子:三个儿子罗伯特、詹姆斯、安德鲁和一个女儿玛格丽塔·凯瑟琳。
1956年,香农成为MIT客座教授,1958年成为终身教授,1978年退休成为名誉教授。2001年2月24日(或26日,各来源略有差异),在与阿尔茨海默病长期斗争后,香农在马萨诸塞州辞世,享年84岁。
他的同事D. Slepian曾这样描述他:“我们大家都带着午饭来上班,饭后在黑板上玩玩数学游戏,但克劳德很少过来。他总是关起门来工作。但是,如果你要找他,他会非常耐心地帮助你。他能立刻抓住问题的本质。他真是一位天才,在我认识的人中,我只对他一人使用这个词。”
3 核心贡献:三篇论文,三个时代
香农一生最重要的贡献,可以用三篇论文来概括——它们分别开创了数字时代、信息时代和密码科学。
3.1 硕士论文:数字电路的奠基石
1938年,22岁的香农完成了硕士论文《继电器与开关电路的符号分析》(A Symbolic Analysis of Relay and Switching Circuits)。这篇论文被誉为“20世纪最重要、最著名的一篇硕士论文”。
注:香农硕士毕业论文
香农敏锐地注意到电话交换电路与布尔代数之间的类似性:布尔代数中的“真”与“假”,可以对应电路系统的“开”与“关”,并用“1”和“0”表示。他证明,任何电路都可以由一套由0和1组成的表达式来表示,使用电路的开和断就可以进行数学运算。
这一发现的意义无论怎样强调都不为过:它将此前毫不相干的布尔逻辑代数、开关电路和二进制计算关联起来,为所有数字电路设计提供了最底层的数学原理。从此,计算机不再仅仅是简单的运算工具,而是可以模拟人的逻辑判断和思考过程的“电脑”。哈佛大学的Howard Gardner教授评价说:“这可能是本世纪最重要、最著名的一篇硕士论文。”
3.2 信息论奠基论文:定义信息时代
1948年,32岁的香农在《贝尔系统技术杂志》上连载发表了划时代的论文《通信的数学原理》(A Mathematical Theory of Communication)。1949年,他又发表了姊妹篇《噪声下的通信》。这两篇论文共同创立了信息论。
香农在这两篇论文中做出了几个奠基性贡献:
第一,给出了通信系统的通用模型。他将所有通信系统抽象为:信源→发送器→信道→接收器→信宿,再加上噪声源。这个模型至今仍是通信工程的基本框架。
第二,提出了信息的度量单位——比特(bit)。香农指出,信息的意义在于消除未知世界的不确定性。他用“熵”(entropy)来描述信源内部的不确定性,给出了信息熵的计算公式:
H = -∑ p_i log₂ p_i
这个公式将热力学中“熵”的概念引入信息科学——熵曾经是玻尔兹曼在热力学第二定律中引入的概念,用来描述分子运动的混乱度。香农证明,信息熵与信息内容的不确定程度有等价关系。今天在计算机和通信中广泛使用的字节(Byte)、KB、MB、GB等词,都是从“比特”演化而来。“比特”的出现,标志着人类第一次知道了如何计量信息量。
为了直观理解“熵”,可以想象一个猜谜游戏:你需要通过提出“是/非”问题来猜出对方心中想的东西。熵,就是你平均需要提出的最少问题数。如果某些可能性更大,你就可以先问概率最大的那个,从而减少平均提问次数。这正是数据压缩的原理——任何无损压缩的理论极限,就是信息源的熵。
第三,提出了信道容量公式——香农公式:
C = B log₂(1 + S/N) (bit/s)
其中C是信道容量(信息传输速率的极限值),B是信道带宽,S是信号平均功率,N是噪声平均功率。这个公式给出了决定网速上限的两个因素及其相互制约关系。香农证明:只要信息传输速率低于信道容量,就可以实现近乎无错的可靠通信;如果高于信道容量,则不可能。
这个结论被称为“有噪信道编码定理”或“香农定理”。它相当于为信息传输划定了“光速上限”——任何通信系统都不可能超越这个极限。
第四,提出了香农三大定律:无失真信源编码定理、有噪信道编码定理、有失真信源编码定理。它们奠定了信息传输和存储的理论基础,给信息技术研究指明了努力方向和极限边界。
《A Mathematical Theory of Communication》奠定了信息论的基础,标志一门新的学科──信息科学的诞生。
注:香农的《A Mathematical Theory of Communication》
3.3 密码学论文:使保密通信成为科学
1949年,香农发表了《保密系统的通信理论》(Communication Theory of Secrecy Systems)。这篇论文基于他在二战期间从事密码破译的实践经验。
二战期间,香农在贝尔实验室的破译团队专门追踪德国飞机和火箭,尤其是在德国火箭对英国进行闪电战时起了很大作用。他的工作支援了英国抗击德国V1火箭、V2火箭的能力。
这篇论文的意义在于:它将保密通信从“艺术”变成了“科学”。香农从数学上证明了一次性密钥是无法破译的——这一结论至今仍是量子密钥分发等加密技术的数学理论基础。
3.4 其他贡献
香农的兴趣远不止于通信。他还:
- 开创了人工智能研究:1950年发表论文,描述如何让计算机下国际象棋,给出了国际象棋的复杂度(约10¹²⁰量级),并提出算法简化计算——1997年,“深蓝”击败卡斯帕罗夫时,运行的就是由这篇论文演化而来的算法。
- 设计了第一个可穿戴计算机:为了分析轮盘赌的概率,他与爱德华·索普一起设计了历史上第一台可穿戴计算机,并到拉斯维加斯赌场检验理论。
- 发明了自动寻路机械鼠“特修斯”:这个小鼠能在迷宫中找到“奶酪”,记住正确路径,是早期人工智能设备的典范。
注: 香农设计的机械鼠“忒修斯”
- 进行量化交易研究:他曾与后来创立文艺复兴科技公司的西蒙斯合作,试图通过量化方法战胜市场。
- 设计了各种奇趣发明:能喷火的小号、会自动关上的箱子、能杂耍的机器玩偶、两面一样的硬币(抛硬币时总能猜对)……
4 至暗时刻:天才的孤独与遗忘
4.1 思想的孤独
香农的思想常常超前于时代。当他1938年发表那篇奠定数字电路基础的硕士论文时,很少有人真正理解其深远意义。当他1948年发表信息论奠基论文时,学术界花了很长时间才消化这些革命性思想。
他的同事描述,白天他总是关起门来工作。这种孤独,是思想者必然承受的代价——当一个人走在最前面,身后往往空无一人。
4.2 被公众遗忘的奠基者
与爱因斯坦、图灵、冯·诺依曼等同时代的巨匠相比,香农在公众中的知名度低得不成比例。清华大学科学博物馆的展览介绍中专门提到:“香农在中国公众中的知名度并不高,绝大多数非信息学科背景的观众从未听说过这位科学巨人。”
这种遗忘,或许与香农自己的选择有关。他在32岁完成信息论的奠基工作后,本可以继续做科学名人、创新代言人,却转身去搞各种“小玩意儿”了。当被问及有没有想过把这些发明商业化时,他直截了当地回答“没有”,自称没什么好胜心,商业化一定会亏钱。
他不在意名利,也不在意自己是否被铭记。但作为一个奠基了整个信息时代的人,被公众遗忘,终究是一种时代的遗憾。
4.3 晚年的疾病
香农晚年患上了阿尔茨海默病,在马萨诸塞州辞世,享年84岁。他去世后,大脑捐献给了阿尔茨海默病研究中心。这位最卓越、最聪明的大脑也无力抗拒痴呆——这看似悖论,或许正是香农捐献大脑的特殊意义所在。
2001年2月,当香农去世的消息传出时,媒体铺天盖地地报道着其他新闻。这位信息时代的奠基人,就这样悄无声息地离开了。
5 思想遗产:比特、熵与信息世界观
5.1 比特:信息的原子
香农定义的“比特”,已经成为信息时代的原子单位。世界上几乎任何事物都可以用信息的方式量化——“万物皆比特”。文字、图片、声音、视频,一切都可以用一连串的“0”和“1”表示。正如《香农传》的副标题所说,他完成了“从0到1开创信息时代”的壮举。
5.2 信息熵:不确定性的度量
香农将热力学中的“熵”引入信息科学,用量化的方法度量不确定性。这个概念已经渗透到控制论、概率论、数论、天体物理、生命科学等各个领域。
在中文信息处理中,汉字的静态平均信息熵是9.65比特,英文是4.03比特——这表明中文的复杂程度高于英文,反映了中文词义丰富、行文简练的特点。
5.3 香农公式:通信的终极边界
香农公式给出了信息传输速率的理论极限。从电话到光纤,从3G到5G,所有通信系统的设计都在逼近这个极限。
1991年,法国教授克劳德·贝鲁提出了turbo码,这是第一个接近香农极限的编码方案。2008年,埃尔达尔·阿里坎教授提出的极化码,成为首个能达到香农极限的编码方式。2016年,以华为为首的极化码阵营将极化码确定为5G信令信道编码方案。从理论提出到进入寻常百姓家,不过十年时间——科学成果到工业成果的转化从未如此之快。
5.4 贝尔实验室的两尊半身塑像
在贝尔实验室的大堂,有两尊半身塑像:一个是亚历山大·贝尔,另一个就是克劳德·香农。这是对这位信息时代奠基人最有力的致敬。
5.5 以他命名的最高荣誉
IEEE设立了“香农奖”(the Claude E. Shannon Award),作为通信理论领域的最高国际奖项。有趣的是,第一届香农奖于1973年颁给了香农本人。
5.6 学术血脉与影响力
香农的论文《通信的数学原理》在谷歌学术中被引12.7万余次;在“Web of Science”平台迄今他引4.3万余次,施引文献来自电气电子工程、计算机、通信、人工智能、数学、物理、统计学、环境等学科。近五年还出现了新增长,说明香农的信息论对现代科学发展产生了广泛而持久的影响力。
6 时代启示
6.1 兴趣驱动,而非功利驱动
香农一生最动人的地方,是他始终遵循自己的好奇心。他研究信息论,不是因为预见它会改变世界,而是因为“想知道答案”。他研究遗传学、设计可穿戴计算机、玩杂耍、分析轮盘赌,都是出于兴趣。
他曾这样评价自己工作室里的各种小玩意儿:“有用是最不重要的事情。”这句话在今天功利主义盛行的时代,尤显珍贵。真正的创新,往往来自不问功用的好奇心。
6.2 跨界思维:在学科交叉处创新
香农是典型的跨界通才:数学、工程、生物学、密码学、人工智能……他可以在不同领域之间自由穿梭。正是这种跨界能力,让他能将布尔代数、开关电路和二进制计算联系起来,开创数字时代。
在AI时代,单一技能的“深井”正在被AI填平,而跨界整合的能力将成为人类的独特优势。香农的榜样告诉我们:最伟大的创新,往往发生在学科的交叉处。
6.3 极简与深刻:用简洁的数学描述世界
香农的公式和信息论,以极简的数学语言描述了世界的本质。信息熵公式H = -∑ p log p,香农公式C = B log(1+S/N),都极其简洁,却蕴含了深刻的洞见。
这种“极简深刻”的思维方式,在今天信息爆炸、AI生成内容泛滥的时代,显得尤为珍贵。真正的智慧,不是堆砌复杂性,而是用简洁的框架抓住本质。
6.4 游戏心态与严肃研究的统一
香农一生都保持着“玩”的心态。他骑独轮车上班,在严肃的学术会议上表演杂耍,自称“杂耍博士”。但他从不认为高效率的工作与游戏有什么本质区别——他将枯燥的技术性科学转变为大量富有魅力的谜题,而解决谜题的方法是成年人的游戏之道。
这种“玩”的心态,不是轻浮,而是对创造本身的享受。在AI时代,当许多工作可能被自动化时,人之所以为人的特质,恰恰在于这种“玩”的能力——享受创造本身,而非只为结果。
6.5 奠基者的品格:不在意被记住
香农不在意名利,不在意自己是否被公众记住。32岁完成信息论奠基后,他转身去搞各种“小玩意儿”,从人工智能到可穿戴计算机,从杂耍到量化交易。他不是没有能力继续做科学名人,而是选择了更符合自己天性的道路。
这种“奠基者”的品格,与冯·诺依曼、图灵、里奇等同时代的巨匠如出一辙——他们铸就了世界的脊梁,然后将自己藏在阴影里。
7 结语:比特,是他留给世界的永恒印记
2001年2月,克劳德·香农在阿尔茨海默病的折磨下辞世。他的一生,是天才的一生,也是顽童的一生;是奠基的一生,也是游戏的一生。
他让“比特”成为世界的通用语言,让信息可以被度量,让通信有了极限边界。他用一篇硕士论文奠基了数字电路,用一篇期刊论文创立了信息论,用一篇密码学论文让保密通信成为科学。
有人这样评价他:“香农的信息论的伟大程度可以和爱因斯坦的E=mc²相提并论。”随着时间的流逝,当人们回头看的时候,可能会忘记很多东西,可能会不记得那些摇滚明星的名字,但是学校里依旧会教授信息论,而香农也将永远被我们铭记。
毕竟,我们每一次发消息、每一次打电话、每一次上网,都是在与香农对话。他的思想,已融入每一比特的数据、每一个字节的存储、每一赫兹的通信之中。
8 荣誉与著作文献
8.1 荣誉
| 年份 | 荣誉名称 | 授予机构 | 备注 |
|---|---|---|---|
| 1939 | 诺贝尔奖 | 电气工程师学会(IEE) | 早期对其工作的认可 |
| 1940 | Alfred Noble奖 | 美国工程师学会 | 表彰其硕士论文《继电器与开关电路的符号分析》 |
| 1949 | 利布曼纪念奖 (Leibmann Prize) | 无线电工程师协会(IRE) | |
| 1954 | 名誉科学博士 | 耶鲁大学 | |
| 1955 | 斯图尔特·巴兰坦奖章 (Stuart Ballantine Medal) | 富兰克林研究所 | |
| 1956 | 美国国家科学院院士 | 美国国家科学院 | 美国科学界的最高学术荣誉之一 |
| 1957 | 美国艺术与科学院院士 | 美国艺术与科学院 | |
| 1961 | 名誉科学博士 | 密歇根大学 | |
| 1962 | 名誉科学博士 | 普林斯顿大学 | |
| 1964 | 名誉科学博士 | 爱丁堡大学、匹兹堡大学 | |
| 1966 | 美国国家科学奖章 (National Medal of Science) | 美国总统林登·约翰逊 | 美国科学界的最高荣誉,1967年2月6日在白宫获颁 |
| 1966 | IEEE荣誉奖章 (IEEE Medal of Honor) | 电气与电子工程师协会 | IEEE最高荣誉 |
| 1970 | 名誉科学博士 | 美国西北大学 | |
| 1972 | 哈维奖 (Harvey Prize) | 以色列理工学院 | |
| 1972 | 香农奖 (Claude E. Shannon Award) | 电气与电子工程师协会(IEEE) | 第一届香农奖即授予香农本人,该奖项现为通信理论领域的最高国际奖项 |
| 1978 | 名誉科学博士 | 牛津大学 | |
| 1978 | 哈罗德·彭德奖 (Harold Pender Award) | 宾夕法尼亚大学 | |
| 1982 | 名誉科学博士 | 东英吉利大学 | |
| 1983 | 约翰·弗里茨奖章 (John Fritz Medal) | 美国工程学会联合会 | |
| 1984 | 名誉科学博士 | 卡内基梅隆大学 | |
| 1985 | 京都奖 (Kyoto Prize) | 稻盛基金会 | 日本最高国际奖项之一 |
| 1985 | 美国国家工程院院士 | 美国国家工程院 | |
| 1987 | 名誉科学博士 | 塔夫茨大学 | |
| 1991 | 名誉科学博士 | 宾夕法尼亚大学 | |
| 1991 | 英国皇家学会外籍院士 | 英国皇家学会 | |
| 2004 | 美国发明家名人堂入选 | 美国发明家名人堂 | 追授 |
其他荣誉与纪念
- 院士身份:美国哲学学会会士
- 以他命名的奖项:IEEE香农奖(the Claude E. Shannon Award),通信理论领域的最高国际奖项,1973年第一届授予香农本人
- 贝尔实验室的致敬:在贝尔实验室的大堂,有两尊半身塑像——一个是亚历山大·贝尔,另一个就是克劳德·香农
8.2 著作与文献
8.2.1 奠基性论文
| 年份 | 标题 | 发表载体 | 意义 |
|---|---|---|---|
| 1938 | 《继电器与开关电路的符号分析》(A Symbolic Analysis of Relay and Switching Circuits) | 硕士论文,后发表于《美国电气工程师学会会刊》 | “20世纪最重要、最著名的一篇硕士论文”(哈佛大学Howard Gardner教授语)。将布尔代数与开关电路对应起来,奠定了所有数字电路设计的数学基础,标志着数字时代的开端 。 |
| 1948 | 《通信的数学理论》(A Mathematical Theory of Communication) | 《贝尔系统技术杂志》第27卷,379-423页,623-656页 | 信息论的奠基之作,分两期连载。定义了信息的度量单位“比特”,提出了信息熵的概念,给出了通信系统的通用模型,推导出信源编码定理和信道编码定理 。 |
| 1949 | 《噪声下的通信》(Communication in the Presence of Noise) | 《贝尔系统技术杂志》 | 提出了著名的香农采样定理(Shannon sampling theorem),给出了信道容量的计算公式 C = B log₂(1 + S/N)(香农公式),划定了信息传输速率的理论极限 。 |
| 1949 | 《保密系统的通信理论》(Communication Theory of Secrecy Systems) | 《贝尔系统技术杂志》第28卷,656-715页 | 密码学的奠基之作,基于二战期间密码破译的实践经验,将保密通信从“艺术”变成了“科学”。从数学上证明了一次性密钥是无法破译的 |
8.2.2 代表性专著
| 年份 | 标题 | 合作者 | 发表载体 | 意义 |
|---|---|---|---|---|
| 1949年 | 《通信的数学理论》(The Mathematical Theory of Communication) | 沃伦·韦弗 (Warren Weaver) | 伊利诺伊大学出版社 | 收录香农1948年论文原文及韦弗的通俗解读,是信息论传播最广的著作,4年内售出6000册,1990年销量超过5万册 。 |
| 1956年 | 《自动机研究》(Automata Studies: Annals of Mathematical Studies) | 约翰·麦卡锡 (John McCarthy) | 普林斯顿大学出版社 | 自动机理论的经典文集,香农与麦卡锡共同主编 。 |
| 1993年 | 《克劳德·艾尔伍德·香农文集》(Claude Elwood Shannon: Collected Papers) | N. J. A. 斯洛恩 (N. J. A. Sloane) 等编 | IEEE出版社 | 收录香农几乎所有已发表的论文,共924页 |
8.2.3 代表性学术论文
| 年份 | 标题 | 发表载体 | 意义 |
|---|---|---|---|
| 1956 | 《人工智能夏季达特茅斯研究项目提案》(A Proposal for the Dartmouth Summer Research Project on Artificial Intelligence) | 《AI杂志》 | 与麦卡锡、明斯基、罗切斯特合著,AI领域的奠基性文献 |
| 1951 | 《书面英语的预测与熵》(Prediction and Entropy of Printed English) | 《贝尔系统技术杂志》 | 将信息论应用于自然语言处理,计算了英语的熵 |
| 1950 | 《为下棋计算机编程》(Programming a Computer for Playing Chess) | 《科学美国人》 | 人工智能的先驱工作,给出了国际象棋的复杂度分析 |
| 1950 | 《一个走迷宫机器的介绍》(Presentation of a Maze Solving Machine) | 学术会议 | 介绍机械鼠“忒修斯”(Theseus),早期人工智能装置的雏形 |
| 1949 | 《两端开关电路的合成》(The synthesis of two-terminal switching circuits) | 《贝尔系统技术杂志》 | 开关理论的延续 |
| 1941 | 《微分分析器的数学理论》(Mathematical Theory of the Differential Analyzer) | 学术期刊 | 对模拟计算机的理论研究 |
学术影响力数据
根据学术数据库记录:
- 出版物总数:至少127篇论文
- 代表作《通信的数学理论》:被引用超过91,000次(据Soni和Goodman的传记记载),在Web of Science平台被引4.3万余次
- 施引文献学科分布:电气电子工程、计算机、通信、人工智能、数学、物理、统计学、环境学等,近五年仍呈现新增长
- 学术传承:指导的博士学生包括丹尼·希利斯(Danny Hillis,思维机器公司创始人)、伊凡·萨瑟兰(Ivan Sutherland,图灵奖得主)等
香农一生发表了127篇论文,没有一本独著的专著,却用三篇论文开创了三个时代——分别开创了数字时代、信息时代和密码科学:
- 1938年硕士论文:《继电器与开关电路的符号分析》——奠定了数字电路的理论基础,让计算机从运算工具变成“电脑”
- 1948年期刊论文:《通信的数学理论》——创立了信息论,定义了信息的度量单位“比特”,为整个通信时代写下底层代码
- 1949年密码学论文:《保密系统的通信理论》——使保密通信从“艺术”变成“科学”,为现代密码学奠定数学基础
这三篇论文的跨度只有11年,却奠定了三个领域的理论基础。他完成了“从0到1开创信息时代”的壮举。
他的写作风格极其克制——从不堆砌复杂性,只用最简洁的数学语言描述世界的本质。
8.3 以他命名的概念
香农的学术贡献深刻体现在以他命名的多个核心概念中:
| 命名 | 含义 |
|---|---|
| 香农熵 (Shannon Entropy) | 信息论中度量信息量的基本量,公式为 H = -∑ p_i log₂ p_i |
| 香农公式 (Shannon Formula) | 信道容量的计算公式 C = B log₂(1 + S/N),划定了通信速率的理论极限 |
| 香农定理 (Shannon‘s Theorem) | 噪声信道编码定理,证明只要信息传输速率低于信道容量,就可以实现近乎无错的可靠通信 |
| 香农极限 (Shannon Limit) | 信道容量的最大值,也称香农容量 |
| 香农采样定理 (Shannon Sampling Theorem) | 又称奈奎斯特-香农采样定理,规定了从连续信号离散采样恢复原信号的条件 |
| 香农-范诺编码 (Shannon-Fano Coding) | 一种早期的数据压缩编码方法 |
| 香农展开 (Shannon Expansion) | 布尔代数中关于逻辑函数的展开定理 |
| 香农索引 (Shannon Index) | 生态学中用于度量生物多样性的指标,源自信息熵 |
参考文献
[1] 刘瑞挺. 香农:信息论及数字通信之父[J].计算机教育,2004(10):48-51.
[2] 罗世宏. 信息时代之父——纪念香农百岁诞辰[J].世界文化,2016(6):46-48.
[3] 崔光耀. 信息论的丰碑 密码学的鼻祖——写在克劳德·E·香农博士去世两周年之际[J]. 信息安全与通信保密,2003,(02):77-78.
[4] https://zh.wikipedia.org/wiki/克劳德·香农
[5] https://mathshistory.st-andrews.ac.uk/Biographies/Shannon/
欢迎访问我的网站
BruceOu的哔哩哔哩
BruceOu的主页
BruceOu的博客
BruceOu的CSDN博客
BruceOu的简书
BruceOu的知乎
欢迎订阅我的微信公众号
关注公众号[嵌入式实验楼]获取更多资讯
欢迎订阅我的知识星球
关注知识星球[嵌入式实验楼]获取更多资讯




