绪论¶
约 292 个字 预计阅读时间 1 分钟
什么是信号¶
信号是表达传递信息的符号。那么什么是信息？
香农对信息量的定义：
- 信息量的单位是比特(bit)。
- 信息量表示消除不确定性或获得新知识的数量。
- 信息量与事件发生的概率相关，概率越小的事件传达的信息量越大。
信息量\(=-log[p(x)]\)
当以\(2\)为底，发生概率为\(\frac{1}{2}\)时，公式结果为\(1\)，这个结果就是\(1\)比特（bit）
信息熵公式：
\(H(X) = - \sum_{x \in \chi} p(x) \log_b p(x)\)
也可以写成\(H(X)=E[-logp(x)]\)，\(E\) 代表期望
缺点：无法准确预知所有事发生的概率
什么是系统¶
系统：有输入，有输出的一个整体。
系统所做的事情就是接受输入的信号，并把输入的信号转换为另外的信号的实体。
\[
产生信号\rightarrow设计系统\rightarrow输出新的信号
\]
可将一个复杂系统分解为若干基本系统。
学习目的：拆解构建系统。学习系统的基本性质，学习构建系统的基本方法。