04.6 选项数错误

内容与核心概念

在上一页上,如何纠正错误的信心。
平均差错为您提供了一个类似于相同选项数的指标; 这是对模型的方便比较, 而不是对其响应的真相的评估 。
该模型为四名候选人每人提供了四分之一的概率。
Для изменения рисунка включитеJavaScript; расчёт и теория доступны далее.
平均日志损失有效规模
按照固定的长度N的序列,模型评估概率
以下目前观察情况
CE_tok 给出了内部的平均负日志概率 。
C
E
t
o
k
e
n
=
−
1
N
∑
t
=
1
N
ln
⁡
q
(
t
t
∣
t
<
t
)
,
P
P
=
exp
⁡
(
C
E
t
o
k
e
n
)
.
\mathrm{CE}_{token}=-\frac1N\sum_{t=1}^{N}\ln q(t_t\mid t_{<t}),\qquad
PP=\exp(\mathrm{CE}_{token}).
CE
t
o
k
e
n
​
=
−
N
1
​
t
=
1
∑
N
​
ln
q
(
t
t
​
∣
t
<
t
​
)
,
PP
=
exp
(
CE
t
o
k
e
n
​
)
.
这是右流的相反几何平均概率。 如果两次观测的数值等于5和25, CE=-( 0. 5+ln. 25)/2= 1.039720771 和 PP= G8E28288427。 如果模型等于x结果, PP =k。 对log2而言, log2 而不是对数值是右 PP2=2\CE_bits, 而不是exp( CE_ 比特) 。
实验室显示了引入的绝对目标p的表达(H(p,q)):这一预期的与该 p 相比的复杂程度。 如果p与商定的背景评价中使用的事件的经验频率相对应,则会变成对船体的评价。
很容易犯错
与不同的代谢器、船体或平均规则相比的复杂模式比较并不直接正确。 低PP并不意味着答案、安全行为或使用工具的能力是真实的。 在小型学习抽样中,PP在运输恶化时可能会减少。
综述。
我们有一个目标函数, 在日志上可以分解 : 单热目标的软max 加 CE 有q- p 衍生物 。 输出通过衍生日志对数释放 : xlog\ exp (z)/ xj=qj, 然后减去目标贡献 。 现在, 错误及其敏感度都已经为人所知 。 要选择更新程序 :
优化
.
from math import log, exp, sqrt
observed = [.5,.25]
ce = -sum(log(p) for p in observed)/len(observed)
assert abs(exp(ce)-sqrt(8))<1e-12
代码重复了刚刚处理的操作
完全检查了 Python 示例章节
可用一个单独的文件; 显示的短片不会取代其执行 。
首先测量正确答案的错误。 显示器将平均错误转换为另一个比例尺; 文本的质量没有用尽 。
现在,错误及其衍生物已经为人所知。
第04章Python实例
学术基础