在深度学习中,常用的激活函数是 Softmax,其定义为 ,它将输出映射为概率分布。
这是 Transformer 核心的缩放点积注意力机制:
常见的交叉熵损失函数(Cross-Entropy Loss):
这是卡尔曼滤波中的预测与更新步骤,测试 aligned 环境的对齐效果:
aligned