常用损失函数:从误差度量到任务目标
系统梳理机器学习与深度学习中常见的损失函数,理解它们的数学形式、梯度特性、适用场景,以及如何根据任务选择和组合损失。
A long-term research and learning notebook for posts, notes, papers, projects, and research directions.
Knowledge base
Search the local content index across titles, descriptions, tags, categories, and full text.
31 results
系统梳理机器学习与深度学习中常见的损失函数,理解它们的数学形式、梯度特性、适用场景,以及如何根据任务选择和组合损失。
从整体架构、注意力机制到优化器与大规模预训练,系统梳理 Transformer 的组成和训练过程。
从智能体与环境的交互出发,建立状态、动作、奖励、回报、策略和马尔可夫决策过程的基本框架。
推导策略值函数的 Bellman 期望方程,理解一步奖励与后续价值之间的递归关系。
从固定策略的价值递推走向最优价值递推,理解最优策略、贪心改进与 Bellman 最优算子。
比较值迭代、策略迭代与广义策略迭代,掌握已知环境模型时求解有限 MDP 的经典方法。
使用完整回合的实际回报估计值函数,并通过探索与重要性采样实现同策略和异策略控制。
从 Robbins-Monro 递推理解随机近似,分析学习率、噪声与强化学习增量更新的收敛条件。
从 TD 误差、n-step return 和 eligibility trace 出发,理解 SARSA、Q-learning 等在线控制算法。
用参数化模型表示大规模状态空间中的值函数,理解半梯度 TD、投影 Bellman 方程与深度 Q 网络。
直接对参数化策略的期望回报求梯度,掌握 REINFORCE、基线、优势函数与稳定策略更新。
结合策略优化与价值估计,理解 Actor-Critic 更新、GAE、异策略变体和连续控制算法。
AccidentSim 从 NHTSA/NMVCCS 真实事故报告提取物理线索,在 CARLA 中重建碰撞仿真,再以仿真轨迹 LoRA 微调 Llama 得到 AccidentLLM,由事故文本直接预测物理一致的碰撞后轨迹,最终通过前景—背景合成生成可控视角的碰撞视频。
TRACE 将 NHTSA 真实事故报告自动转换为 CARLA 可执行仿真场景:结合 OpenStreetMap 还原真实道路拓扑,用 LLM 推断缺失的车辆初始状态,生成允许逆行、跨实线等异常行为的轨迹,并通过碰撞位置、撞击点和轨迹一致性验证。
NeuralNDE:用 Transformer 行为模型 + Conflict Critic + Safety Mapping + 对抗训练,生成统计意义上逼近真实世界的自然驾驶环境,包括 crash 与 near-miss 等长尾安全关键事件。
面向高风险驾驶场景的开放词汇危险目标定位:从可见目标发现、开放词汇命名到事故前风险判断。
把研究方向收敛为可验证的开放词汇危险目标定位任务,并给出数据、基线、贡献与六周执行计划。
开放世界驾驶智能体能力边界挑战——CARLA 场景数据采集与五级场景复核
多传感器采集 pipeline 验证、六个深坑、场景驱动批量采集器、确定性实验、trajectory 回放与对接配套,以及未来 TodoList
赛事定位、大组任务分工,以及我在采集与复核环节的任务规划(按优先级排序)
风险可供性注入的事故视频生成
三阶段框架总览:危险可供性先验、先验激活、以危险场为条件的占用扩散生成
把 nuScenes 点云与标注加工成模型输入(双通道占用序列)与监督信号(ρ 强度场 + v 方向场)
用 Grid U-Net 从 10 帧占用历史学习危险可供性先验 H = {o, ρ, v},含 ρ 塌缩三轮攻关与冻结验收
冻结先验之上,用 FiLM + Direction Routing 按事故类型与语言描述把通用危险直觉激活为 H′
用 DoTA 真实事故标注校准合成配对的风险核参数分布(方位 / 距离 / σ / 幅度)
以 H′ 为条件的 2D U-Net 占用扩散:多模态未来生成、可控性试金石与 provenance 封存
三阶段数据流全景、监督链路闭环与冻结资产清单
不再改写危险场,而是训练网络想象引发事故的车辆,由物理程序重算危险场
CARLA 可直接复用 labeler 解析链路,仅需适配四个接口层;导入后按闭环升级、phantom oracle、下游评测、数据飞轮、物理重演校准五级扩展
主线审计与裁剪、副线一阶段②方案 A、副线二 CARLA 三条线的推进任务清单