首页/新闻资讯/正文详情

RL-赵-(八)-Value函数拟合算法01-StateValue估算:TD函数逼近算法06【线性逼近器/TD-Linear算法总结与分析】

发布时间:2026/9/26 18:43:27 来源:云帆数科 栏目:资讯中心
RL-赵-(八)-Value函数拟合算法01-StateValue估算:TD函数逼近算法06【线性逼近器/TD-Linear算法总结与分析】
三、Summary of the storySummary of the story首先从一个objective function出发J ( w ) = E [ ( v π ( S ) − v ^ ( S , w ) ) 2 ] \begin{aligned}J(w)=\mathbb{E}[(v_\pi(S)-\hat{v}(S,w))^2]\end{aligned}J(w)=E[(vπ​(S)−v^(S,w))2]​这个目标函数表明这是一个policy evaluation问题.然后对这个objective function进行优化,优化方法使用gradient-descent algorithm:w t + 1 = w t + α t ( v π ( s t ) − v ^ ( s t , w t ) ) ∇ w v ^ ( s t , w t ) w_{t+1}=w_t\:+\alpha_t(v_\pi(s_t)-\hat{v}(s_t,w_t))\nabla_w\hat{v}(s_t,w_t)wt+1​=wt​+αt​(vπ​(st​)−v^(st​,wt​))∇w​v^(st​,wt​)但是问题是里边有一个v π ( s t ) v_{\pi}\left(s_{t}\right)v

相关推荐

题争食图:从构图笔墨到题跋的写意花鸟创作复盘
题争食图:从构图笔墨到题跋的写意花鸟创作复盘

“题争食图”这五个字,说白了就是一幅画的名字,但凡是认真画过几笔写意花鸟的人,看到这三个字大概都会心一笑——这是在传统题材里最常碰到的“戏核”。画面里几只鸡、一窝雀、几尾鱼,围着一点食抢来抢去,看起来简单&a… · 2026/9/26 18:43:20

从通用大模型到UI专用小模型:微调与工程化落地指南
从通用大模型到UI专用小模型:微调与工程化落地指南

1. 通用大模型生成UI的“三座大山”:为什么我想换个思路我得先说个背景。最近在团队内部试了一圈AI生成UI的方案,ChatGPT一类的通用大模型确实惊艳,给它一个需求描述,它能像模像样地给你一段页面代码。可真要放到日常迭代里去用&a… · 2026/9/26 18:43:20

降AI率工具深度测评:8款实测帮你摆脱论文AI痕迹
降AI率工具深度测评:8款实测帮你摆脱论文AI痕迹

写论文用AI这件事,2026年已经算不上什么新鲜选择了。真正让研究生反复头疼的,是论文里AI痕迹太重——要么被导师一眼看出“这不像你自己写的”,要么被学校内部的AIGC检测系统标红。我前前后后试了三个多月,把市面上能搜到的“降AI… · 2026/9/26 18:43:20

基于Java的出租屋管理系统:从设计到答辩的完整解析
基于Java的出租屋管理系统:从设计到答辩的完整解析

这个题目我相信很多计算机专业的同学都不陌生,每年毕业季都能看到它出现在各种毕设题目清单里。我自己当年也做过类似的信息管理系统,后来在工作中还帮几个学弟学妹指导过这个选题,对它里面的门道算是比较熟悉。很多人觉得出租屋管理系统太简… · 2026/9/26 20:01:35

MySQL库与表操作全攻略:从字符集设计到数据同步实战
MySQL库与表操作全攻略:从字符集设计到数据同步实战

做服务端开发绕不开MySQL,这在今天几乎算得上常识。但你真去问一个写了两年SQL的人:库和表到底该怎么设计才算合规?字符集为什么必须显式指定?ALTER TABLE到底什么场景会锁住线上业务?能一口气讲清楚的并不多。这篇我就… · 2026/9/26 20:01:35

Burp Suite内置浏览器启动失败排查与修复指南
Burp Suite内置浏览器启动失败排查与修复指南

1. 问题现象与背景拆解1.1 这个报错到底长什么样Burp Suite 从 2023 版本开始把内置浏览器(Embedded Browser)作为默认的抓包入口,到了 2026.8 这个版本,内置浏览器底层用的是 Chromium 内核。很多人升级完之后,点那个… · 2026/9/26 20:01:29

多模态AI技术原理与工程落地实践
多模态AI技术原理与工程落地实践

我无法基于当前输入生成符合要求的博文内容。原因如下:输入中缺失关键信息:项目标题虽已提供,但【项目正文】、【关键词】、【摘要描述】三项均为完全空白(仅显示空行或占位符),而根据任务定义,… · 2026/9/26 20:01:22

Burp Suite 2026.8 内置浏览器启动失败排查与修复指南
Burp Suite 2026.8 内置浏览器启动失败排查与修复指南

1. 问题现象与背景拆解1.1 这个报错到底长什么样Burp Suite 从 2023 版本开始,官方逐步把内置浏览器(Embedded Browser)作为默认的抓包入口,取代了早年"手动配置代理 外部浏览器"的老路子。到了 2026.8 这个版本&#… · 2026/9/26 20:01:22

轻量级Transformer单轮对话机器人实战指南
轻量级Transformer单轮对话机器人实战指南

简介:这是一份面向人工智能初学者与课程设计者的Transformer单轮对话机器人实战项目,涵盖从模型训练到推理部署的完整技术链路,适用于本科毕设、课设及NLP入门实践。资源包含22个文件,以5个核心Python脚本(如chat.py、… · 2026/9/26 20:01:16

数据库课后习题答案别硬背:当测试用例集刷,效率翻倍
数据库课后习题答案别硬背:当测试用例集刷,效率翻倍

简介:万常选版《数据库原理与设计》课后习题答案资源,覆盖第2至6章及第9章,适合正在学习关系模型、数据库建模、关系数据理论与模式求精的本科生、自学者作为复习与自测材料。压缩包共7个文件,含3个doc参考答案、2个sql示例脚本、… · 2026/9/26 0:00:21

OpenClaw 替代品?Hermes Agent 踩坑实录:macOS 飞书接入 TaoToken 配置
OpenClaw 替代品?Hermes Agent 踩坑实录:macOS 飞书接入 TaoToken 配置

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views … · 2026/9/26 0:00:40

向下兼容与向上兼容:接口设计中的兼容性策略与工程实践
向下兼容与向上兼容:接口设计中的兼容性策略与工程实践

一次版本升级事故,是很多团队绕不过去的坎。线上环境里,服务端明明已经上线了新版接口,老的移动端还在照着旧文档传参数。请求一到网关,校验直接拒绝,用户操作失败,客服群炸了锅,开发群里开始互… · 2026/9/26 0:00:46

了解更多?预约专属演示

我们的顾问将为您一对一讲解产品与方案

企业微信二维码