人工智能导论知识体系：知识表示、推理与搜索复习地图

简介山东大学软件学院《人工智能导论》课程复习与考前梳理用的简答题、名词解释整理聚焦教材第五版基础概念与常见问答适合软件工程专业本科生对照课堂重点查漏补缺。压缩包内共1个PDF文件大小约2.65MB以简答题和名词解释条目组织便于打印或电子设备随时翻阅。目前已有1021人学习说明其在课程复习中具有一定参考价值。内容覆盖逻辑思维、形象思维与顿悟思维的差异符号表示法与连接机制机器学习与学习系统构成模式识别、人工神经网络知识不确定性及知识表示一阶谓词逻辑的优缺点产生式系统的结构、工作过程与特点框架表示法与知识图谱以及演绎、归纳、默认和确定性/不确定性等推理分类可按题型快速记忆并建立课程知识框架。1. 一张地图人工智能导论的五段主线与两个出口翻开任何一份人工智能导论的卷子题目几乎都落在同一条主线上先问「知识怎么放进计算机」再问「怎么从已知推出未知」接着问「怎么在大状态空间里找答案」最后问「怎么让机器自己变强」。这条主线之外还挂着两个应用出口——专家系统与知识发现。把这几个词写在纸上用箭头连起来人工智能导论七八成的简答题就都有了挂靠点。这份整理把教材里散落的百余条问答按这条链重排了一遍名词解释归到概念位简答题归到对比位适合期末前两周做体系复盘也适合刚学完一遍、脑子里还是一堆孤立名词的人拿来重建结构。2. 知识表示四件套符号、产生式、框架与知识图谱知识表示这一块最容易被当成名词默写其实它是一条完整的推演链先承认知识有不确定性再挑一种能承载不确定性的表示形式最后发现每种形式都有明显短板于是又长出下一种。把这条链理顺谓词逻辑、产生式、框架、知识图谱就不是四个孤立考点而是四次「打补丁」。2.1 三种思维与两条表示路线人类思维被切成三种这个考点常以对比简答出现。逻辑思维依靠逻辑规则推进过程是串行的容易形式化结论严密可靠形象思维依据直觉过程并行协同形式化困难但在信息变形或缺失时仍可能给出比较满意的结果顿悟思维不定期突发带非线性的独创性和模糊性穿插在形象思维与逻辑思维之间。三种思维不是并列关系后两种恰恰是第一种形式化不了的残余这也是后面不确定性推理存在的理由。思维形式依据过程特征形式化难度结果特点逻辑思维逻辑规则串行容易严密、可靠形象思维直觉并行协同困难信息不全时仍可能满意顿悟思维突发灵感非线性、不定期很难独创但模糊知识是在长期生活实践、科学研究与实验中积累起来的对客观世界的认识与经验。知识的不确定性有四个来源随机性、模糊性、经验性、不完全性。这四条要背准因为后面可信度对应经验性、证据理论对应随机性、模糊集对应模糊性、默认推理对应不完全性是一条暗线。知识表示就是把人类知识形式化或模型化本质是一组约定一种计算机可以接受的描述知识的数据结构。表示路线只有两条。符号表示法用带具体含义的符号按不同方式与顺序组合来表示知识一阶谓词逻辑、产生式都属于这一路连接机制表示法把物理对象以不同方式连接起来在连接之间传递和加工带具体意义的信息神经网络是典型代表。维度符号表示法连接机制表示法基本单元符号及其组合处理单元与连接权组织方式按语法规则顺序组合并行连接、权值分布存储可解释性强规则可读弱知识藏在权值里对不精确的容忍差匹配通常要求精确好可容忍噪声典型代表一阶谓词逻辑、产生式人工神经网络一阶谓词逻辑表示法的优点是自然性、精确性、严密性、容易实现局限是不能表示不确定的知识、组合爆炸、效率低。这三条局限非常关键不能表示不确定催生了产生式和不确定性推理组合爆炸和效率低催生了启发式搜索。答题时能把「局限→后续方法」这条因果说出来比单写三条优点更有分量。2.2 产生式系统规则库、综合数据库与控制系统的五步循环产生式系统的基本结构是三件套。规则库用于描述相应领域内的知识是产生式的集合综合数据库又叫事实库、上下文或黑板存放问题求解过程中各种当前信息控制系统即推理机构由一组程序组成负责整个系统的运行实现对问题的求解。工作过程是五步顺序不能乱第一步从规则库中选出与综合数据库已知事实匹配的规则第二步匹配成功的规则可能不止一条要进行冲突消解第三步执行选中规则右部是结论就把结论加入综合数据库右部是操作就执行操作第四步对不确定性知识还要按一定算法计算结论的不确定性第五步检查综合数据库是否已包含最终结论决定是否停止。冲突消解策略四条按针对性排序、按已知事实的新鲜性排序、按匹配度排序、按条件个数排序。这四条经常被漏答记住它们的共同点是「给多条可用规则排一个优先级」就不容易忘。# 产生式系统正向推理骨架简化 def forward_chain(rules, facts, goal): # rules: [(条件集合, 结论)]facts: 综合数据库集合goal: 目标事实 while goal not in facts: usable [r for r in rules if r[0] facts] # 1. 匹配条件被事实包含 if not usable: return None # 5. 无可用规则终止 chosen max(usable, keylambda r: len(r[0])) # 2. 冲突消解按条件个数排序 facts.add(chosen[1]) # 3. 执行结论入综合数据库 rules.remove(chosen) # 避免同一规则反复触发 return facts这段骨架对应前三步与第五步第四步的不确定性计算被省掉了。参数上rules是产生式集合条件用集合表示以便做包含判断facts是综合数据库会随推理增长goal是终止条件。冲突消解这里偷懒用「条件个数多者优先」实际系统可以换成针对性、新鲜性、匹配度任意一种。工程实现时最容易踩的坑是规则执行后不删除导致同一规则反复触发把循环卡死。产生式与谓词逻辑中的蕴含式有两条区别考频极高。一是范围不同除逻辑蕴含外产生式还包括各种操作、规则、变换、算子、函数「如果炉温超过上限则立即关闭风门」是产生式但不是蕴含式。二是精确性要求不同蕴含式只能表示精确知识匹配总要求精确产生式既可从表示精确知识也可表示不精确知识匹配可以是精确的也可以是不精确的只要按某种算法求出的相似度落在预先指定范围内就认为可匹配。产生式表示法的优点是自然性、模块性、有效性、清晰性缺点为效率不高、不能表达结构性知识。「不能表达结构性知识」这一条直接引出框架表示法两章之间是承接关系不是并列关系。适合用产生式表示的知识有三类领域知识间关系不密切、不存在结构关系经验性及不确定性的知识且相关领域中没有严格统一的理论领域问题的求解过程可被表示为一系列相对独立的操作每个操作可被表示为一条或多条产生式规则。2.3 框架与知识图谱从槽和侧面到模式层与数据层框架是一种描述所论对象一个事物、事件或概念属性的数据结构。一个框架由若干个称为「槽」的结构组成每个槽又可根据实际情况划分为若干「侧面」槽用于描述对象某一方面的属性侧面用于描述相应属性的一个方面槽和侧面所具有的属性值分别称为槽值和侧面值。这个「框架—槽—侧面」的三层嵌套是名词解释的高频点答的时候要把三层关系一次说清别只写「框架是数据结构」。框架表示法有三个特点。结构性便于表达结构性知识能把知识的内部结构关系及知识间的联系表示出来。继承性框架网络中下层框架可以继承上层框架的槽值也可以进行补充和修改。自然性与人在观察事物时的思维活动一致。继承性是最容易被追问的一点答题时要补一句「继承来的值可以被子框架覆盖」否则会被认为只背了标签。知识图谱又称科学知识图谱用各种图形等可视化技术描述知识资源及其载体挖掘、分析、构建、绘制和显示知识及它们之间的相互联系由一些相互连接的实体及其属性构成。它的逻辑结构分两层数据层由一系列事实组成知识以事实为单位存储模式层构建在数据层之上是知识图谱的核心。构建过程有两条路径。自顶向下是先为知识图谱定义好本体与数据模式再把实体加入知识库自底向上是从一些开放链接数据中提取实体选择置信度较高的加入知识库再构建顶层本体模式。这两条路径的差别就在「本体先定还是后定」一句话就能点破比死记定义牢靠。3. 推理的两条分水岭确定性流程与不确定性度量推理是整门课的分水岭。前半段所有概念都是确定的真值非真即假推起来干脆利落后半段一旦承认知识有不精确性就要引入可信度、信任函数、隶属度这些度量工具公式开始变多。复习时把这条分水岭记牢就不会把确定性推理的流程套到不确定性推理上。3.1 推理的三条分类轴方向、确定性、单调性推理由已知事实出发运用已掌握的知识找出其中蕴涵的事实或归纳出新的事实。分类有三条轴。按推理方向分三类。演绎推理从一般到个别归纳推理从个别到一般其中完全归纳推理是必然性推理不完全归纳推理是非必然性推理默认推理又称缺省推理是在知识不完全的情况下假设某些条件已经具备所进行的推理。类型方向结论性质典型风险演绎推理一般 → 个别必然前提不真则结论不可靠完全归纳个别 → 一般必然需穷举全部个体不完全归纳个别 → 一般非必然样本偏差导致结论被推翻默认推理假设补充 → 结论可撤销假设被新证据否定按确定性分两类。确定性推理所用的知识与证据都是确定的推出的结论也是确定的真值或者为真或者为假不确定性推理所用的知识与证据不都是确定的结论也不确定。按单调性分两类。单调推理随着推理推进及新知识加入结论越来越接近最终目标非单调推理则相反新知识加入不仅没有加强已推出的结论反而要否定它使推理退回到前面的某一步重新开始。非单调性是默认推理的理论基础也是后面「回溯」思想的来源这两处要能互相指认。3.2 正向、逆向与混合三种驱动方式的流程对照正向推理是数据驱动从初始已知事实出发推出结论。流程三步在知识库 KB 中找出当前可适用的知识构成可适用知识集 KS按某种冲突消解策略从 KS 中选一条知识推理把推出的新事实加入数据库 DB 作为下一步已知事实再重新选取 KS重复上一步直到求得问题的解或 KB 中再无可适用知识。逆向推理是目标驱动以某个假设目标为出发点。先选定一个假设目标再寻找支持该假设的证据所需证据都能找到则原假设成立无论如何都找不到所需证据说明原假设不成立需要另作新的假设。主要优点是不必使用与目标无关的知识目的性强同时有利于向用户提供解释主要缺点是起始目标的选择有盲目性。这个优缺点方向千万别写反——目的性强是优点起始目标盲目才是缺点。混合推理有两种顺序。先正向后逆向先正向推理帮助选择某个目标从已知事实演绎出部分结果再用逆向推理证实该目标或提高其可信度。先逆向后正向先假设一个目标进行逆向推理再利用逆向推理中得到的信息进行正向推理以推出更多结论。方式起点驱动优点缺点正向推理初始事实数据驱动事实充分时推进快易做与目标无关的推理逆向推理假设目标目标驱动目的性强、易解释起始目标选择盲目混合推理事实与目标双向兼顾效率与解释控制策略复杂3.3 子句集九步与归结反演把公式变成可计算的形式谓词公式化为子句集是九步顺序固定消去「→」和「↔」符号把否定符号移到紧靠谓词的位置上变量标准化消去存在量词化为前束形前束形等于前缀加母式化为 Skolem 标准形使各合取项之间都是与关系略去全称量词消去合取词子句变量标准化。步骤操作目的易错处1消去 → 与 ↔只留 ¬、∨、∧↔ 要拆成两个方向2否定内移使 ¬ 紧靠谓词量词否定要换量词符号3变量标准化每个量词用不同变量重名变量必须换4消去存在量词用 Skolem 常量或函数受全称量词约束时用函数5化为前束形量词全部前置母式不能含量词6化为 Skolem 标准形母式写成合取范式分配律展开易漏项7略去全称量词默认全称封闭只略全称不能略存在8消去合取词拆成子句集一个合取项一个子句9子句变量标准化不同子句变量不重名归结时才能正确合一归结反演的思路是反证把待证结论取否定加入前提子句集反复做归结若能推出空子句就说明原结论成立。def resolve(c1, c2): # c1、c2 为子句文字集合返回所有可能的归结式 results [] for lit in c1: if -lit in c2: # 找到互补文字对 new (c1 - {lit}) | (c2 - {-lit}) # 消去互补对其余合并 if not any(-x in new for x in new): # 过滤含互补对的无效子句 results.append(frozenset(new)) return results这段代码只处理命题逻辑层面的归结谓词逻辑还要加一步合一替换。参数上文字用整数表示正文字为正数、负文字为负数-lit in c2就是在找互补对new是归结式若为空集就得到空子句反证成功。实际手算时最常翻车的不是归结本身而是前面子句集化错了存在量词在不在全称量词辖域内、Skolem 函数该带几个参数这两处一错后面全盘皆输。3.4 不确定性度量可信度、证据理论与模糊推理不确定性推理是从不确定性的初始证据出发通过运用不确定性的知识最终推出具有一定程度不确定性但合理或近乎合理的结论的思维过程。可信度是根据经验对一个事物或现象为真的相信程度带较大主观性和经验性准确性难以把握。静态强度 CF(H,E) 是知识的强度即当 E 对应的证据为真时对 H 的影响程度动态强度 CF(E) 是证据 E 当前的不确定性程度。def combine_cf(cf1, cf2): if cf1 0 and cf2 0: # 同为正越来越接近 1 return cf1 cf2 - cf1 * cf2 if cf1 0 and cf2 0: # 同为负越来越接近 -1 return cf1 cf2 cf1 * cf2 return (cf1 cf2) / (1 - min(abs(cf1), abs(cf2))) # 异号取净值再归一三段公式最容易记混的是符号同号时减的是乘积、加的是乘积异号时除的是「1 减去两者绝对值较小者」。参数含义上CF 取值在 [-1,1]正值表示相信为真负值表示相信为假0 表示一无所知。合成结果始终落在两个输入值之间且不会越界这一点可以用来做考场自检算出来大于 1 或小于 -1 就一定错了。证据理论这一块有两个函数方向极易写反。样本空间 D 是变量 x 所有可能取值的集合元素互斥任一时刻 x 取且只能取其中一个值。基本概率分配 M 把 [0,1] 的值分给 D 的各子集且总和为 1。信任函数 Bel(A) 是把所有「包含于 A」的子集的 M 值累加似然函数 Pl(A) 是把所有「与 A 交集非空」的子集的 M 值累加。两者满足 Bel(A) 1 − Pl(¬A)这就是笔记里反复纠结的那个「减号」的来历。from frozenset import frozenset def bel(A, m): # A 为 frozensetm 为 {frozenset: 概率} return sum(v for B, v in m.items() if B A) # 子集包含于 A def pl(A, m): return sum(v for B, v in m.items() if B A) # 交集与 A 非空B A是集合包含判断B A非空表示两集合有交集。证据正交和的分子是所有满足 X∩YA 的 M1(X)·M2(Y) 之和分母是归一化因子 1−KK 是冲突部分。记忆口诀就一句信任函数往「内」收似然函数往「外」放。模糊集合给集合中每个元素赋予一个介于 0 和 1 之间的实数描述其属于集合的强度这个实数叫隶属度全体隶属度构成隶属函数。表示方法有三种Zadeh 表示法、序偶表示法、向量表示法。隶属函数的确定有四种方法模糊统计法、专家经验法、二元对比排序法、基本概念扩充法。模糊规则是从条件论域到结论论域的模糊关系矩阵 R通过条件模糊向量与 R 的合成进行推理得到结论的模糊向量再用清晰化方法转成精确量。清晰化方法做法适用场景最大隶属度法取隶属度最大的元素结论集中、峰值明显加权平均判决法以隶属度为权求加权平均需要平滑输出中位数法取隶属度累积中位点隶属函数不对称4. 搜索的两次提速从盲目穷举到 A* 的启发式排序搜索这一章的主线只有一句话状态空间太大穷举扛不住于是引入启发信息给节点排序。把这句话记住宽度优先、深度优先、回溯、A*、h(n) 的权重权衡全部是这一句话的不同展开。4.1 状态空间表示法与搜索必须回答的四个问题状态空间利用状态变量和操作符号表示系统或问题的有关知识的符号体系是一个四元组状态集 S、操作算子集 O、初始状态 S0、目标状态集 G。四元组本身是送分点但答题时要把每个分量对应到具体问题上比如八数码里状态是棋盘布局、算子是空格上下左右移动这样才显得真懂。任何搜索都要回答四个基本问题是否一定能找到一个解找到的解是否最佳解时间与空间复杂性如何是否终止运行或是否会陷入死循环。这四个问题就是后面所有搜索算法比较表的四个列名先立框架再填内容比零散记特征省力得多。搜索方向有三种。数据驱动是从初始状态出发的正向搜索从问题给出的条件出发目的驱动是从目的状态出发的逆向搜索从想达到的目的入手看哪些操作算子能产生该目的、应用这些算子时又需要哪些条件双向搜索是同时从开始状态正向搜、从目的状态逆向搜直到两条路径在中间某处汇合。4.2 盲目搜索三兄弟与回溯的三张表盲目搜索是在不具有对特定问题任何有关信息的条件下按固定步骤依次或随机调用操作算子进行的搜索。宽度优先搜索以接近起始节点的程度为依据逐层扩展深度优先搜索首先扩展最新产生的节点深度相等的节点按生成次序扩展。维度宽度优先深度优先扩展顺序逐层先浅后深优先最新节点先深后浅解的性质有解时能找到且是最短路径有解不一定找到找到的也不一定最优空间开销指数级存整层节点线性只存当前路径死循环风险一般不会有需判重适用解在浅层、分支因子小解在深层、内存受限回溯搜索用三张表把「敢回头」这件事落地。PS 表保存当前搜索路径上的状态若找到目的PS 就是解路径上的状态有序集NPS 表是新路径状态表包含等待搜索的状态其后裔状态还未被搜索到、未被生成扩展NSS 表是不可解状态集列出找不到解题路径的状态若搜索中扩展出的状态是它的元素可立即排除不必沿该状态继续搜索。回溯思想有四条用未处理状态表 NPS 使算法能返回回溯到其中任一状态用「死胡同」状态表 NSS 避免重新搜索无解路径在 PS 表中记录当前搜索路径状态满足目的时作为结果返回为避免陷入死循环必须对新生成的子状态检查它是否已在这三张表中。第四条是最容易漏的很多答案只写前三张表的功能忘了「判重」这个动作。4.3 启发式搜索与 A*可采纳性、单调性、信息性启发信息是在具体求解中能够利用的、与该问题有关并能简化搜索过程的信息。启发式图搜索策略的特点是重排 OPEN 表选择最有希望的节点加以扩展。运用启发式策略有两种基本情况一是问题由于陈述和数据获取的模糊性可能使它没有确定解二是问题虽有确定解但状态空间特别大搜索中生成扩展的状态数会随深度呈指数级增长。import heapq def a_star(start, goal, h, expand): # h(n): 估计函数expand(n): 返回 [(后继, 步长)]g 为已走代价 open_list [(h(start), 0, start, [start])] closed set() while open_list: f, g, node, path heapq.heappop(open_list) # 每次取 f 最小的节点 if node goal: return path, g if node in closed: continue closed.add(node) for nxt, cost in expand(node): ng g cost heapq.heappush(open_list, (ng h(nxt), ng, nxt, path [nxt])) return None, None这段实现的核心只有一行入堆的排序键是ng h(nxt)即 f g hg 是已付出的真实代价h 是到目标的估计代价。h传进来的是可调用对象要求满足 h(goal)0expand返回后继与步长步长在无权图里取 1。closed集合做判重防止重复扩展。最容易写错的是把 h 当成 g 用或者忘了在出堆时再判一次 closed——同一个节点可能以不同 g 值多次入堆出堆时的判重才是真正生效的那一次。A* 有三个性质要分清。可采纳性当一个搜索算法在最短路径存在时能保证找到它就称该算法是可采纳的。单调性要求 h 沿任意路径不递增满足单调性时 A* 不需要重复扩展节点closed 表才真正可靠。信息性两个 A* 启发策略 h1 和 h2若对搜索空间中任一状态 n 都有 h1(n) ≤ h2(n)就称 h2 比 h1 具有更多信息性。h(n) 越大信息性越多搜索的状态越少但更多信息性需要更多计算时间可能抵消减少搜索空间带来的益处。如果某一问题有解那么利用 A* 搜索算法对该问题进行搜索一定能搜到解并且一定能搜到最优解而结束——这句话成立的前提是 h 可采纳答题时补上这个前提才不会被扣分。4.4 估计函数 h(n) 的权重权衡与启发信息分类h(n) 的比重是一道典型的权衡题。h(n) 比重大降低搜索工作量但可能导致找不到最优解h(n) 比重小一般导致工作量加大极限情况下退化为盲目搜索但可能找到最优解。答题时把「效率」和「最优性」这组矛盾点明比单写两句话更完整。启发信息按运用方法分三类陈述性启发信息用于更准确、更精炼地描述状态过程性启发信息用于构造操作算子控制性启发信息是表示控制策略的知识。按作用分三类用于扩展节点的选择决定先扩展哪一个节点以免盲目扩展用于生成节点的选择决定要生成哪些后继节点以免生成过多无用节点用于删除节点的选择决定删除哪些无用节点以免造成进一步的时空浪费。这两组分类经常被混在一起考区分办法很简单第一组问的是「信息长什么样」第二组问的是「信息用在搜索的哪一步」。5. 智能计算与专家系统从遗传算子到知识库工程前面四章是「表示—推理—搜索」的经典路线这一章转向另一半受自然启发的智能计算以及把知识工程化的专家系统。两条线看似无关共同点都是「用一套可计算的结构去逼近人的经验」。5.1 遗传算法编码、三种算子与自适应参数智能计算是受自然界和生物界规律启迪根据其原理模仿设计出的求解问题的算法包括人工神经网络、模糊逻辑、遗传算法等也称计算智能。智能优化方法通常包括进化计算和群智能两大类是一种典型的元启发式随机优化方法已广泛应用于机器学习等领域。进化算法基于自然选择和自然遗传等生物进化机制生物进化通过繁殖、变异、竞争和选择实现而进化算法主要通过选择、重组和变异这三种操作实现优化问题的求解。这三对一的对应关系常被考到别把「繁殖、变异、竞争、选择」四个词直接搬到算法操作里。遗传算法是一类借鉴生物界自然选择和自然遗传机制的随机搜索算法非常适用于处理传统搜索方法难以解决的复杂和非线性优化问题。基本思想是在求解问题时从多个解开始然后通过一定法则逐步迭代产生新的解。编码方面一维染色体编码方法把问题空间的参数编码为一维排列的染色体。二进制编码用若干二进制数表示一个个体将原问题的解空间映射到位串空间 B{0,1} 上再作遗传操作。优点是类似生物染色体组成、算法易用生物遗传理论解释、交叉变异易实现、算法处理的模式数最多缺点有三相邻整数的二进制编码可能具有较大的 Hamming 距离降低遗传算子搜索效率要先给出求解精度求解高维优化问题时位串过长搜索效率低。个体选择概率分配方法有蒙特卡罗法和排序方法线性、非线性。选择个体方法有转盘赌选择、锦标赛选择、最佳个体保存方法。自适应遗传算法的思路是当种群各个体适应度趋于一致或趋于局部最优时使交叉概率 Pc 和变异概率 Pm 增加以跳出局部最优当群体适应度比较分散时使 Pc 和 Pm 减少以利于优良个体生存。def adaptive_pc_pm(f, f_max, f_avg, pc_max0.9, pm_max0.1, k10.5, k20.5): # f: 当前个体适应度f_max/f_avg: 种群最大与平均适应度 if f_max f_avg: # 全部趋同直接拉满强制跳出 return pc_max, pm_max pc pc_max * (f_max - f) / (f_max - f_avg) if f f_avg else pc_max pm pm_max * (f_max - f) / (f_max - f_avg) if f f_avg else pm_max return pc, pm # 优于平均者降低概率保护优良基因参数含义f_max - f_avg度量种群分散程度差距越小说明越趋同f f_avg的个体是优良个体给较小的 Pc、Pm 让它稳定传下去低于平均的个体给满额概率促使其被淘汰或变异。这套公式的直觉就是「好的少动差的多动」。5.2 粒子群算法两个极值与六步迭代群智能算法是受动物群体智能启发的算法群体智能指由简单个体组成的群落与环境以及个体之间的互动行为。粒子群算法的基本思想是把每个个体看作 n 维搜索空间中一个没有体积质量的粒子在搜索空间中以一定速度飞行该速度决定粒子飞行的方向和距离所有粒子有一个由优化函数决定的适应值。基本原理是PSO 初始化为一群随机粒子然后通过迭代找到最优解每次迭代中粒子通过跟踪两个「极值」更新自己一个是粒子本身找到的最优解称个体极值 Pi另一个是整个种群目前找到的最优解称全局极值 Pg。流程六步初始化每个粒子的位置和速度评价每个粒子的适应度计算目标函数设置每个粒子的 Pi与它经历过的最好位置比较更优则替换设置全局最优值 Pg与群体经历过的最好位置比较更优则替换更新粒子的速度和位置检查终止条件未达到预设误差或迭代次数则返回第二步。for i in range(n): # v: 速度x: 位置pbest: 个体极值gbest: 全局极值 v[i] w * v[i] c1 * r1 * (pbest[i] - x[i]) c2 * r2 * (gbest - x[i]) x[i] x[i] v[i]w是惯性权重控制对历史速度的继承程度c1、c2是学习因子分别拉向个体经验和群体经验r1、r2是随机数保证搜索的随机性。三项的物理意义分别是「保持惯性」「相信自己」「相信集体」这也是它与遗传算法最大的气质差异GA 靠选择淘汰PSO 靠信息共享。5.3 专家系统知识库与推理机分离的结构与开发条件专家系统是一种智能的计算机程序它运用知识和推理来解决只有专家才能解决的复杂问题。特点六条具有专家水平的专业知识能进行有效的推理具有启发性具有灵活性具有透明性具有交互性。透明性指能解释自己的推理过程这一点在对比题里经常作为专家系统的独有优势出现。与传统程序的比较是必考对比表六条要背全编程思想上传统程序等于数据结构加算法专家系统等于知识加推理传统程序关于问题求解的知识隐含于程序中专家系统知识单独组成知识库、与推理机分离处理对象上传统程序做数值计算和数据处理专家系统做符号处理传统程序不具有解释功能专家系统具有解释功能传统程序产生正确答案专家系统通常产生正确答案、有时产生错误答案两者系统体系结构不同。开发专家系统的可行性有三组判断。可能性主要依靠经验性知识、不需运用大量常识性知识就可解决的任务存在真正的领域专家有明确的开发目标且任务不太难实现。合理性具有较高的经济效益人类专家奇缺但许多地方又十分需要人类专家经验不断丢失危险场合需要专业知识。合适性问题能通过符号操作和符号结构求解且需使用启发式知识、经验规则才能得到答案复杂性合适范围上任务大小可驾驭且有实用价值。设计原则六条专门的任务、专家合作、原型设计、用户参与、辅助工具、知识库与推理机分离。评价从四个正确性与有用性入手系统设计的正确性、系统测试的正确性、系统运行的正确性、有用性。开发环境又称专家系统开发工具包可为开发提供知识获取辅助工具、适应不同知识结构的知识表示模式、各种不确定推理机制、知识库管理系统等构件。知识获取过程四步抽取知识、知识的转换、知识的输入、知识的检测。知识获取模式有三种非自动知识获取、自动知识获取、半自动知识获取。这四步与三种模式经常合起来出一道简答答的时候按「从专家脑子到知识库」这条物理路径讲比背名词顺。5.4 机器学习层次与知识发现从机械式学习到 KDD机器思维是对通过感知得来的外部信息及机器内部各种工作信息进行有目的的处理。机器学习是使计算机能模拟人的学习行为自动地通过学习获取知识和技能不断改善性能实现自我完善。它研究三方面问题学习机理即人类获取知识、技能和抽象概念的天赋能力学习方法即在对生物学习机理简化的基础上用计算方法再现学习系统即能在一定程度上实现机器学习的系统一般由环境、学习、知识库、执行与评价四部分组成。模式识别是研究对象描述和分类方法的学科分析和识别的模式可以是信号、图像或普通数据。人工神经网络是用大量简单处理单元经广泛连接组成的人工网络用来模拟大脑神经系统的结构和功能。学习模式三种。机械式学习又称记忆学习或死记式学习通过直接记忆或存储外部环境提供的信息达到学习目的以后通过检索知识库得到知识直接求解问题。指导式学习又称嘱咐式学习或教授式学习由外部环境向系统提供一般性的指示或建议系统把它们具体转化为细节知识送入知识库过程中要反复评价使知识不断完善其学习过程为征询指导者的指示或建议、把征询意见转换为可执行的内部形式、加入知识库、评价。示例学习通过从环境中取得若干与某概念有关的例子经归纳得出一般性概念。知识发现的全称是从数据库中发现知识KDD数据挖掘DM是从数据库中挖掘知识两者目的都是从数据集中抽取和精化一般规律或模式。数据挖掘要先确定任务或目的如数据总结、分类、聚类、关联规则或序列模式再选择挖掘算法选算法有两个考虑因素不同数据的特点需要与之相关的算法以及用户或实际系统的要求——有的希望获取描述型的、容易理解的知识有的追求预测准确度尽可能高的预测型知识。知识发现任务关心的问题数据总结对数据浓缩给出紧凑描述概念描述从任务相关数据中提取总体特征分类构造分类函数或分类器把数据项映射到给定类别聚类按数据不同特征划分为不同类相关性分析发现特征之间或数据之间的相互依赖关系偏差分析寻找观察结果与参照量之间的有意义差别建模构造能描述活动、状态或现象的数学模型主要方法四类统计方法从外在数量表现推断可能的规律性常见有回归分析、判别分析、聚类分析、探索分析粗糙集是具有三值隶属函数的模糊集即「是、不是、也许」常与规则归纳、分类和聚类结合使用可视化把数据、信息和知识转化为图形使抽象数据形象化机器学习方法包括符号学习和连接学习。神经网络部分要抓住两个传播。正向传播是输入信息由输入层传至隐层最终在输出层输出反向传播是修改各层神经元的权值使误差信号最小。BP 网络的步骤四条隐层数及隐层神经元数的确定目前尚无理论指导初始权值一般以均值为 0 的随机分布设置训练数据预处理用线性特征比例变换把所有特征变换到 [0,1] 或 [-1,1] 区间使每个训练集上每个特征均值为 0 且具有相同方差后处理时把输出值编码成名义变量具体值对应类别标号。用神经网络求解优化问题一般五步把每个可行解用换位矩阵表示把换位矩阵与 n 个神经元构成的网络相对应构造能量函数使其最小值对应最优解并满足约束用罚函数法构造目标函数与 Hopfield 网络能量函数表达式相等确定连接权与偏置给定初始状态和参数让网络按动态方程运行至稳定并解释为优化问题的解。6. 易漏点排查五个最容易记反的概念与复习清单6.1 五处最容易翻车的地方易漏点产生式与蕴含式混为一谈。为什么漏两者形式上都像「如果…则…」初学时只看表面结构。怎么补抓住两条差异——产生式包含操作、规则、变换、算子、函数且允许不精确匹配蕴含式只表示精确知识且要求精确匹配。默写时强制写出「炉温—风门」那个反例。易漏点可信度合成公式的同号异号记混。为什么漏三段公式长得像考场上凭手感写。怎么补记符号规律——同号时正正减乘积、负负加乘积异号时除以「1 减绝对值较小者」再用结果必须落在两输入值之间做自检。易漏点信任函数与似然函数的累加范围写反。为什么漏两个函数都写成对 M 求和只差一个符号。怎么补信任函数往内收条件是 B⊆A似然函数往外放条件是 B∩A 非空再用 Bel(A)1−Pl(¬A) 交叉验证一次。易漏点A* 的可采纳性与单调性张冠李戴。为什么漏两者都和「最优」有关。怎么补可采纳性管的是「能不能找到最优解」单调性管的是「要不要重复扩展节点」前者对 h 的要求是 h(n)≤真实代价后者要求 h 沿路径不递增。易漏点逆向推理的优缺点方向写反。为什么漏把「目标驱动」直接读成「目标明确」。怎么补逆向推理的优点是不用无关知识、目的性强、易解释缺点是起始假设目标的选择有盲目性一个说过程、一个说起步位置不同。6.2 考前一周的复习清单模块必背概念常考简答自检动作知识表示框架、槽、侧面、知识图谱模式层产生式与蕴含式本文还有配套的精品资源点击获取