首页/新闻资讯/正文详情

第二期:API 调用与 OpenAI 兼容对接(把模型接入代码)

发布时间:2026/11/20 0:02:01 来源:云帆数科 栏目:资讯中心
第二期:API 调用与 OpenAI 兼容对接(把模型接入代码)
第二期API 调用与 OpenAI 兼容对接把模型接入代码目标用两种方式从 Python 调用本地模型——Ollama 原生 API 和 OpenAI 兼容接口理解何时用哪种并掌握流式输出的基本写法。Ollama 启动后监听localhost:11434。原生 API 走/api/generate或/api/chatOpenAI 兼容接口走/v1/chat/completions。原生接口能用到 Ollama 特有的参数如num_ctx控制上下文窗口兼容接口则让现有 OpenAI 项目几乎零改动切换。1. 用 requests 调用原生 API最轻量的方式不依赖任何 SDKpythonimport requests import json resp requests.post( http://localhost:11434/api/generate, json{ model: qwen2.5:7b, prompt: 用一句话解释什么是 RAG, stream: False } ) print(resp.json()[response])streamFalse一次性返回完整结果。如果要逐字输出设为True并逐行解析返回的 JSON 流。2. 用 OpenAI SDK 调用兼容接口如果已有基于 OpenAI 的项目只需改两个地方base_url和api_keyOllama 不校验 key随便填一个即可pythonfrom openai import OpenAI client OpenAI( base_urlhttp://localhost:11434/v1/, api_keyollama # 必填但被忽略 ) response client.chat.completions.create( modelqwen2.5:7b, messages[ {role: system, content: 你是一个简洁的技术助手。}, {role: user, content: Ollama 和 vLLM 有什么区别} ] ) print(response.choices[0].message.content)这种方式的好处是已有 OpenAI 调用代码中的模型名、消息结构、参数名temperature、max_tokens等基本不用改只换 base_url 就能跑本地模型。3. 流式输出实际产品中通常需要流式返回避免用户等待过久python# 原生 API 流式 resp requests.post( http://localhost:11434/api/generate, json{model: qwen2.5:7b, prompt: 写一段 100 字的产品介绍, stream: True}, streamTrue ) for line in resp.iter_lines(): if line: chunk json.loads(line) print(chunk.get(response, ), end, flushTrue)OpenAI 兼容接口的流式写法与官方 SDK 完全一致streamTrue后遍历chunk.choices[0].delta.content即可.github.0voice

相关推荐

数据治理 15|数据地图怎么画——从“搜一下就有”到“30秒看懂家底”
数据治理 15|数据地图怎么画——从“搜一下就有”到“30秒看懂家底”

数据治理系列 第15篇 | 图文版 第 14 篇把货架搭起来了。这篇讲另一件事:货架是给客人用的,可老板要看的是一张卖场平面图。4 月下旬,老周接到通知:5 月中旬集团数字化办公室季度会,听汇报的是分管数据工作的刘处长。办… · 2026/11/7 15:57:49

基于(CNN-CBAM-BiGRU)卷积网络-CBMA注意力-双向门控循环单元单变量时序预测
基于(CNN-CBAM-BiGRU)卷积网络-CBMA注意力-双向门控循环单元单变量时序预测

目录 1、代码简介 2、代码运行结果展示 3、代码获取 1、代码简介 基于(CNN-CBAM-BiGRU)卷积网络-CBAM注意力-双向门控循环单元单变量时序预测 (单输入单输出) Matlab代码 由于之前的图像分析太少,本次更新采用66模式来实现对模型结果的可视化展示!&… · 2026/11/7 8:33:34

拨码开关也玩“微操”?从行业交期波动看微型开关的选型与替代破局
拨码开关也玩“微操”?从行业交期波动看微型开关的选型与替代破局

进入2026年10月,随着AI边缘计算终端和高端智能穿戴设备的集中量产,硬件工程师们正忙着打磨产品细节。然而,供应链端却传来微调信号:据行业公开报告显示,部分日系头部元器件厂商将产能向汽车电子和AI算力服务器倾斜&… · 2026/11/8 4:35:03

电工证过期了不知道怎么复审延期?官方回应来了!电工证在哪里报考流程全攻略
电工证过期了不知道怎么复审延期?官方回应来了!电工证在哪里报考流程全攻略

电工证过期了不知道怎么复审延期?官方回应来了!电工证在哪里报考流程全攻略 证书过期了不知道怎么复审延期?你不是一个人!每年都有不少电工因为没及时复审,导致证书失效,影响工作甚至被单位辞退。官方回应明确:… · 2026/11/20 0:01:56

电工证补贴多少钱每月 实操考试心里没底怕挂科?电子证书怎么拿稳
电工证补贴多少钱每月 实操考试心里没底怕挂科?电子证书怎么拿稳

电工证补贴多少钱每月 实操考试心里没底怕挂科?电子证书怎么拿稳 实操考试心里没底怕挂科,这是很多准备报考电工证的朋友最真实的感受。尤其是对于洛阳市政公用工程从业者来说,电工证不仅是上岗的“通行证”,更是拿到补贴和提升收入的关键。很多人一听到… · 2026/11/20 0:01:56

中级电工证多难报名入口与办理流程真实经历揭秘
中级电工证多难报名入口与办理流程真实经历揭秘

中级电工证多难报名入口与办理流程真实经历揭秘 工地太忙根本没时间复习考试,这几乎是所有一线施工人员的真实写照。尤其是像郑州这种工程项目集中、施工节奏快的城市,电工证作为特种作业操作证之一,是从事电气安装、维修等工作的必备条件。中级电工证多难… · 2026/11/20 0:01:56

电工证培训图纸在哪考?上岗前必须知道的实操考试内容
电工证培训图纸在哪考?上岗前必须知道的实操考试内容

电工证培训图纸在哪考?上岗前必须知道的实操考试内容 你还在为找不到电工证培训图纸发愁吗?现在电工证是不少建筑、维修、安装类岗位的“入场券”, 急需特种作业证才能上岗找工作… · 2026/11/20 0:01:56

中级电工证多难 内部消息告诉你哪里报名最靠谱
中级电工证多难 内部消息告诉你哪里报名最靠谱

中级电工证多难 内部消息告诉你哪里报名最靠谱 你是不是正为中级电工证怎么考发愁?怕被中介骗钱?别急,我这有 内部消息 ,告诉你怎么避坑,怎么找到正规报名渠道,还带你看看中级电工证到底有多难,值不值得考。… · 2026/11/20 0:01:56

电工作业教学效果评价怎么报名?别被中介骗了,看这篇就够了
电工作业教学效果评价怎么报名?别被中介骗了,看这篇就够了

电工作业教学效果评价怎么报名?别被中介骗了,看这篇就够了 你是不是也这样,想考个电工证,但不知道怎么报名?又怕被那些中介坑钱?别急,今天咱们就来聊聊【电工作业教学效果评价】和怎么报名这事,帮你避坑,还能了解清楚这证到底值不值。… · 2026/11/20 0:00:54

长春初级电工证怎么考?通过率揭秘全在这里
长春初级电工证怎么考?通过率揭秘全在这里

长春初级电工证怎么考?通过率揭秘全在这里 之前考的证在外省能不能转过来?这几乎是每个想从事电工工作的人都会问的问题。特别是那些在外地打拼多年、手里握着一张“外地电工证”的人,到了长春想继续干这一行,第一反应就是“我的证能用吗?”。今天我们就… · 2026/11/19 16:06:02

国内电工证报考条件与考试时间
国内电工证报考条件与考试时间

低压电工证怎么考?学历不高也能报名,官方报名入口全在这 你是不是经常听说“电工证是入行门槛”,但又担心自己学历不够、经验不足,根本报不了名?别急,今天就带你从零了解【国内电工证】的报考流程、考试内容,还有怎么在 官方报名入口… · 2026/11/19 17:40:37

电工作业时如何断电?电子证书到底能不能全国通用?
电工作业时如何断电?电子证书到底能不能全国通用?

电工作业时如何断电?电子证书到底能不能全国通用? 实操考试心里没底怕挂科,特别是电工作业时如何断电这一操作,不仅关系到你能不能拿到证书,更关系到以后能不能顺利上岗。很多人觉得这不过就是“断个电”,但其实这里面的门道可不少,稍有不慎就可能出错… · 2026/11/19 17:50:07

建设厅特种工周三报名怎么弄?上岗必备别被中介坑
建设厅特种工周三报名怎么弄?上岗必备别被中介坑

建设厅特种工周三报名怎么弄?上岗必备别被中介坑 不知道去哪报名怕被中介坑?作为商丘某高校工程类应届毕业生,小李最近就遇到了这样的困扰。他刚毕业,正在找实习岗位,发现很多工地都要求持有特种作业操作证,尤其是【建设厅特种工周三报名】这个时间点,… · 2026/11/20 0:00:54

中专考的中级电工证内部消息全攻略
中专考的中级电工证内部消息全攻略

中专考的中级电工证内部消息全攻略 你中专毕业,手头有中级电工证,但不知道从哪开始报名,怕被中介坑?别急,这篇文章就是为你量身定制的“内部消息”,帮你避开报名陷阱,稳稳拿到证书。… · 2026/11/20 0:00:54

外省电工证能转过来吗?电子证书怎么查电工作业教学效果评价
外省电工证能转过来吗?电子证书怎么查电工作业教学效果评价

外省电工证能转过来吗?电子证书怎么查电工作业教学效果评价 之前考的证在外省能不能转过来?这几乎是所有在外地打拼的电工从业者最关心的问题。特别是像洛阳这样的工业城市,很多电工证是在外地考的,现在想在当地用,流程是不是很复杂?其实,只要搞清楚… · 2026/11/20 0:00:54

双极步进电机控制实战:DRV8818PWPR与PIC18F86K22驱动调试
双极步进电机控制实战:DRV8818PWPR与PIC18F86K22驱动调试

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views … · 2026/11/19 6:33:25

STM32F207ZG + DRV8818PWPR 步进电机驱动实战解析
STM32F207ZG + DRV8818PWPR 步进电机驱动实战解析

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views … · 2026/11/19 6:33:32

DRV8818PWPR+dsPIC30F4013工业级双极步进电机控制方案
DRV8818PWPR+dsPIC30F4013工业级双极步进电机控制方案

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views … · 2026/11/19 0:22:38

了解更多?预约专属演示

我们的顾问将为您一对一讲解产品与方案

企业微信二维码