首页/新闻资讯/正文详情

如何不联网在手机上跑本地大模型:Google AI Edge Gallery 部署指南

发布时间:2026/9/26 7:51:33 来源:云帆数科 栏目:资讯中心
如何不联网在手机上跑本地大模型:Google AI Edge Gallery 部署指南
如何不联网在手机上跑本地大模型Google AI Edge Gallery 部署指南【免费下载链接】galleryA gallery that showcases on-device ML/GenAI use cases and allows people to try and use models locally.项目地址: https://gitcode.com/GitHub_Trending/gallery44/galleryGoogle AI Edge Gallery 是一个把开源大模型直接跑在手机上端的侧应用多轮对话、图像问答、语音转写都在设备内完成。模型加载完成后可断网使用推理过程不出设备。 它先替你干这几件事图像问答你拍一张照片或从相册选一张它返回物体是什么、场景里在做什么。语音转写你录 2 分钟语音它输出实时文字还能给出翻译。设备控制你说把亮度调到 50%它调用手机的对应设置项直接执行全程不联网。⚡ 断网可用的前提条件检查系统Android 12 及以上工程 minSdk 为 31或 iOS 17 及以上。安装应用Android 从 Google Play 安装没有 Play 就从最新 release 页拿 APK 直接装iOS 从 App Store 安装另有 macOS 版本。下载模型在应用的模型管理里从列表挑一个从 Hugging Face 拉取当前版本官方支持 Gemma 4 系列。断网验证下载完成后开飞行模式再发一句话能正常出字即可长期使用。想改代码再克隆仓库git clone https://gitcode.com/GitHub_Trending/gallery44/gallery用 Android Studio 打开构建。各能力怎么用对话输入话题开始多轮交流在支持的模型Gemma 4 系列起上可打开 Thinking Mode看到模型逐步的推理过程。图像拍照或从相册选图作为输入模型返回物体识别、视觉谜题答案或详细描述。音频录音作为输入实时转写成文字支持翻译输出适合会议记录和素材整理。设备控制Mobile Actions 由 FunctionGemma 270m 的微调版本驱动——注意此处驱动指运行时调用模型听懂你的指令后调用手机设置或系统动作返回执行结果。 加载自己的 .litertlm 模型应用支持加载自定义 .litertlm 模型并随时切换。模型以 LiteRT 格式打包在模型管理面板导入模型文件也可以粘贴 Hugging Face 的模型地址导入导入后可与列表中的模型互相切换、删除并跑基准测试对比表现。加载与删除逻辑集中在 ModelManagerViewModel.kt要自己加一个 AI 任务模块看 customtasks/ 目录。 读懂推理性能指标应用内置基准测试每轮跑出三个数字TTFTtime to first token从发送到第一个字出现所用的秒数越短首响越快输入越长这个值越吃亏。解码速度decode speedtokens/sec首字之后的持续生成速度越高后续输出越快。prefill 速度处理输入部分的速度同为 tokens/sec是长上下文档位的主要瓶颈。判断好坏别看单次数值同一台设备跑同一个模型做对比并记录当时用的是 CPU 还是 GPU 加速。适用边界这套方案适合要验证设备端大模型、或网络不可用场景的部署如果你要的是顶级云端模型的对话能力端侧模型目前够不到。MCP 外部工具接入与 Thinking Mode 仍是实验性功能后者只在受支持的模型上生效应用本身处于实验性 Beta 阶段硬件下限与具体模型的兼容性以官方发布为准。【免费下载链接】galleryA gallery that showcases on-device ML/GenAI use cases and allows people to try and use models locally.项目地址: https://gitcode.com/GitHub_Trending/gallery44/gallery创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

相关推荐

TinyVT:基于EPT的Windows内核无痕HOOK与内存访问控制
TinyVT:基于EPT的Windows内核无痕HOOK与内存访问控制

1. 这不是“又一个HOOK教程”:TinyVT的本质是重构Windows内核的访问控制权你搜到“TinyVT Windows内核虚拟化技术终极指南:5步掌握EPT无痕HOOK”时,大概率正卡在某个关键节点上——可能是驱动调试时发现SSDT被绕过、可能是想拦截某款安全软件… · 2026/9/26 7:51:33

AI基础设施安全巡检:AI-Infra-Guard技能扫描与Docker部署实战
AI基础设施安全巡检:AI-Infra-Guard技能扫描与Docker部署实战

从今年上半年开始,我把自己那台工作站当成了一台“本地 AI 试验台”,Ollama、Dify、DeepSeek 蒸馏模型、MinimaxH3、还有几个 Agent 编排框架全塞了进去。服务多起来之后,一个现实问题摆在面前:我根本说不清到底哪些端口在监听、哪… · 2026/9/26 7:51:27

工业智能体落地指南:从架构拆解到工程实践
工业智能体落地指南:从架构拆解到工程实践

1. 工业智能体到底是个什么东西1.1 从“工业软件”到“工业智能体”的认知跃迁我在制造业信息化这个圈子里摸爬滚打了十来年,亲眼见证了从MES、ERP到工业互联网平台的一轮轮技术浪潮。说实话,每次新概念出来,车间里的老师傅第一反应都是“又来… · 2026/9/26 7:51:27

华为ICT大赛备赛全攻略:赛道选择、真题用法与官方书籍阅读指南
华为ICT大赛备赛全攻略:赛道选择、真题用法与官方书籍阅读指南

华为ICT大赛这几年在高校圈的热度肉眼可见地往上蹿,我身边不少学弟学妹从大二就开始盯着这个比赛,原因很实在——它不光是简历上能写的一行字,更是一次把课堂里零散的网络、云计算、AI知识串成体系的机会。但问题也来了:赛道到底怎… · 2026/9/26 8:18:34

基于Qt开发实现的任务管理器:进程枚举、性能曲线与避坑指南
基于Qt开发实现的任务管理器:进程枚举、性能曲线与避坑指南

简介:这是一份基于Qt开发的任务管理器项目资料,面向正在学习Qt GUI编程、系统进程管理或课程设计的学生与开发者。资源内含设计报告Word文档和完整项目源码,源码在Ubuntu 14.04环境下使用Qt Creator开发,实现了系统信息、进程信息… · 2026/9/26 8:18:34

Agent Skills实战指南:从零搭建高效技能包工作流
Agent Skills实战指南:从零搭建高效技能包工作流

最近一直在折腾 agent-skills 这套东西,起因很简单:用 Claude Code 和 Codex 写代码、做自动化任务时,总觉得每次都要把同一套规则、同一个流程反复说一遍,费 token 不说,Agent 发挥也不稳定。后来把常见的操作沉淀成 … · 2026/9/26 8:18:34

Agent Skills实战指南:从概念到安装调试的完整梳理
Agent Skills实战指南:从概念到安装调试的完整梳理

接到这个标题“agent-skills”的时候,我第一反应是:这不就是当前 AI Agent 开发圈里被讨论最多、却也最容易被误解的一个概念吗?如果你最近刷过 GitHub、看过 Codex 或 Claude Code 的更新日志,大概率已经见过 skills、superpower… · 2026/9/26 8:18:34

AI安全渗透测试平台实战:四层纵深架构与十六大领域攻防
AI安全渗透测试平台实战:四层纵深架构与十六大领域攻防

1. 项目概述:这不是一个“玩具平台”,而是一套可落地的AI安全工程实践体系“AI全栈安全渗透测试平台搭建实战:十六大领域7900API4大AI智能体”——这个标题里没有一个词是虚的,全是实打实的工程量、技术边界和业务约束。我带团队从… · 2026/9/26 8:18:34

YOLO海底垃圾检测实战:185张图像数据集训练与调优指南
YOLO海底垃圾检测实战:185张图像数据集训练与调优指南

简介:这份资源面向从事海洋环境监测、水下目标识别与计算机视觉方向的研究者及YOLO算法学习者,提供一套可直接用于训练与验证的海底垃圾目标检测数据集,覆盖生物罐、布料、玻璃等常见海底废弃物类别。压缩包共371个文件,以185张jp… · 2026/9/26 8:18:28

数据库课后习题答案别硬背:当测试用例集刷,效率翻倍
数据库课后习题答案别硬背:当测试用例集刷,效率翻倍

简介:万常选版《数据库原理与设计》课后习题答案资源,覆盖第2至6章及第9章,适合正在学习关系模型、数据库建模、关系数据理论与模式求精的本科生、自学者作为复习与自测材料。压缩包共7个文件,含3个doc参考答案、2个sql示例脚本、… · 2026/9/26 0:00:21

OpenClaw 替代品?Hermes Agent 踩坑实录:macOS 飞书接入 TaoToken 配置
OpenClaw 替代品?Hermes Agent 踩坑实录:macOS 飞书接入 TaoToken 配置

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views … · 2026/9/26 0:00:40

向下兼容与向上兼容:接口设计中的兼容性策略与工程实践
向下兼容与向上兼容:接口设计中的兼容性策略与工程实践

一次版本升级事故,是很多团队绕不过去的坎。线上环境里,服务端明明已经上线了新版接口,老的移动端还在照着旧文档传参数。请求一到网关,校验直接拒绝,用户操作失败,客服群炸了锅,开发群里开始互… · 2026/9/26 0:00:46

了解更多?预约专属演示

我们的顾问将为您一对一讲解产品与方案

企业微信二维码