网易首页 > 网易号 > 正文 申请入驻

MiniCPM-OCR 开源:把 “Jev” 用在文字识别

0
分享至

刚刚,面壁智能和 OpenBMB 开源了 MiniCPM-OCR,这是一个非常有趣的 OCR 组合,包含两个部分:一个负责识别文字,一个负责判断正确性

一个认字,一个判卷 MiniCPM-OCR · 发了什么 原图 认出的字 0.98 0.96 0.41 0.97 认字模型 1.3B 判卷模型 2B 两个都开源 · Apache 2.0

想在自己电脑上装,复制这句话,交给你的 agent 就行

阅读并执行 https://github.com/OpenBMB/MiniCPM-OCR/blob/main/docs/SKILL_en.md


发了什么

先说文字识别的 MiniCPM-OCR,这个模型只有 1.3B,也是 MiniCPM-V/o 家族第一个专做 OCR 的模型,可以将各种文件(无论是照片、扫描件、还是 PDF),识别并导出一份能直接编辑的 Markdown

报纸、图表、公式,都能认 MiniCPM-OCR · 发了什么 认出来的 报纸 → Markdown 2026年8月31日 星期一 连线评论员 # 从一条渠读懂正确政绩观 对话人: 周珊珊 本报评论员 许庆光 新疆日报评论员 # 智能时代,如何与算法共处 柱状图 → 表格 Year Low Middle High Very high 2014 32 74 62 25 2016 32 57 75 29 2018 15 65 73 40 2020 8 59 69 57 2022 7 53 73 60 2024 11 44 62 76 复杂公式 → LaTeX 左边是原图,右边是认出来的

这一个模型有趣的一点是,它们会动态地调整文字的方向和大小,以便于更好地识别我们经常是对着一些拍歪了的文件进行图像识别,这就很能派得上用场了

拍歪了、字太小,也能认 MiniCPM-OCR · 发了什么 金额 62.00元 真实拍摄评测 Real5: ,第一

这里还有一份 benchmark,可见效果还是不错的

六项评测,四项第一 MiniCPM-OCR 1.0 · 评测 真实拍摄 Real5 MiniCPM-OCR 1.0 93.68 PaddleOCR-VL-1.6 93.19 Xiaomi-OCR-0 92.73 真实场景 Wild MiniCPM-OCR 1.0 92.39 Xiaomi-OCR-0 92.06 PaddleOCR-VL-1.6 91.49 通用 OCRBench v2 MiniCPM-OCR 1.0 54.7 Nanonets-OCR-s 47.4 Xiaomi-OCR-0 47.0 语义先验噪声场景 CHAOS MiniCPM-OCR 1.0 29.78 TeleOCR 21.28 Xiaomi-OCR-0 17.84 OmniDocBench v1.6 TeleOCR 96.91 Xiaomi-OCR-0 96.83 Ovis-OCR2 96.58 MiniCPM-OCR 1.0 96.51 olmOCR-Bench chandra-ocr-2 85.8 LightOnOCR-3-1B 84.5 Surya OCR 2 83.3 MiniCPM-OCR 1.0 82.7 14 个开源 OCR 模型同场

在识别速度上,这一款模型也是十分的有优势。对于包含 1651 张页面图的 OmniDocBench v1.6 数据集,在同一张 NVIDIA GeForce RTX 5090 的显卡下,各种模型的速度如下

同样的文档,它认得最快 MiniCPM-OCR · 发了什么 MiniCPM-OCR 1.0 13.7 分钟 GLM-OCR 14.1 分钟 PaddleOCR-VL 20.4 分钟 MinerU2.5-Pro 49.6 分钟 0 10 20 30 40 50 分钟 认完 1000 页,约 14 分钟

下面容我介绍下那个「Jev」同一时间发布的还有一个 Jev 模型(2B),我觉得这是非常有创新性的一点,它的作用是把原图和识别出来的文字放在一起,给一个可信度的打分。如果分数较低,就可以提醒你这里或许是有问题的,需要人工处理一下

判卷模型给每一块打分 MiniCPM-OCR · 发了什么 合同编号:HT-2026-018 合同编号:HT-2026-018 0 0.5 1 0.99 签订日期:10 月 28 日 签订日期:10 月 28 日 0.97 金额:12,800 元 金额:12,300 元 0.31 付款方式:银行转账 付款方式:银行转账 0.96 分数在 0 到 1 之间,越高越可能认对

作为一个专用模型,在“判卷”这件事情上,它是能够和很多的大模型去掰一掰手腕的

判卷模型不大,判得很准 MiniCPM-OCR Jev · 评测 Qwen3.5 2B 50.6 Qwen3.5 9B 72.0 Qwen3.5 35B 89.8 JEV 35B 90.1 Gemma 4 31B 90.5 MiniCPM-OCR Jev 2B 93.6 Qwen3.5 397B 93.8 JEV-VL 27B 94.0 Qwen3.7-Plus 未公开 94.3 Kimi K3 2.8T 96.9 Gemini 3.8 Flash 未公开 97.1 50 = 瞎猜 100 = 全判对 2B 的 Jev,和 397B 的 Qwen3.5 差不多准

两个模型的权重、推理代码和微调工具,都放在 GitHub 的 OpenBMB/MiniCPM-OCR 里

全部开源 MiniCPM-OCR · 发了什么 OpenBMB / MiniCPM-OCR Apache 2.0 两套权重 BF16 GGUF AWQ GPTQ 推理框架 vLLM SGLang llama.cpp Ollama 交给 agent Skill.md 微调 LLaMA-Factory Swift Apache 2.0

两个模型怎么配合

那接下来我们就看一看这两款模型是怎么配合的对此,我做了一个非常生动的动画,看一看

两个模型怎么接力 MiniCPM-OCR · 怎么配合 直接入库 交给人看 认字模型 1.0 判卷模型 Jev

分高的识别区块能够直接录入,而分数低的可以让人再看一眼

人只看低分的几块 MiniCPM-OCR · 怎么配合 没有判卷模型 有判卷模型 复核完成

那如果大模型说这个区块确实没有问题,就会给它标记一个叫“免检”的 tag但这玩意儿真的可靠吗?面壁拿内部不同业务的 900 块图试过,还真是挺可靠的

大部分内容,不用人再看 MiniCPM-OCR · 怎么配合 免检 法律文书 财务票据 复杂文档 免检,直接录入 交给人看 法律文书 85% 免检,免检的部分全部认对

当然,这个判卷模型还能当裁判:比如你可以把同一页交给几个 OCR 各认一遍,然后每一块留下分最高的那份,这何尝不是一种拼好 R

几个模型一起认,挑最好的 MiniCPM-OCR · 怎么配合 MiniCPM-OCR Xiaomi OCR PaddleOCR-VL 拼起来 原图 0.97 0.95 0.93 0.71 0.94 0.88 0.62 0.58 0.91 0.96 0.90 0.97 PaddleOCR-VL  MiniCPM-OCR

怎么用

整套的模型与服务已经上线了 MiniCPM 的网站,国内是 platform.modelbest.cn,海外是 platform.modelbest.ai,开箱即用

网页上传就能试 MiniCPM-OCR · 怎么用 文档解析工作台 + 新建识别 拖拽文件到此处,或 点击上传 支持 PDF、JPG、PNG、WebP、GIF 旋转自适应 印章识别 原始文档 已摆正 预览 Markdown 源码 二、相互作用—力 (6)重力:G = mg 方向:竖直向下 重力做功 W G = mgh 重力的平均功率 P G = W G / t 瞬时功率 P G = mgV y

当然,你也可以选择把这套东西装在自己电脑上,就把开头那句交给 agent,它会照着仓库里的说明一步步装好

第一次装好、把服务跑起来,大约要 3 分钟

一句话,让 agent 装好 MiniCPM-OCR · 怎么用 agent › R e a d a n d e x e c u t e g i t h u b . c o m / O p e n B M B / M i n i C P M - O C R / … / S K I L L _ e n . m d 检查显卡 显存 ≥ 24 GB 检查磁盘 空间 ≥ 20 GB 安装环境 下载模型 MiniCPM-OCR-1.0 + DSpark 启动服务 127.0.0.1:18499 显存至少 24 GB

装好以后,一条命令就能把 PDF 变成 Markdown,表格也会一并转成 HTML

一条命令,PDF 变 Markdown MiniCPM-OCR · 怎么用 terminal $ m i n i c p m v o c r p a r s e - - i n p u t 采 购 合 同 . p d f - - o u t p u t o u t . m d out.md # 采 购 合 同 第 一 条 甲 方 向 乙 方 采 购 … … < t a b l e > < t r > < t d > 品 名 < / t d > …

而对于那个 Jev,则可以直接在在 Hugging Face 上一行 Ollama

判卷模型,一行跑起来 MiniCPM-OCR · 怎么用 Hugging Face openbmb / MiniCPM-OCR-Jev-gguf Image-Text-to-Text GGUF quality-assessment llama.cpp License: apache-2.0 Model card Files Community Use this model ▾ MiniCPM-OCR Jev (2B) scores OCR candidates for text, formula, and table regions, returning a quality score from 0 to 1. Model size 2B params 4-bit Q4_K_M 1.27 GB 8-bit Q8_0 2.01 GB Local Apps llama.cpp LM Studio vLLM Ollama How to use from Ollama ollama run hf.co/openbmb/MiniCPM-OCR-Jev-gguf:Q4_K_M Copy Copied terminal $ ollama run hf.co/openbmb/MiniCPM-OCR-Jev-gguf:Q4_K_M 1.27 GB

对了,这俩模型的 api 后续还会放出来,敬请期待

原理

说回 Jev:为啥非要单独做一个判卷的模型?

现在新一代的 OCR,几乎都换成了能看图写字的大模型,整页看一遍就直接把结果写出来问题在于...OCR 模型这玩意儿,它识别错了,自己也不知道

认错了,它自己不知道 MiniCPM-OCR · 原理 原图 认字模型 认出来的 认字模型把下标写错了,照样打勾说完成

倘若在平时办公也好,一个错别字影响并不大但在财务、法务、医疗这些地方就很要了老命了,比如说,你是切 5 厘米还是切 5 毫米,是吧?那在这种情况下,走一轮校验,看不清的天书,就能更准确地进入人工流程了

认错的字,判卷模型挑得出来 MiniCPM-OCR · 原理 原图 候选 1 纯种的甜玉米与纯种的非甜玉米实行 间种植 ,收获时发现…… ……但在非甜玉米的果穗上找不到 非甜 玉米的子粒 0.0067 候选 2 纯种的甜玉米与纯种的非甜玉米实行 间行种植 ,收获时发现…… ……但在非甜玉米的果穗上找不到 甜 玉米的子粒 0.984 错两处的候选,分数掉到 0.0067

很显然,这种方法是非常省时、省力、省人工的

判卷模型给的分,靠得住 MiniCPM-OCR · 原理 它说:85% 可能对 认对 它说:30% 可能对 认对 人工核对: 认对 认错 说 85% 可能对,就真有八成五对

另外得说一下,为什么这个模型是这么快?靠的一套叫 DSpark 投机采样小妙招:先让一个小模型猜几个字,再由大模型一次核对

认字模型为什么快 MiniCPM-OCR · 原理 猜 定 小模型 大模型核对 合 同 金 颔 合 同 金 颔 额 为 一 万 二 为 一 万 二 千 八 百 元 千 八 百 元 DSpark 投机采样:效率

最后

业务里 OCR 用的多的朋友,不妨来试一试,两个模型加起来不到 4B,人人能跑了是

可以试试把下面这段话发给你的 Agent

阅读并执行 https://github.com/OpenBMB/MiniCPM-OCR/blob/main/docs/SKILL_en.md

代码和模型,都在 GitHub 上 MiniCPM-OCR · 最后 OpenBMB / MiniCPM-OCR Public Star Code Issues Pull requests Actions .github/workflows assets/minicpm-ocr docs scripts sdk AGENTS.md LICENSE README.md About An open-source OCR solution for fast, accurate document parsing with correctness assessment. image2text minicpm-v ocr Apache-2.0 license Skill:把这句话发给 coding agent Read and execute github.com/OpenBMB/MiniCPM-OCR/…/docs/SKILL_en.md Copied! github.com/OpenBMB/MiniCPM-OCR

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
一线高校教师非升即走,完不成任务就降职级,不合格率超22%!行政领导的考核却几乎为零,全员合格!

一线高校教师非升即走,完不成任务就降职级,不合格率超22%!行政领导的考核却几乎为零,全员合格!

学术眺望
2026-11-07 19:20:03
杨幂立冬晒吃银杏叶饺子,“惠英红想吃杨幂的饺子”登上热搜

杨幂立冬晒吃银杏叶饺子,“惠英红想吃杨幂的饺子”登上热搜

韩小娱
2026-11-07 16:28:04
聚众淫乱合法,美国更是有钱人的“天堂”了

聚众淫乱合法,美国更是有钱人的“天堂”了

侠客栈
2026-11-06 12:21:27
突然大跳水!暴跌87%,江阴人可以捡漏了

突然大跳水!暴跌87%,江阴人可以捡漏了

最江阴
2026-11-07 10:47:11
0-4林昀儒止步八强!温瑞博出局国乒男队全军覆没 梯队建设成老大难

0-4林昀儒止步八强!温瑞博出局国乒男队全军覆没 梯队建设成老大难

颜小白的篮球梦
2026-11-07 22:04:14
美媒表示:中国东风61正式服役,中国导弹越来越多,外舰根本无法靠近,西方没想到速度这么快

美媒表示:中国东风61正式服役,中国导弹越来越多,外舰根本无法靠近,西方没想到速度这么快

绝对军评
2026-11-07 12:58:01
油价调整:车主注意!11月7日柴油汽油价格表,国内油价大跌要来了

油价调整:车主注意!11月7日柴油汽油价格表,国内油价大跌要来了

有料财经
2026-11-07 11:18:58
高盛重磅报告:中国住房供应下降90%,第7轮房价上涨即将开始

高盛重磅报告:中国住房供应下降90%,第7轮房价上涨即将开始

风雨与阳光
2026-11-06 02:04:55
张不开嘴就别演正剧!《伟大的长征》里李乃文用四菜一汤把张国焘演出了欠抽的气质

张不开嘴就别演正剧!《伟大的长征》里李乃文用四菜一汤把张国焘演出了欠抽的气质

娱乐故事
2026-11-01 22:16:03
实话说:俄罗斯对中国最大的贡献,就是让整个西方彻底误判了中国

实话说:俄罗斯对中国最大的贡献,就是让整个西方彻底误判了中国

经纬戎韬
2026-11-07 04:14:36
大暴雪、大暴雨来袭!两部门重要部署

大暴雪、大暴雨来袭!两部门重要部署

环球网资讯
2026-11-07 17:15:59
普京再签署总统令,俄罗斯接管日本烟草其他多项资产;此前日本决定对俄罗斯实施追加制裁,俄方对等反制

普京再签署总统令,俄罗斯接管日本烟草其他多项资产;此前日本决定对俄罗斯实施追加制裁,俄方对等反制

扬子晚报
2026-11-07 14:44:10
财政钱都是劳动者交税!绝不应该用来供养特殊特权

财政钱都是劳动者交税!绝不应该用来供养特殊特权

小鹿姐姐情感说
2026-11-06 05:19:20
波尔津吉斯发长文向勇士道歉:我耽误了库里夺冠,选择退役来弥补

波尔津吉斯发长文向勇士道歉:我耽误了库里夺冠,选择退役来弥补

篮球小方
2026-11-07 11:24:26
横店迎来三十年最为惨烈的一次断臂求生!130多座摄影棚,合计50万平方米,全部免租金向剧组开放

横店迎来三十年最为惨烈的一次断臂求生!130多座摄影棚,合计50万平方米,全部免租金向剧组开放

扶苏聊历史
2026-10-28 15:47:11
马斯克:中国太棒了,我爱中国

马斯克:中国太棒了,我爱中国

观察者网
2026-11-07 15:46:51
白俄总统卢卡申科再一次语出惊人:提议由特朗普担任联合国秘书长

白俄总统卢卡申科再一次语出惊人:提议由特朗普担任联合国秘书长

青烟小先生
2026-11-07 10:11:14
成都一中学体测现场男生做引体向上犯难,女老师上场示范连拉4个,现场“哇”声一片

成都一中学体测现场男生做引体向上犯难,女老师上场示范连拉4个,现场“哇”声一片

潇湘晨报
2026-11-07 16:57:21
全国人民代表大会常务委员会关于批准《关于成立世界人工智能合作组织的协定》的决定

全国人民代表大会常务委员会关于批准《关于成立世界人工智能合作组织的协定》的决定

金台资讯
2026-11-07 07:19:20
C罗退出第2天,葡萄牙28人名单炸了!热苏斯这话太狠了

C罗退出第2天,葡萄牙28人名单炸了!热苏斯这话太狠了

静暖文字
2026-11-07 14:17:05
2026-11-07 22:28:49
赛博禅心
赛博禅心
拜AI古佛,修赛博禅心
623文章数 59关注度
往期回顾 全部

科技要闻

AI机房被卡,美股重挫!英伟达大跌9%

头条要闻

丈夫凌晨4点和陌生女子通话 妻子赌气与异性开房3天

头条要闻

丈夫凌晨4点和陌生女子通话 妻子赌气与异性开房3天

体育要闻

40岁,正是绝杀的年纪!

娱乐要闻

42岁的唐嫣,又上热搜了

财经要闻

市场能接受AI繁荣退潮吗?

汽车要闻

限时权益价8.88万 吉利星愿STAR限定系列发布

态度原创

手机
亲子
艺术
数码
军事航空

手机要闻

OPPO Reno17系列11 月 9 日见,部分规格曝光

亲子要闻

潮州月子中心护理人员持证率是多少?

艺术要闻

17位 国外画家笔下的女子

数码要闻

手机之后的新一代计算平台长什么样?影目科技给出了答案

军事要闻

特朗普称伊朗战事何时结束将由其决定

无障碍浏览 进入关怀版