AI Trainer Academy
五级/初级 · 标注与质检

22 课:命名实体识别 NER 标注

命名实体识别(NER)标注 从核心概念到训练师实战 标注与质检 · 第 22 课 面向 AI 训练师 / 数据标注 / 智慧图书馆应用 理解概念 · 掌握流程 · 连接岗位 为什么学习《命名实体识别(NER)标注》?…

命名实体识别(NER)标注

从核心概念到训练师实战

标注与质检 · 第 22 课

面向 AI 训练师 / 数据标注 / 智慧图书馆应用

理解概念 · 掌握流程 · 连接岗位


为什么学习《命名实体识别(NER)标注》?

本课把“命名实体识别(NER)标注”放入 AI 训练师的真实工作流中,帮助你从概念理解走向可执行的项目实践。

痛点一:概念不清

只记住名词,无法判断它在数据、模型或项目流程中的作用。

痛点二:流程不稳

知道要做什么,却缺少可复用的步骤、模板和质量检查标准。

痛点三:应用脱节

无法把课堂知识迁移到智慧图书馆、多语种数据和真实标注任务中。

学习目标:把知识点转化为可执行、可检查、可交付的训练任务。

学习目标

01 理解

说清本课核心概念、适用场景与边界条件。

02 操作

掌握关键流程、常用工具和基础检查方法。

03 应用

能把本课方法迁移到数据标注、质检、模型评估或项目管理中。

概念

是什么→

流程

怎么做→

交付

如何验收


22.1 什么是 NER?

NER(Named Entity Recognition):从文本中识别出具有特定意义的实体。

常见实体类型:

类型标签例子
人名PERSON张三、习近平、John
地名LOC北京、巴黎、الرياض
机构名ORG北京大学、OpenAI
时间TIME2025年、下周一
数字MONEY100元、50 million

22.2 BIO 标注格式

BIO 格式:B=Begin(开始)、I=Inside(内部)、O=Outside(外部)
例文:小明在北京大学读书
标注:
小  明  在  北  京  大  学  读  书
B-PER I-PER O  B-ORG I-ORG I-ORG I-ORG O  O

知识点

  • 每个实体开头标记为 B-
  • 实体内部标记为 I-
  • 非实体标记为 O
  • 不同类别用不同标签(PER/ORG/LOC)

22.3 NER 标注的常见困难

困难场景例子处理规则
嵌套实体"北京大学的张三"只标注最外层或协议指定
简称"北大" → 北京大学仍标为 ORG
歧义"苹果很好吃" vs "苹果发布了新手机"根据上下文判断
长实体"中华人民共和国教育部"连续标注全部字符

22.4 标注工具中的 NER 操作

LabelStudio 中的 NER 标注:

  1. 选中文本 → 2. 选择标签 → 3. 确认

效率技巧

  • 先标注长实体,再标注短实体
  • 使用正则表达式预标注常用实体
  • 利用快捷键切换标签

22.5 课堂练习:NER 标注

标注以下文本中的实体(用 BIO 格式):

张三昨天在清华大学参加了人工智能大会。

预期输出:

张  三  昨  天  在  清  华  大  学  参  加  了  人  工  智  能  大  会  。
?   ?   O   O   O   ?   ?   ?   ?   O   O   O   ?   ?   ?   ?   ?   O   O

动手实践

任务1: 按课堂演示步骤独立完成操作

任务2: 尝试处理不同的数据/场景

任务3: 总结问题和注意事项


案例讨论

智慧图书馆场景应用

本节课方法如何在北二外图书馆使用?

  1. 需要准备什么数据?
  2. 选择什么方法/工具?
  3. 预期效果和挑战?

随堂测验

  1. 本节课最核心的方法/概念是什么?
  2. 解决了什么具体问题?
  3. 与传统方法比优势在哪?
  4. 实际应用中注意什么?

常见错误

错误1:概念混淆 — 不同概念混合

错误2:步骤遗漏 — 操作不完整

错误3:理解偏差 — 原理理解不准


本节课总结

掌握等级内容
必须掌握核心概念、关键方法
需要理解技术原理、适用场景
能够操作独立完成实践任务

课后作业

必做: 复述核心内容 + 完成练习 + 回答测验

选做: 查找行业案例 + 应用到项目

📤 下次课前提交


考试实操 15:任务单

项目要求
考核等级五级/初级:概念识别、规范执行、基础标注与质检
业务场景完成文本标注与一致性复核
原始材料读者咨询、文献题录、实体关系样本
限时要求20 分钟完成小样本,40 分钟完成批量与质检
提交物标注结果 + 分歧记录
评分重点:过程可复现、结果可检查、异常有记录。

考试实操 16:样本表设计

样本编号样本内容处理要求预期记录
S01Q001:读者询问“如何预约研讨间?” 意图=空间预约按标准流程处理正常样本
S02Q014:同一句中同时包含续借与罚款,需按多标签规则处理查阅规则后处理边界说明
S03Q027:缺少来源URL或时间戳,需补充元数据标记并提交复核异常原因

要求:不得只写结论,必须写出判断依据或处理参数。


考试实操 17:小样本试跑

  1. 从材料中抽取 5 条代表样本:Q001:读者询问“如何预约研讨间?” 意图=空间预约Q014:同一句中同时包含续借与罚款,需按多标签规则处理Q027:缺少来源URL或时间戳,需补充元数据 至少各覆盖 1 条。
  2. 先手工完成 2 条,确认“命名实体识别 NER 标注”的口径、字段、工具设置没有歧义。
  3. 再执行:处理20条文本/表格样本,提交标准化结果和异常清单。
  4. 将错例写入 error_cases.csv,字段包含:样本ID、错误类型、修正依据、复核人。
小样本试跑不过关,不进入批量处理。

考试实操 18:操作步骤

Step 1

读取题目材料:读者咨询、文献题录、实体关系样本。→Step 2

处理20条文本/表格样本,提交标准化结果和异常清单。→Step 3

提交:标注结果 + 分歧记录。

禁止操作:临时改标签、覆盖原始文件、不记录异常、只提交截图不交数据。


考试实操 19:质量检查清单

  • 原始数据已备份,处理文件另存为新版本
  • “命名实体识别 NER 标注”相关规则已写入 README 或报告
  • 至少抽检 10% 样本,且覆盖边界样本
  • 指标检查:标签定义、边界、Kappa、一致性
  • 所有异常样本都有编号、原因和处理意见
质检记录是考试给分点,不是可选项。

考试实操 20:错例分析

错误类型本课常见表现修正方法
口径错误“命名实体识别 NER 标注”判断标准前后不一致回到规则表统一定义
格式错误文件字段、编码、命名不符合要求按模板重新导出
漏标漏处理边界样本未进入复核建立待确认列表
不可追溯没有记录参数、版本或来源补充处理日志

复盘要求:至少写 2 条错例及修正依据。


考试实操 21:智慧图书馆应用

场景

完成文本标注与一致性复核,服务对象为读者、馆员或科研团队。

数据

读者咨询、文献题录、实体关系样本,需注意来源、权限和个人信息。

处理

把“命名实体识别 NER 标注”方法嵌入采集、标注、训练或评估流程。

验收

用 标签定义、边界、Kappa、一致性 判断是否达到交付要求。


考试实操 22:评分细则

评分项分值扣分点
数据准备20来源不明、字段缺失、未备份
操作执行30步骤跳跃、参数错误、结果不可复现
质量检查30无抽检、无错例、无指标解释
交付规范20文件命名混乱、缺少README、无法打开
满分答案通常包含:结果 + 过程 + 质检 + 复盘。

考试实操 23:提交包结构

第22课_命名实体识别 NER 标注_考试提交包/
├── raw/              # 原始材料,只读保存
├── output/           # 标注结果 + 分歧记录
├── qc/               # 抽检表、错例表、指标计算
├── screenshots/      # 关键步骤截图
└── README.md         # 工具版本、步骤、结论、风险

检查:压缩包解压后,阅卷老师能按 README 复现主要结果。


考试实操 24:限时训练

10 分钟版

  • 读题并建立 raw/output/qc 目录
  • 处理 3 条样本:正常、边界、异常各 1 条
  • 写出 1 条与“命名实体识别 NER 标注”直接相关的边界规则

30 分钟版

  • 按要求完成:处理20条文本/表格样本,提交标准化结果和异常清单
  • 做 10% 抽检并解释 标签定义、边界、Kappa、一致性
  • 生成 标注结果 + 分歧记录

60 分钟版

  • 批量处理 + 指标计算 + 质量报告
  • 给出下一轮优化建议

考试实操 25:口头答辩题

  1. 本课“命名实体识别 NER 标注”任务的输入、输出分别是什么?
  2. 如果结果不达标,你会优先检查数据、规则、工具还是人员执行?为什么?
  3. 本次提交物如何证明可追溯?
  4. 在智慧图书馆项目中,哪些数据不能直接用于训练?
答辩时要结合样本编号和处理记录,不要只背概念。

考试实操 26:任务单

项目要求
考核等级五级/初级:概念识别、规范执行、基础标注与质检
业务场景完成文本标注与一致性复核
原始材料读者咨询、文献题录、实体关系样本
限时要求20 分钟完成小样本,40 分钟完成批量与质检
提交物标注结果 + 分歧记录
评分重点:过程可复现、结果可检查、异常有记录。

考试实操 27:样本表设计

样本编号样本内容处理要求预期记录
S01Q001:读者询问“如何预约研讨间?” 意图=空间预约按标准流程处理正常样本
S02Q014:同一句中同时包含续借与罚款,需按多标签规则处理查阅规则后处理边界说明
S03Q027:缺少来源URL或时间戳,需补充元数据标记并提交复核异常原因

要求:不得只写结论,必须写出判断依据或处理参数。


考试实操 28:小样本试跑

  1. 从材料中抽取 5 条代表样本:Q001:读者询问“如何预约研讨间?” 意图=空间预约Q014:同一句中同时包含续借与罚款,需按多标签规则处理Q027:缺少来源URL或时间戳,需补充元数据 至少各覆盖 1 条。
  2. 先手工完成 2 条,确认“命名实体识别 NER 标注”的口径、字段、工具设置没有歧义。
  3. 再执行:处理20条文本/表格样本,提交标准化结果和异常清单。
  4. 将错例写入 error_cases.csv,字段包含:样本ID、错误类型、修正依据、复核人。
小样本试跑不过关,不进入批量处理。

考试实操 29:操作步骤

Step 1

读取题目材料:读者咨询、文献题录、实体关系样本。→Step 2

处理20条文本/表格样本,提交标准化结果和异常清单。→Step 3

提交:标注结果 + 分歧记录。

禁止操作:临时改标签、覆盖原始文件、不记录异常、只提交截图不交数据。


考试实操 30:质量检查清单

  • 原始数据已备份,处理文件另存为新版本
  • “命名实体识别 NER 标注”相关规则已写入 README 或报告
  • 至少抽检 10% 样本,且覆盖边界样本
  • 指标检查:标签定义、边界、Kappa、一致性
  • 所有异常样本都有编号、原因和处理意见
质检记录是考试给分点,不是可选项。

大学生学习拓展:标注与质检:AI训练师的基本功

本页为大学生培训增强内容:把本课知识连接到真实校园、科研与就业场景。

拓展 1

标注决定模型能学到什么,质检决定模型能不能被信任。

拓展 2

大学生应理解标签体系、边界例、Kappa一致性、抽样复核和返工闭环。

拓展 3

优秀标注员不仅“做题”,还要能发现规范问题并提出改进建议。


知识加餐:本课在AI项目中的位置

维度大学生需要掌握AI训练师工作对应
概念能用自己的话解释 命名实体识别 NER 标注面向客户/团队讲清任务边界
操作能完成一个最小可运行任务形成可验收交付物
质量能发现错误、记录问题、复核结果支撑模型效果与责任追溯
合规能说明数据来源、隐私与版权风险满足项目审计和上线要求

课堂实训升级:从“听懂”到“做出来”

建议实训任务(五级/基础)

  • 完成10条NER或文本分类标注,并与同伴交叉复核。
  • 记录3个争议样例,写出标签边界修订建议。
交付物建议:数据文件 / 处理脚本 / 截图证据 / 1页说明 / 课堂展示。

工具链建议:国产模型 + 本地工具 + 可复现记录

数据与标注

Excel/WPS、Label Studio、CVAT、JSONL/CSV、抽样质检表。

模型与评估

Qwen、DeepSeek、BGE-M3、RAG、LoRA、F1/Recall/MRR等指标。

记录与展示

Jupyter、Markdown、Git/版本记录、PPT答辩、学习档案。


课堂讨论与课后反思

  1. 本课内容如果用于智慧图书馆,会服务哪个具体场景?
  2. 本课最容易出现的数据质量问题是什么?如何检查?
  3. 哪些数据不能直接进入训练或评估?为什么?
  4. 如何把本课成果放进个人作品集?
  5. 如果你是项目负责人,本课对应的验收指标是什么?