← 返回项目CASE STUDY / 02

CASE / MULTI-TURN DIALOGUE

多轮视觉问答数据

把图像理解与上下文记忆组织为多轮任务,用结构化节点检查信息是否持续一致。内容为可编辑模板。

STATUS / EDITABLE PROJECT TEMPLATE
TYPE
多轮对话 / SFT
PERIOD
周期待填写
YEAR
年份待填写
DIALOGUE GRAPH / DEMO SAMPLETURN 01 / OBJECT GROUNDING
VISUAL EVIDENCEF01 / 桌面存在IMAGE → TABLE → OBJECT SET
ACTIVE ANSWER / A1桌面上有一个红色杯子和一本黄色书。

CONSISTENT / 桌面、杯子与书本均可在画面中定位。

01 / PROJECT CONTEXT

从单轮事实,
扩展为连续对话。

面向通用多模态对话模型构建视觉问答 SFT 数据,将单轮样本改写为 3—5 轮递进对话,覆盖对象识别、属性追踪、空间关系、指代消解与上下文一致性,提升模型在连续视觉对话中的记忆、推理和稳定回答能力。

数据用途
多模态模型 SFT 训练与质量评测
目标模型
通用视觉语言对话模型
对话轮次
每组 3—5 轮
VISUAL CONTEXT / SFTTURN 01 / QUESTION桌面上有什么物品?

读取问题,等待视觉证据定位。

EVIDENCE
PENDING
LINK
IMAGE INPUT
暮色窗边的视觉问答分析场景:桌面上有红色杯子、黄色书本和绿植,并展示视觉证据与一致性校验关系
02 / CHALLENGECONTENT PLACEHOLDER

把上下文依赖,变成可以逐轮回查的结构。

挑战待替换:描述指代消解、上下文遗忘、问题依赖和答案一致性等真实难点。

03 / REWRITE METHOD

单轮转多轮改写

SINGLE-TURN SOURCE → FACT GRAPH → DEPENDENT DIALOGUE → SFT SAMPLE

01 / GROUNDING

建立图像事实

先抽取对象、属性、关系与计数,形成可追溯的事实节点。

02 / DEPENDENCY

设计问题链

让后续问题依赖前文,同时保持答案能由图像和上下文共同验证。

03 / CONSISTENCY

回查一致性

逐轮检查事实引用、指代对象与推理链是否发生漂移。

  1. 01GATE 01

    单轮样本

    INPUT
    单图单问答
    ACTION
    完整性预检
    OUTPUT
    可改写源样本
    RISK
    图文不一致
  2. 02VERIFIED

    图像事实抽取

    INPUT
    源图像
    ACTION
    抽取对象、属性与关系
    OUTPUT
    事实节点集
    RISK
    视觉幻觉
  3. 03GRAPHED

    实体与属性建图

    INPUT
    事实节点集
    ACTION
    实体对齐并建立关系边
    OUTPUT
    图像事实图
    RISK
    节点冲突
  4. 04ANCHORED

    首轮独立问题

    INPUT
    图像事实图
    ACTION
    生成无上下文问题
    OUTPUT
    Q1 / A1
    RISK
    信息过载
  5. 05LINKED

    上下文依赖扩展

    INPUT
    Q1 / A1
    ACTION
    引入真实历史依赖
    OUTPUT
    Q2—Q4 问题链
    RISK
    伪依赖
  6. 06RESOLVED

    指代与关系改写

    INPUT
    问题链
    ACTION
    唯一化指代与参照物
    OUTPUT
    多轮自然表达
    RISK
    指代歧义
  7. 07CHECKED

    一致性回查

    INPUT
    全轮对话
    ACTION
    逐轮对照事实图
    OUTPUT
    复核记录
    RISK
    属性漂移
  8. 08READY

    多轮 SFT 样本

    INPUT
    复核通过对话
    ACTION
    按版本结构化归档
    OUTPUT
    Multi-turn SFT
    RISK
    标签遗漏
04 / REWRITE RULES

改写规则面板

SELECT ONE RULE / INSPECT LINKED EVIDENCE

05 / QUESTION LEDGER

问题标签与唯一维度

03 PASS01 REVIEW00 FAIL
AUTO SCAN / CHECK ITEM → STATUSINSPECTING Q01
Question ID当前问题Primary DimensionCheck ItemEvidenceReview Status
桌面上有什么物品?对象识别对象可定位F01PASS / GROUNDED
CHECK ITEM对象可定位
SECONDARY TAGS
答案充分
DEPENDENCY TURN
NONE
DECISION BASIS问题独立完整,杯子和书本均存在可回查证据。
NEXT ACTION保留样本,进入下一轮检查。
FINAL STATUSPASS / GROUNDED
它是什么颜色的?指代消解指代唯一性F02REVIEW / AMBIGUOUS
杯子旁边的物品是什么颜色?属性追踪属性一致性F03PASS / STABLE
书在窗户的什么位置?空间关系参照物完整性R01PASS / GROUNDED
CHECK ITEM对象可定位
SECONDARY TAGS
答案充分
DEPENDENCY TURN
NONE
DECISION BASIS问题独立完整,杯子和书本均存在可回查证据。
NEXT ACTION保留样本,进入下一轮检查。
FINAL STATUSPASS / GROUNDED
PASS / 证据充分REVIEW / 需要改写或确认FAIL / 明确冲突

DEMO SAMPLE / 主维度唯一性仅用于说明登记方法,不代表正式数据集统计。

06 / QUALITY CHECK

五项质量检查

AUTO SCAN / DEMO SAMPLE

07 / EXECUTION

执行流程

ONE-PASS WORKFLOW SCAN / 01—06

01 / 06
ACTION识别画面中的对象、属性与空间关系。
EVIDENCE红色杯子、黄色书本、绿色植物与窗户。
OUTPUTF01—F03 / R01 事实节点
ACTIVE STEP / 01 · 事实抽取
08 / RESULT

结果与能力沉淀

DEMO SAMPLE / REVIEW COMPLETE

75% / DEMO PASS

ONE CLEAR RESULT

完成一组四轮 SFT 案例,3 项通过,1 项进入复核。

覆盖 5 项质量维度与 6 步审查流程,成功定位指代歧义与首轮答案遗漏,并将问题样本回流至改写环节。

Q01
DECISION BASIS桌面、杯子与书本均存在可回查的视觉证据。
FINAL STATUSPASS / GROUNDED
DEMO BOUNDARY

当前结果基于一组四轮代表案例,用于展示数据改写与质量审查方法,不代表正式数据集的统计性结论。

09 / CONCLUSION

让每一轮都回到证据。

RETAIN → REVIEW → RELEASE

01RETAINABLE CAPABILITY

可保留能力

  • 单轮事实可定位后再进入依赖改写
  • 对象、属性与关系保留事实节点
  • 每轮答案都能返回视觉证据
02HIGH-RISK ISSUES

高风险问题

  • 伪依赖或指代存在多个候选对象
  • 属性在后续轮次发生漂移
  • 同一问题重复计入多个主维度
03NEXT-STAGE ACTION

处理建议

  • 逐轮核对依赖与唯一证据节点
  • 冲突样本退回人工复核
  • 检查通过后再进入版本归档
METHOD BOUNDARY案例演示,不构成正式数据集质量结论。
NEXT CASE / 03

结构化图像描述