小编Dio*_*sos的帖子

格式化 SpaCy NER 的训练数据集

我想用我自己的实体为 NER 训练一个空白模型。为此,我需要使用一个数据集,该数据集当前为 .csv 格式并具有以下格式的实体标签(我将为每个相关列提供一个示例行):


栏目:句子

价值:我想要苹果


列:数据

值:['want;@command;2;6','apples';@fruit;7;13']


列:实体

值:我@command @fruit


列:entity_types

值:@bot/@command;@bot/@food/@fruit


为了训练 SpaCy 的 NER,我需要以下格式的 json 形式的训练数据:

    TRAIN_DATA = [
    ('Who is Shaka Khan?', {
        'entities': [(7, 17, 'PERSON')]
    }),
    ('I like London and Berlin.', {
        'entities': [(7, 13, 'LOC'), (18, 24, 'LOC')]
    })
]
Run Code Online (Sandbox Code Playgroud)

链接到 SpaCy 文档中的相关部分

我试图找到一种解决方案,以解决如何将数据从 csv 重新格式化为 SpaCy 所需的格式,但到目前为止我还没有成功。数据集确实包含所有必要的信息——文本字符串、实体名称、实体类型、实体偏移——但我根本不知道如何以正确的形式获取它们。

我将不胜感激关于我将如何实现这一目标的任何和所有帮助!

format json named-entity-recognition training-data spacy

6
推荐指数
1
解决办法
4970
查看次数