我想用我自己的实体为 NER 训练一个空白模型。为此,我需要使用一个数据集,该数据集当前为 .csv 格式并具有以下格式的实体标签(我将为每个相关列提供一个示例行):
栏目:句子
价值:我想要苹果
列:数据
值:['want;@command;2;6','apples';@fruit;7;13']
列:实体
值:我@command @fruit
列:entity_types
值:@bot/@command;@bot/@food/@fruit
为了训练 SpaCy 的 NER,我需要以下格式的 json 形式的训练数据:
TRAIN_DATA = [
('Who is Shaka Khan?', {
'entities': [(7, 17, 'PERSON')]
}),
('I like London and Berlin.', {
'entities': [(7, 13, 'LOC'), (18, 24, 'LOC')]
})
]
Run Code Online (Sandbox Code Playgroud)
我试图找到一种解决方案,以解决如何将数据从 csv 重新格式化为 SpaCy 所需的格式,但到目前为止我还没有成功。数据集确实包含所有必要的信息——文本字符串、实体名称、实体类型、实体偏移——但我根本不知道如何以正确的形式获取它们。
我将不胜感激关于我将如何实现这一目标的任何和所有帮助!