目标:前两天老师给了我数据,让我构建一个CRF模型,并且用十折交叉验证计算出每一组数据的recall/precision/f1-score,最后用平均值加减标准差的形式展示。
过程:1.读取所有数据2.训练CRF
我用80%做了训练集,20%做了测试集因为采用的是已经标记过的肺癌语料库 所以把标记单独列出来了,用于后面PRF三个指标的计算
3.构建模型
4.十折交叉验证
from sklearn.model_selection import KFold#要引入KFold包
kf = KFold(n_splits=10)#十折
注意a和b的意思
这里的metrics.flat_classfication_report返回了一个string ,如图至于咋写成标准差加减平均值 ,他返回的是string哇15551 ,我要怎么把每个指标的PRF值都分离出来(爆哭)
在某个机智学长的提示下 我打开了excel 把数据搞进去 用excel计算了平均值和方差嘻嘻嘻
嗷对还有代码用到的库
import os
import numpy as np
import pandas as pd
import xlrd
import sklearn_crfsuite
from sklearn.model_selection import RandomizedSearchCV
from sklearn_crfsuite import scorers
from sklearn_crfsuite import metrics
from sklearn.metrics import make_scorer
from sklearn.model_selection import KFold
import scipy.stats
还有官方网站
https://pypi.org/project/sklearn-pycrfsuite/
tip:在一开始的时候 我计算出了好几个指标 的PRF都是1.0的惊天指标 (吓得我瓜子都掉了)后来运行文档里面的代码 发现他在一个tuple里面装了三个指标 ,特征提取器里面根部不需要提到标识符是啥……即features里面不需要写’O’/‘I-ZZ’/B-CD’等 只需要写出词前 词后即可 改了之后召回率 准确率 F值瞬间降到了[0.7,0.8]
来源:https://blog.csdn.net/weixin_43077546/article/details/99541154