基于肺癌语料库的CRF模型

落花浮王杯 提交于 2019-11-27 07:16:51

目标:前两天老师给了我数据,让我构建一个CRF模型,并且用十折交叉验证计算出每一组数据的recall/precision/f1-score,最后用平均值加减标准差的形式展示。
过程:1.读取所有数据
在这里插入图片描述2.训练CRF
我用80%做了训练集,20%做了测试集
在这里插入图片描述在这里插入图片描述在这里插入图片描述因为采用的是已经标记过的肺癌语料库 所以把标记单独列出来了,用于后面PRF三个指标的计算
3.构建模型在这里插入图片描述
4.十折交叉验证
from sklearn.model_selection import KFold#要引入KFold包
kf = KFold(n_splits=10)#十折在这里插入图片描述
注意a和b的意思在这里插入图片描述
这里的metrics.flat_classfication_report返回了一个string ,如图
在这里插入图片描述至于咋写成标准差加减平均值 ,他返回的是string哇15551 ,我要怎么把每个指标的PRF值都分离出来(爆哭)
在某个机智学长的提示下 我打开了excel 把数据搞进去 用excel计算了平均值和方差嘻嘻嘻
嗷对还有代码用到的库
import os
import numpy as np
import pandas as pd
import xlrd
import sklearn_crfsuite
from sklearn.model_selection import RandomizedSearchCV
from sklearn_crfsuite import scorers
from sklearn_crfsuite import metrics
from sklearn.metrics import make_scorer
from sklearn.model_selection import KFold
import scipy.stats
还有官方网站
https://pypi.org/project/sklearn-pycrfsuite/

tip:在一开始的时候 我计算出了好几个指标 的PRF都是1.0的惊天指标 (吓得我瓜子都掉了)后来运行文档里面的代码 发现他在一个tuple里面装了三个指标 ,特征提取器里面根部不需要提到标识符是啥……
即features里面不需要写’O’/‘I-ZZ’/B-CD’等 只需要写出词前 词后即可 改了之后召回率 准确率 F值瞬间降到了[0.7,0.8]

易学教程内所有资源均来自网络或用户发布的内容,如有违反法律规定的内容欢迎反馈
该文章没有解决你所遇到的问题?点击提问,说说你的问题,让更多的人一起探讨吧!