IMDB情感分类学习

我只是一个虾纸丫 提交于 2020-03-03 00:53:04

需要学习链接:

使用pandas做预处理,https://blog.csdn.net/mpk_no1/article/details/71698725

https://www.jianshu.com/p/8d3f929c9444

 

1.我的想法:

1.首先是要读取数据集,建立字典,将word转为id准备输入;

2.想获取数据文本的长度分布,然后做截断,但不知道怎么写;

但是链接中考虑的更全面

1.去掉非ASCII字符,2.去掉换行符,3.转换为小写。

https://blog.csdn.net/icbm/article/details/79747024 非ASCII字符:

[^\x00-\x7f]

比如这样。就是不在ASCII编码中的字符吧。

其中用到了pandas库,

 

易学教程内所有资源均来自网络或用户发布的内容,如有违反法律规定的内容欢迎反馈
该文章没有解决你所遇到的问题?点击提问,说说你的问题,让更多的人一起探讨吧!