首页 > 编程 > Python > 正文

经典的把一篇英文文章转成word2id形式的dict的一段python程序

2019-11-06 08:26:20

字体：大中小

来源：转载

供稿：网友

import collectionsimport tensorflow as tfdef _read_Words(filename): with tf.gfile.GFile(filename, "r") as f: return f.read().decode("utf-8").replace("/n", "<eos>").split()def _build_vocab(filename): data = _read_words(filename) counter = collections.Counter(data) count_pairs = sorted(counter.items(), key=lambda x: (-x[1], x[0])) words, _ = list(zip(*count_pairs)) word_to_id = dict(zip(words, range(len(words)))) return word_to_id

摘自https://github.com/tensorflow/models/blob/master/tutorials/rnn/ptb/reader.py

上一篇：boost python简单实例

下一篇：Mac安装jupyter(原ipython)方法

学习交流

索泰发布一款GTX 1070 Mini迷你版本:小机

索泰发布一款GTX 1070 Mini迷你版本:小机箱大爱...

热门图片

猜你喜欢的新闻

猜你喜欢的关注

新闻热点

荣耀总裁赵明乌镇演讲：荣耀首款5G手机V30下月发布

2019-10-23 09:17:05

搜狐张朝阳：回归媒体是搜狐重新崛起的关键

2019-10-21 09:20:02

华为轮值董事长郭平：虚拟技术创造现实价值

2019-10-21 09:00:12

滴滴英文服务上线两周年用户已超200万

2019-09-26 08:57:12

华为推出全球至快AI训练集群Atlas900

2019-09-25 08:46:36

马斯克：特斯拉正组建中国技术团队

2019-09-25 08:15:43

疑难解答

图片精选

网友关注