Visualizing Dataflow Graphs of Deep Learning Models in TensorFlow

梦想的初衷 提交于 2020-10-13 06:19:32

论文传送门

作者

华盛顿大学

  • Kanit Wongsuphasawat

谷歌研究院

  • Daniel Smilkov
  • James Wexler
  • Jimbo Wilson
  • Dandelion Mane
  • Doug Fritz
  • Dilip Krishnan
  • Fernanda B. Viegas
  • Martin Wattenberg

摘要

我们介绍了TensorFlow Graph Visualizer,它是 TensorFlow 机器智能平台的一部分。该工具通过可视化其基础的数据流图来帮助用户了解复杂的机器学习架构。该工具通过应用一系列图转换,使得标准布局技术能够生成清晰的交互式图表。至于整理图,我们将非关键节点与布局分离。为了提供概述,我们使用源代码中注释的层级结构。为了支持按需探索嵌套结构,我们执行边绑定以实现稳定且响应迅速的集群扩展。最后,我们检测并突出显示重复的结构,以强调模型的模块化组成。为了演示可视化工具的实用性,我们描述了示例使用场景并报告了用户反馈。总体而言,用户发现可视化工具对于理解、调试和共享其模型的结构很有用。

Design of the TensorFlow Graph Visualizer

  • 力导引布局
    • 日志节点会干扰不同子图的独立性
    • 图布局缺乏层次结构
  • TensorFlow Graph Visualizer
    • 去除日志节点
    • 多个元操作组合成子算法或子步骤
    • 提取度数高的辅助节点


手写数字识别网络的可视化。
(a) 数据流图,图很大很宽并且有着很多交织的连接。
(b) 提取了summary和constant操作的数据流图,log操作更少交叉
© 数据流图的概览,只展示了顶层节点
(d) 辅助节点被提取到了图的旁边




Neural Network Exploration Scenarios

用户可以清晰地看出神经网络的结构,并且可以通过交互展开嵌套结构。

思考

Critical thinking:
如何定义不重要的节点

Creative thinking:
通过编辑数据流图的可视化生成修改后的神经网络

How to apply to our work:
Vis4AI

易学教程内所有资源均来自网络或用户发布的内容,如有违反法律规定的内容欢迎反馈
该文章没有解决你所遇到的问题?点击提问,说说你的问题,让更多的人一起探讨吧!