Microsoft开源TensorWatch AI调试工具

【Microsoft开源TensorWatch AI调试工具】很多文章的报道都是由微观而宏观 , 今日小编讲给大家带来的关于Microsoft开源TensorWatch AI调试工具的资讯也不例外,希翼可以在一定的程度上开阔你们的视野!y有对Microsoft开源TensorWatch AI调试工具这篇文章感兴趣的小伙伴可以一起来看看
微软研究院开源TensorWatch,这是他们用于AI和深度学习的调试工具 。TensorWatch支持PyTorch和TensorFlow渴望的张量,并同意 开辟人员通过Jupyter笔记本实时地交互式调试培训作业,或在Python中构建自己的自定义UI 。

Microsoft开源TensorWatch AI调试工具

文章插图
在最近的博客文章中,由Shital Shah领导的研究团队宣布了 TensorWatch 的开源版本 。TensorWatch是一个Python库,用于可视化深度学习模型开辟周期各个阶段的数据:从模型结构到训练指标,再到模型预测的解释 。TensorWatch旨在用作Jupyter笔记本或JupyterLab仪表板中的交互式工具 , 但作为Python库,它也可以包含在自定义工具和UI中 。根据开辟团队的说法:
“我们喜欢将TensorWatch视为具有许多高级功能的瑞士军刀调试工具,研究人员和工程师将在他们的工作中找到帮助 。”
Microsoft开源TensorWatch AI调试工具

文章插图
在模型训练期间使用TensorWatch的关键概念是stream,它是一系列 事件,其中包含在某个时间点观察到的数据值 。深度学习训练分批次(训练数据的子集)和时期(整个数据集进行的训练)进行 。在每个批次和每个时期之后,训练框架将输出几个度量值,以显示训练进度 , 例如模型在测试数据集上的准确性 。要使用TensorWatch,训练代码被修改(或 仪器),以这些度量发送到流 。TensorWatch支持“懒日志”模式,如果不使用流数据,则开销较低 。这个想法是观察可能在调试中实用的所有可能的指标 。
Microsoft开源TensorWatch AI调试工具

文章插图
TensorWatch可视化用户界面还设计用于处理流 。随着新事件的到来,UI进行更新以包括新事件中的数据 。TensorWatch同意 用户通过从现有流创建新流来转换流数据;新流将用户定义的Python lambda函数应用于每个传入事件 。TensorWatch的核心价值在于,这种以低开销观察所有训练指标,应用任意变换并在Jupyter笔记本中实时查看结果的能力 。
该库还包含开辟过程中其他阶段的可视化功能 。例如,查看神经网络模型的图形,可视化低维空间中的数据集或解释模型的输出 。TensorWatch实际上并未实现这些功能;相反 , TensorWatch在它们周围提供了包装器接口 。
TensorWatch旨在与PyTorch一起使用,PyTorch 目前缺乏本机可视化和调试工具,而Google的竞争对手TensorFlow框架附带了一个名为TensorBoard的可视化工具 。因此,既TensorFlow和Keras,用于TensorFlow高级API的包装,具实用于插装训练过程可视化的便利的方法 。PyTorch没有类似的便捷方法,用于可视化培训的TensorWatch示例实际上依赖于单独的Python库 (由TensorWatch团队负责人Shah维护)来处理仪器 。目前尚不清晰为什么TensorWatch中未包含该代码 。
尽管它主要用于PyTorch,但该团队表示,“它还应该与TensorFlow渴望的张量一起使用” 。在Reddit上的一个线程中 , 用户询问TensorWatch与TensorBoard的比较,以及TensorWatch是否可以与Keras一起使用 。

    推荐阅读