4月18日,Apache SINGA 3.0.0版本正式发布!这是自Apache SINGA成为Apache顶级项目后的首次正式发布。新的版本主要有以下改进:

1.引入了一个新的Python类模块(Module)。用户只需要定义神经网络的正向传播过程,SINGA 的Python模板会自动推导反向传播过程。同时该类会在SINGA底层构建神经网络模型训练过程(包括正向和反向计算)对应的计算图。用于速度提升及内存优化,在一些模型上可以减少40%的内存开销。

2. 为了更好的兼容业界统一的神经网络模型接口ONNX ,SINGA添加了很多ONNX定义的算子来支持各种神经网络模型。目前,SINGA测试了包括计算机视觉、自然语言处理的多个ONNX模型。

3.对分布式训练进行了通信优化,包括数据稀疏化和低精度压缩,同时SINGA也支持英伟达的NCCL库来进行网络通信从而更好的兼容英伟达的GPU。

Apache SINGA项目始于2014年,由新加坡国立大学数据库系统实验室联合浙江大学和网易共同开发完成,SINGA是一个开源的分布式、可扩展的深度学习平台,它可以在机器集群上训练大规模的机器学习模型,尤其是深度学习模型。2015年,SINGA被Apache开源项目基金会的孵化器接受。2019年,Apache SINGA顺利毕业并成为Apache的顶级项目。

Apache SINGA目前的用户有:网易、花旗集团、Noblis、新加坡国立大学医院、新加坡陈笃生医院、铭之慧科技等。

推荐阅读:

重磅! Apache SINGA已毕业成为Apache顶级项目!

关于Apache SINGA的更多信息,请访问官网:

https://singa.apache.org/

分类: 新闻