SDK框架介绍
SDK介绍¶
SigmaStar模型为sim,全称Sigmastar IPU Model,查看工具使用 SGS_IPU_SDK/Netron/Netron Setup 5.3.5.exe 安装后打开。
本文中DLA与IPU指代同一个部件。即Sigmastar的深度学习加速硬件
SigmaStar DLA SDK主要包含以下工具:
- Convert Tool:将TensorFlow、Keras、Caffe和ONNX框架的网络模型转换为SigmaStar浮点网络模型(SGS Float file);
- Calibrator:将SigmaStar浮点网络模型转化为SigmaStar定点网络模型(SGS Fixed file);
- Compiler:将SigmaStar定点网络模型转化为SigmaStar离线网络模型(SGS Offline cmd file);
- Simulator:对SGS Float file / SGS Fixed file / SGS Offline cmd file仿真运行;
- SGS Netron:查看SGS Float file / SGS Fixed file模型的结构;
SigmaStar DLA整体框架如下图所示:
SigmaStar DLA SDK的优势:¶
- Convert Tool能根据硬件特性,将原网络框架的算子转换为SigmaStar DLA客制化算子,对网络模型无损优化;
- Calibrator统计FeatureMap的取值,将SGS Float file量化为8bit / 16bit定点模型;
- Compiler将定点网络模型文件转化为离线指令文件,能够直接部署在SigmaStar的硬件产品上;
- Simulator提供模拟SigmaStar硬件的PC端模拟器,能够完整运行SGS Float file / SGS Fixed file / SGS Offline cmd file,加快网络网络模型的调试部署;
- SGS Netron不仅能够查看SigmaStar的SGS Float file / SGS Fixed file模型,还能够查看原生框架的模型;