uu快3官网-uu快3网站

第四范式率先发布XGBoost++,轻松切换AI异构算力

时间:2019-11-14 07:44:22 出处:uu快3官网-uu快3网站

近日,第四范式签署将推出两项算力黑科技:XGBoost++和pyGDBT。XGBoost是AI开发者所熟知的工具,XGBoost++都时要在前者的基础上,只修改一行代码,即可轻松切换到异构计算模式,享受软硬一体技术带来的极致算力升级。而将于10月初发布的pyGDBT则从曾经 维度给用户带来极致算力体验,用户只需基于这种于scikit-learn的语法编写pythontcp连接,即可通过智能调参框架,享受异构计算带来的极致性能。

XGBoost++和pyGDBT的一并点在于,以往的AI开发中你要 使用异构加速或实现高维离散场景的计算时要,时要具备深厚的AI技术基础,而这两款工具的易用程度让数据科学家、数据分析师、普通AI开发者即可轻松上手。这也让第四范式离“AI for Everyone”的愿景更进一步。

第四范式FlashGBM:让医学、金融等高维离散场景计算提速10

第四范式FlashGBM是XGBoost++和pyGDBT的底层异构加速引擎,使用基于FPGA开发的GBM专用加速芯片,定制了配合该加速器的高性能软件tcp连接,尤其擅长除理多样化的高维离散形态学 。FlashGBM不仅实现了不同场景下平均10倍以上的加速,而且相比传统的CPU方案,内置自动参数优化功能,免去专家人工调参过程,自动调整至最优性能,降低使用门槛,缩短建模周期。

FlashGBM有如下形态学 :

1. 为高维离散稀疏场景提供高性能支持,覆盖传统GBM难以覆盖的场景。

2. 引入自动调参技术。用户不时要手动调参来选着下行速率 最优情况报告下的参数组合。

3. 针对GBM训练算法和FPGA一种生活生活架构特点做了深入的流水线优化,除理cache bank conflict,提升访存下行速率 。

在测试实验中(见上表)都时要看一遍,不同场景的加速比从4.0x到26x不等,而平均加速比达到了12.5x。其中,互联网广告点击率预测是一个 多典型的高维稀疏离散计算场景;该场景中位于几滴 离散形态学 ,这种于A用户是否是购买X商品,B用户是否是收藏Y商品;海量用户与海量行为的交叉形成了超高维,这种于千万用户与上百种行为交叉产生数十亿维。在该场景下,FlashGBM的加速高达26倍。

FlashGBM通过PCIe从宿主机拿到数据,传递给计算核心,计算核心通过和板载内存交互来计算GBM的统计直方图,并将结果送回宿主机内存。

第四范式XGBoost++:从XGBoost一键切换至FlashGBM高性能模式

XGBoost是Gradient Boosting的一种生活生活高效系统实现,作为开源系统, XGBoost的社区很活跃,被广泛使用。第四范式XGBoost++在FlashGBM底层框架上实现了与XGBoost兼容的接口。数据科学家都时要零学习成本地切换到高性能FlashGBM模式,享受FPGA带来的异构加速优势。

第四范式pyGDBT:打造易用的高维分布式机器学习框架

GDBT是第四范式自主研发的超大规模分布式机器学习框架,设计初衷是打造专门为分布式大规模机器学习设计的计算框架,兼顾开发下行速率 和运行下行速率 。相比主流开源架构,GBM在高维场景有百倍以上优势。即将发布的第四范式pyGDBT面向AI科学家的使用习惯,对GDBT进行了进一步整合和优化,在建模下行速率 、模型维度与效果、性能、易用性等多少方面进行了升级:

1) 高下行速率 : 针对反复调参调研的高成本,通过智能调参加速机制降低形态学 、模型调研周期。

2) 模型维度与效果: 通过集群计算框架和分布式训练算法支持海量数据与高维模型,提升模型表达能力与效果。

3) 高性能:结合FlashGBM底层计算框架,提供了异构加速能力。

4) 易用性:提供了近似scikit-learn的python使用接口,AI建模人员都时要快速实现代码迁移和使用。

热门

热门标签