在各个领域,有一个词眼出现得越来越频繁,即 Pipeline。

开始接触的时候,百思不得其解,觉得作者在 用个 洋名字 在装 高大上,

其实,鲁迅先生说过一句话,太阳底下没有新鲜事

 

一切的一切,都是纸老虎,

Pipeline,你 土味一点 你把它 翻译成  一条龙服务

专业一点,叫 它  综合解决方案,就行。

算法或者大数据分析里的

可重复使用,针对新的数据,直接输入数据,可以得到结果。

 

一个典型的机器学习构建包含若干个过程

 1、源数据ETL
2、数据预处理
3、特征选取
4、模型训练与验证
以上四个步骤可以抽象为一个包括多个步骤的流水线式工作,从数据收集开始至输出我们需要的最终结果。因此,对以上多个步骤、进行抽象建模,简化为流水线式工作流程则存在着可行性,对利用spark进行机器学习的用户来说,流水线式机器学习比单个步骤独立建模更加高效、易用。

管道机制在机器学习算法中得以应用的根源在于,参数集在新数据集(比如测试集)上的重复使用。
 

Logo

学大模型,用大模型上飞桨星河社区!每天8点V100G算力免费领!免费领取ERNIE 4.0 100w Token >>>

更多推荐