mirror of
https://github.com/tencentmusic/cube-studio.git
synced 2024-11-21 01:16:33 +08:00
添加贡献用户
This commit is contained in:
pengluan
parent
d2724dde33
commit
c948c383f2
134
README.md
134
README.md
@ -19,13 +19,16 @@ https://github.com/tencentmusic/cube-studio/wiki
|
||||
|
||||
# 开源共建
|
||||
|
||||
学习、部署、体验、开源建设 欢迎来撩。或添加微信luanpeng1234，备注<开源建设>
|
||||
学习、部署、体验、开源建设 欢迎来撩。或添加微信luanpeng1234，备注<开源建设>， [共建指南](https://github.com/tencentmusic/cube-studio/wiki/%E5%85%B1%E5%BB%BA%E6%8C%87%E5%8D%97)
|
||||
|
||||
<img border="0" width="20%" src="https://luanpeng.oss-cn-qingdao.aliyuncs.com/github/wechat.jpg" />
|
||||
|
||||
|
||||
|
||||
|
||||
# 平台部署
|
||||
|
||||
参考install/kubernetes/README.md
|
||||
[参考wiki](https://github.com/tencentmusic/cube-studio/wiki/%E5%B9%B3%E5%8F%B0%E5%8D%95%E6%9C%BA%E9%83%A8%E7%BD%B2)
|
||||
|
||||
平台完成部署之后如下:
|
||||
|
||||
@ -35,122 +38,29 @@ https://github.com/tencentmusic/cube-studio/wiki
|
||||
|
||||
[http://159.75.208.175/](http://81.69.195.6/)
|
||||
|
||||
# 相关视频
|
||||
# 贡献
|
||||
|
||||
算法(视觉)：@jaffe-fly <img width="5%" src="https://avatars.githubusercontent.com/u/49515380?s=96&v=4" />
|
||||
|
||||
[单机部署教程](https://www.bilibili.com/video/BV18r4y147oj/)
|
||||
算法(文本)：@HHJ
|
||||
|
||||
[新人使用教程](https://www.bilibili.com/video/BV1zA4y1f7Rf)
|
||||
算法(搜广推)： @HHJ
|
||||
|
||||
[job模板制作教程](https://www.bilibili.com/video/BV15B4y197nm)
|
||||
算法(语音)：@ma-chengcheng<img width="5%" src="https://avatars.githubusercontent.com/u/15444349?s=96&v=4" />
|
||||
|
||||
[边缘计算方式部署和调度](https://www.bilibili.com/video/BV1qY4y1x7Yy/)
|
||||
算法(传统机器学习)：@chendile <img width="5%" src="https://avatars.githubusercontent.com/u/42484658?s=96&v=4" />
|
||||
|
||||
# 支持模板
|
||||
提示：
|
||||
- 1、能单机运行没必要多机运行
|
||||
- 2、开发自定义模板，更符合自己业务线下的需求
|
||||
开发：
|
||||
@xiaoyangmai <img width="5%" src="https://avatars.githubusercontent.com/u/10969390?s=96&v=4" />
|
||||
@VincentWei2021 <img width="5%" src="https://avatars.githubusercontent.com/u/77832074?v=4" />
|
||||
@SeibertronSS <img width="5%" src="https://avatars.githubusercontent.com/u/69496864?v=4" />
|
||||
|
||||
| 模板 | 类型 | 组件说明 | 文档地址 |
|
||||
| :----- | :---- | :---- |:---- |
|
||||
| 自定义镜像 | 单机 | 完全自定义单机运行环境，可自由实现所有自定义单机功能 | 系统自带 |
|
||||
| datax | 单机 | 异构数据源导入导出 | job-template/job/datax |
|
||||
| xgb | 单机 | xgb模型训练 | job-template/job/xgb |
|
||||
| deploy-service | 单机 | 部署云原生推理服务 | job-template/job/deploy-service |
|
||||
| ray | 分布式 | python ray框架 多机分布式功能，适用于超多文件在多机上的并发处理 | job-template/job/ray |
|
||||
| ray-sklearn | 分布式 | 基于ray框架的sklearn支持算法多机分布式并行计算 | job-template/job/ray_sklearn |
|
||||
| volcano | 分布式 | volcano框架的多机分布式，可紫玉控制代码，利用环境变量实现多机worker的工作与协同 | job-template/job/volcano |
|
||||
| pytorchjob-train | 分布式 | pytorch的多机多卡分布式训练 | job-template/job/pytorch_distributed_train_k8s |
|
||||
| media-download | 分布式 | 分布式媒体文件下载 | job-template/job/video-audio |
|
||||
| video-audio | 分布式 | 分布式视频提取音频 | job-template/job/video-audio |
|
||||
| video-img | 分布式 | 分布式视频提取图片 | job-template/job/video-audio |
|
||||
| model-offline-predict | 分布式 | 分布式模型离线推理 | job-template/job/model_offline_predict |
|
||||
| tfjob-train | 分布式 | tf分布式训练，内部支持plain和runner两种方式 | job-template/job/tf_distributed_train |
|
||||
| tfjob-runner | 分布式 | tf分布式-runner方式 | job-template/job/tf_distributed_train |
|
||||
| tfjob-plain | 分布式 | tf分布式-plain方式 | job-template/job/tf_plain_train |
|
||||
| tf-distribute-model-evaluation | 分布式 | tensorflow2.3分布式模型评估 | job-template/job/tf_model_evaluation |
|
||||
| tf-model-offline-predict | 分布式 | tf模型离线推理 | job-template/job/tf_model_offline_predict |
|
||||
| kaldi-distributed-on-volcanojob | 分布式 | kaldi音频分布式训练 | job-template/job/kaldi_distributed_on_volcanojob |
|
||||
运营：
|
||||
@cyxnzb <img width="5%" src="https://avatars.githubusercontent.com/u/51886383?s=88&v=4" />
|
||||
@gilearn <img width="5%" src="https://avatars.githubusercontent.com/u/107160156?s=88&v=4" />
|
||||
|
||||
|
||||
# 合作公司
|
||||
|
||||
# 功能简述
|
||||
@腾讯@腾讯音乐@马上金融@电信研究院@移动研究院@汇丰银行@长亭科技@东方天安@福建博思@平安科技@创维@oppo@美柚@T3出行
|
||||
|
||||
完整的平台包含
|
||||
- 1、机器的标准化
|
||||
- 2、分布式存储(单机可忽略)、k8s集群、监控体系(prometheus/efk/zipkin)
|
||||
- 3、基础能力(tf/pytorch/mxnet/valcano/ray等分布式，nni/katib超参搜索)
|
||||
- 4、平台web部分(oa/权限/项目组、在线构建镜像、在线开发、pipeline拖拉拽、超参搜索、推理服务管理等)
|
||||
|
||||
### 多集群管控
|
||||
|
||||
cube支持多集群调度，可同时管控多个训练或推理集群。在单个集群内，不仅做到一个项目组内在线开发、训练、推理的隔离，还可以做到一个k8s集群下多个项目组算力的隔离。另外在不同项目组下的算力间具有动态均衡的能力，能够在多项目间共享公共算力池和私有化算力池，做到成本最低化。
|
||||
|
||||
|
||||
|
||||
### 分布式存储
|
||||
|
||||
cube会自动为用户挂载用户个人目录，同一个用户在平台任何地方启动的容器目录下/mnt/$username均为用户个人子目录。可以将pvc/hostpath/memory/configmap等挂载成容器目录。同时可以在项目组中配置项目组的默认挂载，进而实现一个项目组共享同一个目录等功能。
|
||||
|
||||
|
||||
|
||||
### 在线开发
|
||||
|
||||
cube支持在线jupyterlab/theia(vscode)等功能，多用户，多实例，支持cpu/gpu版本。另外支持在线构建docker镜像，免除算法同学docker学习成本
|
||||
|
||||
|
||||
|
||||
### 拖拉拽pipeline编排
|
||||
|
||||
支持单任务调试、分布式任务日志聚合查看，pipeline调试跟踪，任务运行资源监控，以及定时调度功能(包含补录，忽略，重试，依赖，并发限制，过期淘汰等功能)
|
||||
|
||||
|
||||
|
||||
### 功能模板化
|
||||
|
||||
为了避免重复开发，对pipeline中的task功能进行模板化开发。平台开发者或用户可自行开发模板镜像，将镜像注册到平台，这样其他用户就可以复用这些功能。平台自带模板在job-template目录下
|
||||
|
||||
|
||||
|
||||
### nni超参搜索
|
||||
|
||||
除了包含katib超参搜索，也加入了nni的超参搜索，支持更多的算法
|
||||
|
||||
|
||||
|
||||
### 分布式框架
|
||||
|
||||
以k8s为核心，支持tf分布式训练、pytorch分布式训练、spark分布式数据处理、ray分布式超参搜索、mpi分布式训练、horovod分布式训练、nni分布式超参搜索、mxnet分布式训练、volcano分布式数据处理、kaldi分布式语音训练等，
|
||||
以及在此衍生出来的分布式的数据下载，hdfs拉取，cos上传下载，视频采帧，音频抽取，分布式的训练，例如推荐场景的din算法，ComiRec算法，MMoE算法，DeepFM算法，youtube dnn算法，ple模型，ESMM模型，双塔模型，音视频的wenet，containAI等算法的分布式训练。
|
||||
|
||||
|
||||
|
||||
### 推理服务
|
||||
|
||||
0代码发布推理服务从底层到上层，包含服务网格，serverless，pipeline，http框架，模型计算。
|
||||
|
||||
- 服务网格阶段：主要工作是代理流量的中转和管控，例如分流，镜像，限流，黑白名单之类的。
|
||||
|
||||
- serverless阶段：主要为服务的智能化运维，例如服务的激活，伸缩容，版本管理，蓝绿发布。
|
||||
|
||||
- pipeline阶段：主要为请求在各数据处理/推理之间的流动。推理的前后置处理逻辑等。
|
||||
|
||||
- http/grpc框架：主要为处理客户端的请求，准备推理样本，推理后作出响应。
|
||||
|
||||
- 模型计算：模型在cpu/gpu上对输入样本做前向计算。
|
||||
|
||||
|
||||
|
||||
### 实时训练
|
||||
|
||||
tmeps支持tf框架实时训练，秒级上线，能应对embedding稀疏大模型推荐场景
|
||||
|
||||
|
||||
|
||||
|
||||
## 边缘计算
|
||||
|
||||
通过边缘集群的形式，在中心节点部署平台，并将边缘节点加入调度，每个私有网用户，通过项目组，将notebook，pipeline，service部署在边缘节点
|
||||
- 1、避免数据到中心节点的带宽传输
|
||||
- 2、避免中心节点的算力成本，充分利用边缘节点算力
|
||||
- 3、避免边缘节点的运维成本
|
||||
|
||||
|
||||
|
||||
Loading…
Reference in New Issue
Block a user