一种基于弹性平均加速流水线并行训练的性能优化方法

被引:0
专利类型
发明
申请号
CN202310043861.7
申请日
2023-01-29
公开(公告)号
CN118410857A
公开(公告)日
2024-07-30
发明(设计)人
徐辰 陈梓浩 周傲英
申请人
华东师范大学
申请人地址
200241 上海市闵行区东川路500号
IPC主分类号
G06N3/098
IPC分类号
G06N3/084
代理机构
上海麦其知识产权代理事务所(普通合伙) 31257
代理人
董红曼
法律状态
公开
国省代码
上海市 市辖区
引用
下载
收藏
共 50 条
[11]   数据中心大模型训练的流水线并行优化方法及装置 [P]. 
李丹 ;
熊典 ;
钱岭 .
中国专利 :CN118069375A ,2024-05-24
[12]   数据中心大模型训练的流水线并行优化方法及装置 [P]. 
李丹 ;
熊典 ;
钱岭 .
中国专利 :CN118069375B ,2024-06-18
[13]   用于大规模模型训练的流水线并行划分与内存优化方法 [P]. 
张盛 ;
刘方明 ;
马月 ;
王博闻 ;
贺澎 ;
岳知润 .
中国专利 :CN119336489A ,2025-01-21
[14]   基于流水线并行训练的模型实时监测及分配方法 [P]. 
杨坚 ;
王清河 ;
凌志 ;
沙沫 ;
谭小彬 ;
何华森 ;
姜晓枫 .
中国专利 :CN118277209A ,2024-07-02
[15]   加速大模型训练的双向交错流水线并行方法、系统和设备 [P]. 
陈岭 ;
吴厚明 .
中国专利 :CN119473593A ,2025-02-18
[16]   基于流水线并行训练的模型实时监测及分配方法 [P]. 
杨坚 ;
王清河 ;
凌志 ;
沙沫 ;
谭小彬 ;
何华森 ;
姜晓枫 .
中国专利 :CN118277209B ,2024-08-16
[17]   一种基于版本差异的流水线并行训练节点权重分配方法 [P]. 
毛莺池 ;
屠子健 ;
聂华 ;
黄建新 ;
徐淑芳 ;
吴俊 ;
戚荣志 .
中国专利 :CN113469341A ,2021-10-01
[18]   一种多模态大模型的流水线并行训练方法 [P]. 
李传坤 ;
刘文杰 ;
刘晓东 ;
郭志鹏 ;
方铭 ;
张昕怡 .
中国专利 :CN120179416A ,2025-06-20
[19]   一种多模态大模型的流水线并行训练方法 [P]. 
李传坤 ;
刘文杰 ;
刘晓东 ;
郭志鹏 ;
方铭 ;
张昕怡 .
中国专利 :CN120179416B ,2025-08-12
[20]   一种基于会话的并行流水线过滤方法 [P]. 
龚晓锐 ;
朴爱花 ;
陈斌 ;
吴开宇 ;
邹维 ;
范京华 .
中国专利 :CN101345771A ,2009-01-14