Actions Speak Louder than Words: Trillion-Parameter Sequential Transducers for Generative Recommendations
Generative Recommenders (GR) 将推荐重新定义为序列转导任务，HSTU 编码器比 FlashAttention2 Transformer 快 5.3x-15.2x，1.5 万亿参数模型在线 A/B 测试提升 12.4%
2 posts tagged with "recommendation-systems"
Generative Recommenders (GR) 将推荐重新定义为序列转导任务，HSTU 编码器比 FlashAttention2 Transformer 快 5.3x-15.2x，1.5 万亿参数模型在线 A/B 测试提升 12.4%
UG-Sep 在 TokenMixer 架构中解耦用户侧和物品侧信息流，实现用户侧计算复用，推理延迟降低 20%，已部署于字节跳动多个业务场景