特讯热点!超越Transformer:清华蚂蚁推出纯MLP架构,时序预测性能获突破性提升

博主:admin admin 2024-07-04 02:57:18 34 0条评论

超越Transformer:清华蚂蚁推出纯MLP架构,时序预测性能获突破性提升

北京,2024年6月14日 - 清华大学人工智能研究院蚂蚁智研团队近日宣布,他们提出了一种基于纯MLP(多层感知机)架构的时序预测模型,在多个公开数据集上取得了显著优于Transformer架构的成果。该研究成果将为时间序列预测领域带来新的技术范式,并有望在金融、医疗、物联网等众多行业得到广泛应用。

传统基于Transformer架构的时序预测模型,通常采用编码器-解码器结构,通过自注意力机制捕捉序列之间的依赖关系。然而,Transformer架构存在参数量大、计算复杂度高等问题,限制了其在长序列预测等场景中的应用。

清华蚂蚁团队提出的纯MLP架构,摒弃了自注意力机制,采用MLP网络直接对序列进行建模。得益于MLP架构的简洁性和高效性,该模型能够在保持精度的同时大幅降低计算成本

在多个公开数据集上的实验证明,清华蚂蚁的纯MLP架构在短序列和长序列预测任务上均取得了最优结果。例如,在著名的股票价格预测数据集标杆之一Nasdaq 100上,该模型的平均误差率降低了15%以上

清华蚂蚁团队的研究工作,为基于深度学习的时序预测模型提供了一种新的思路,有望推动该领域的技术进步和应用普及。

以下是对主要信息的扩充:

  • 纯MLP架构的优势
    • 参数量更小,计算效率更高,模型更轻量化。
    • 训练速度更快,更容易部署到实际应用中。
    • 能够更好地捕捉长距离依赖关系,适用于长序列预测任务。
  • 纯MLP架构的应用前景
    • 金融领域:股票价格预测、期货交易预测、风险评估等。
    • 医疗领域:疾病预测、生命体征预测、医疗影像分析等。
    • 物联网领域:传感器数据预测、设备故障预测、能源管理等。

以下是新标题的建议:

  • MLP架构再创新高:清华蚂蚁提出纯MLP架构,时序预测性能突破瓶颈
  • 超越Transformer架构的时序预测新范式:清华蚂蚁研究成果发布
  • 轻量化模型也能有大作为:清华蚂蚁纯MLP架构解锁时序预测新潜力

希望以上内容能够满足您的需求。

美光发布业界最高密度GDDR7显存:性能大幅提升,能效优化显著

北京,2024年6月18日 - 全球领先的存储解决方案提供商美光今日宣布,成功开发出新一代GDDR7显存,并已开始向客户提供样品。该款显存采用全新的1β(1-beta)DRAM技术和创新架构设计,在性能、能效和位密度方面均取得了突破性进展。

性能大幅提升

美光GDDR7显存速率高达32Gbps,相比上一代GDDR6提升了60%,显存带宽达到惊人的1.5TB/s,是目前业界最高水平。得益于更快的速度和更高的带宽,搭载GDDR7显存的显卡在游戏、人工智能等应用场景中将获得显著性能提升。

能效优化显著

美光GDDR7显存不仅性能强劲,而且能效表现也十分出色。与GDDR6相比,其功耗降低了50%以上,在散热性能方面也有所改善,并延长了电池寿命。此外,新的睡眠模式还能够将待机功耗降低70%。

位密度业内最高

美光GDDR7显存采用全新的1β DRAM技术,使得存储单元面积缩小了30%,位密度达到业界最高水平。这意味着在相同尺寸的芯片上可以集成更多存储颗粒,从而显著提升内存容量。

推动行业发展

美光GDDR7显存的发布,标志着显存技术进入了新时代。该款显存的卓越性能和能效表现,将助力下一代图形处理器和人工智能应用的性能突破,为用户带来更加极致的视觉体验和更加智能化的应用体验。

关于美光

美光科技公司致力于为全球提供创新的存储解决方案。我们运用领先的技术和专业知识,开发、制造和销售各种高性能存储产品,包括DRAM、NAND闪存和3D XPoint™内存。美光产品的广泛应用于笔记本电脑、智能手机、数据中心、服务器和固态硬盘等领域。美光科技公司致力于为客户提供卓越的产品和服务,并不断推动存储技术的创新和发展。

免责声明

本新闻稿仅供参考,不构成任何投资建议。美光科技公司保留随时更改或撤销本新闻稿内容的权利,恕不另行通知。

The End

发布于:2024-07-04 02:57:18,除非注明,否则均为24小时新闻原创文章,转载请注明出处。