元宇宙非小号金色财经交流群社区官网

记者实探:AIGC时代算力瓶颈如何突破

浏览:128|时间:2023-07-28 19:55:54
2016年,英伟达将全球首款DGX交给了OpenAI,推动了生成式AI革命。如今,由于ChatGPT等产品的推动,全球科技公司纷纷开始开发自己的大型模型,导致预训练和推理所需的算力需求指数级增长。

根据OpenAI的分析报告显示,在2012年至2018年的6年间,人工智能训练任务中使用的算力需求增长了约30万倍。这导致GPU被广泛应用于加速芯片,英伟达占据了全球GPU市场的82%份额。

一家位于上海张江的数据公司正在商讨采购英伟达DGX的计划。他们发现一台包含8张A800的DGX超算现在市面上的价格可能高达230万元到250万元,并且价格还在持续上涨。

在算力成本持续高企的情况下,国内的大模型开发者们期待国产解决方案。他们希望国内的GPU厂商能够推出与英伟达相媲美的产品,以降低算力成本。

国内的GPU厂商也已经看到了AIGC带来的算力机遇。燧原科技早在两年前就开始训练项目,现在他们看到了大模型预训练之上的市场机会。他们已经调整了自身的产品路线图,以满足AIGC时代的算力需求。

新型的算力技术,如光子计算和量子计算,可能成为承接人工智能计算需求增长的新技术。“新型架构的芯片满足人工智能计算需求的增长曲线一定是更陡峭的。”上海交大教授金贤敏表示。

金贤敏团队即将建设国内首条光子芯片中试线,预计明年年中建成,产能可达上万片。在AIGC时代,算力已成为大模型开发的短期瓶颈,解决算力短缺问题是一个系统性的工程。

惠志斌,上海社科院信息所研究员和互联网研究中心主任表示,在AIGC时代,除了关注国外GPU厂商的先进产品,我们还应该在光子计算和量子计算等颠覆性技术领域加强科技研发。

ai 算力

本站分享的区块链、Web3.0元宇宙、NFT、数字藏品最新消息等相关数藏知识快讯NFR资讯新闻,与金色财经非小号巴比特星球前线Btc中国官网无关,本站资讯观点不作为投资依据,市场有风险,投资需谨慎!不提供社区论坛BBS微博微信交流群等相关币圈信息发布!
本站内容来源于互联网,如存在侵权及违规内容投诉邮箱( [email protected] )
皮卡丘 2021-2024© YangKaTie.Com All