ChatGPT点燃算力狂飙新时代,太初元碁Tecorigin加速大模型商业化落地进程!
说到最近网上最火的科技名词,非“ChatGPT”莫属,有关ChatGPT话题频频登榜热搜。
什么是ChatGPT
ChatGPT的功守道
ChatGPT的技术底座是“大型语言模型(Large Language Models)”,简称LLMs。近几年随着LLMs的不断发展,对自然语言处理(NLP)研究的业务落地带来了质的飞跃。从Transformer的提出,到BERT的广泛使用,再到GPT的迭代发展,LLMs对算力和数据的需求呈现爆发式增长。
相关数据显示,日常ChatGPT官网1月总访问量达到6.16亿次——按照运营阶段(以13亿模型参数为例),参考每次访问0.01美元估算,单月推理运营成本达到616万美元,合算算力约4.2E23 FLOPs。
目前,OpenAI训练ChatGPT使用的计算集群的峰值性能已经可以排进同期(2020.05)超级计算机Top500榜单的前5名,达到60PFlops的水平(作为对比,“神威·太湖之光”整机峰值算力为120PFlops)。
据OpenAI测算,自2012年以来,全球头部AI模型训练算力需求3-4个月翻一番,每年头部训练模型所需算力增长幅度高达10倍,即使不考虑摩尔定律的减缓,也远超计算机硬件性能增长速度,领域定制化和异构计算技术逐渐成为智能计算硬件研发的热点。
随着AI大模型进入超级计算时代,从“大炼模型”到 “炼大模型”,算力基础将成为迈向更高通用人工智能的门槛。随着人工智能业务场景的成熟落地,传统数据中心、算力中心的智能化升级成为迫切需求,而高性能计算(HPC)与人工智能的系统化结合将成为升级的关键。
太初元碁Tecorigin——算力算法基建化
随着“十四五规划”、“东数西算”等战略政策的发布,国产算力新基建的快速发展将为高性能计算和人工智能的融合提供强大的算力支撑,为尽快补齐数字经济领域发展短板创造条件。
高算力、低耗能、强自主可控的系统级解决方案是智算中心建设的关键。太初元碁Tecorigin作为智能计算系统解决方案提供商,致力于国产智算系统的研发与优化,针对大规模人工智能应用的特性,从核心计算单元到网络通信再到存储系统等形成了完整的技术实现链条。依托于丰富的产品体系和庞大的技术团队,太初元碁Tecorigin持续在智能计算领域发力,通过国产异构平台的成功推广与广泛落地,逐步形成国产算力网,为人工智能业务落地提供有力支撑。
立足当下,展望未来,我们将持续肩负着“铸造中国算力基石,构建未来智能世界”的使命,不断夯实国产算力基础,大力发展人工智能计算技术,共创数智融合的新时代。