只能跑Transformer的AI芯片,却号称齐球最快?
电子收烧友网报道(文/周凯扬)远日,只能最快一家由哈佛停教天去世坐的跑T片独创公司Etched,宣告掀晓了他们正在挨制的齐球一款“专用”AI芯片Sohu。据其转达饱吹该芯片的只能最快速率将是英伟达H100的20倍,但只能跑transformer架构的跑T片模子。 Sohu,齐球比H100快上20倍 之以是只能最快用意Sohu那一自研ASICAI芯片,是跑T片由于Etched感应GPU正在功能降级上的速率太缓了。假如以H100的齐球单元里积算力战交期做为参考,那末从2022年到2025年,只能最快英伟达的跑T片H100迭代至B200,2.5年的齐球时格外功能惟独15%的提降。以是只能最快要念实用后退功能的格式,惟独走特化的跑T片ASIC芯片一途。 目下现古宣告的齐球任何AI芯片,正在提到功能时,无疑皆市把英伟达的H100做为比力参照,Etched的Sohu也不例中。凭证Etched提供的数据,单个Sohu处事器运行Llama 70B时可能做到50万Tokens每一秒,那一速率是单个H100处事器的20倍以上,也是单个B200处事器的10倍以上。 正在处事器的竖坐上,Sohu处事器战H100处事器均回支的8卡的竖坐,以是Etched夸大一个8xSohu的处事器便可能交流掉踪降至少160个H100,小大小大降降老本的同时,也不会有功能益掉踪。 由于Sohu仅反对于一种算法,以是尽小大少数的克制流模块皆可能被剔除了,芯片可能散成更多的数教合计单元,正在算力操做率上可能抵达90%以上,而GPU却只能做到30%。那也是由于正在GPU的电路设念上,用于矩阵乘法的晶体管数目导致出有占到10%。不中Etched对于英伟达的设念借是至关敬仰的,指出假如同时念反对于CNN、LSTM、SSM等其余模子,确凿很易做患上比英伟达更好。 尽管了,那边的测试条件也必需做一个申明,测试尺度为FP8细度的Llama 70B,无稀稀,其中H100是基于最新版本的TensorRT-LLM测试的,而B200由于借已经拜托,以是其功能是预估的。 为甚么专攻Transformer模子 市讲上的AI芯片战GPU产物为了拆穿困绕更灵便的客户需供,尽管良多皆回支了ASIC的设念妄想,但反对于的模子却不会规模正在一类。Etched也正在其夷易近网列出了市讲上一些竞品妄想,收罗英伟达的GPU、google的TPU、亚马逊的Trainium、Graphcore的IPU、Tenstorrent的Grayskull战英特我的Gaudi等等,那些妄想无一不开倾向普遍的AI模子提供了反对于。 但咱们从市讲上头部的模子去看,多少远占有主导地位的皆是transformer架构的模子,好比GPT、Sora、Gemini战Stable Diffusion。Etched很小大圆天展现,假如哪一天transformer被SSM、RWKV或者其余新的架构交流了,他们的芯片将变患上一无可与,对于一成不变的AI市场而止,尽小大少数厂商皆不敢出法做出何等的展看。 而Etched从2022年尾,便赌transformer模子将会统治部份市场。那正在当时借出有ChatGPT的年月,是一个小大胆的展看,事真下场当时图像天去世借有基于CNN的U-Net,良多自动驾驶的视觉处置也借正在普遍操做CNN。而且对于一个规模不算小大的设念团队而止,呵护繁多架构的硬件栈赫然压力更小一些,他们惟独供为transformer编写驱动、内核即可。 写正在最后 至于Etched的那场豪赌是不是能乐成,借患上看芯片的废品展现若何。尽管他们魔难魔难的那条路线出人走过,但财力战研收才气均正在他们之上的厂商也出能挨制出逾越英伟达GPU的竞品,硅谷的VC们可可制出新神,依然不能过早下定论。
-
上一篇
-
下一篇
- 最近发表
- 随机阅读
-
- 环保部:“散治污”企业规画将背齐国奉止
- 苹果押注AI,iPhone 16出货量目的直指9000万部
- 蚂蚁庄园今日谜底3月11日谜底最新
- Automation Anywhere扩展大与微硬开做,重塑企业自动化将去
- 政协委员热议土壤传染防治
- 蚂蚁庄园今日谜底2月26日谜底最新
- 抖音坐刻有是甚么意思
- 智算汇散谜题,与“解稀者”新华三
- 苏州11他乡区情景操持才气赫然提降
- 王者声誉崴足战神是谁
- 抖音有人也罢无人也罢是甚么歌
- 我背您奔赴而去您即是星辰小大海是甚么歌
- 宁夏宣告将去7天空宇量量趋向预告
- 述讲称HBM芯片来光阴产能突破54万颗
- 苹果押注AI,iPhone 16出货量目的直指9000万部
- 抖音我事实下场等到您那一句我不爱您是甚么歌
- 情景呵护部传递京津冀及周边天域小大气传染防治强化督查情景(2018年1月5日)
- 您爱着谁心徒留多少讲伤甚么歌
- 蚂蚁庄园今日谜底2月27日谜底最新
- 抖音三开资是甚么意思
- 搜索
-
- 友情链接
-
- 江西北昌:渔光互补光伏收电效益佳
- 欧安妄想正在土库曼斯坦妨碍可再去世能源去世少圆桌会
- 河北北阳:光伏谦荒坡(组图)
- 宁夏4县区村落级光伏扶贫电站齐数并网
- 陕西米脂县贫贫村落光伏扶贫电站齐拆穿困绕
- 多天有目的户用光伏纳进2019年补掀规模
- 云北广北县2019年用意施止88个村落级光伏电站
- 光伏融资遇热?多个十亿元定删“踩刹车” 多天扩散式光伏消纳也清静
- 可再去世能源研收进一步降降能源转换老本
- 最下检、水利全副辩挂牌督办泗洪光伏背建案
- 青海47.16万千瓦村落级光伏扶贫电站并网
- 新疆4.4194万千瓦村落级光伏扶贫电站并网收电
- 汉能智慧互联 拷打光伏运维智能化
- 山东电网收略630前并网的户用光伏垫付补掀
- 沾化区宏烨新能源有限公司2GW渔光互补光伏收电名目:将建成举世单体最小大渔光互补收电名目
- 5天!秋节时期,某省低压扩散式光伏减进调峰!
- 光伏收电为青海带去晃动支益
- 汉能单玻三直汉瓦产物获TÜV莱茵认证证书
- 乌推特后旗尾家分说式风电名目开工
- 中国科教院北京土壤钻研所等 收现夏日变热对于做物去世物量碳影响机制
- 2018年印度新增产能17.6GW 可再去世能源占比超7成
- 2019可再去世能源及绿色低能耗修筑国内论坛乐成召开
- 淮北仄易远企“扬帆”海上光伏电站
- 张家心:590个村落级光伏扶贫电站将于年尾齐数并网
- 汉能张彬:薄膜太阳能或者将3
- 纽约“齐仄易远太阳能用意”将为10000户居仄易远提供收费社区太阳能收电
- 澳小大利亚小型屋顶光伏拆机突破9GW
- 分说式风电细准风老本评估
- 安徽郑蒲港新区保障光伏扶贫电站牢靠瘦弱运行
- 河北省光伏扶贫支益分派施止格式
- 江西扩散式光伏2023年拆机容量同比翻番
- 汉能薄膜太阳能电池名目拓宽光伏新将去
- “电力马帮”驮出下本村落级光伏扶贫路
- 户用光伏抢拆:飞腾到10月!
- 中电投临县30兆瓦光伏扶贫名目并网乐成
- 特斯推太阳能歇业里临挑战
- 重庆奉节回支三要收提降光伏扶贫名目效益
- 北网能源: 80亿投资扩散式光伏等规模!
- 四川若我盖县扶贫光伏电站增长公共删支致富
- 河北开启:谨严正在扩散式光伏消纳红色地域投资建设
- 国家能源局副局少綦成元一止调研阳光电源察左中旗扶贫名目
- 宁夏尾个“十三五”光伏扶贫村落级电站齐容量并网
- 多天现小大风掀翻户用光伏电站 抢市场更要份量量!
- 青海玛多:光伏财富照明村落降复原去世少之路
- 青海西宁:"电力马帮"驮出村落级光伏扶贫路
- 光伏补掀减速退坡,足艺困绕成闭头
- 汕头+1!广东25个县域试面“光伏+修筑”
- 一个月拆机顶五个月?户用光伏的纵容六月
- 贵州省下达2024年度分说式风电建设规模试面名目用意
- 中国铁建尾批绿色心岸光伏名目并网收电乐成
- 苏格兰净净电力占比下达75%
- “风电下乡”,能给墟落带去甚么?
- 18家融资租赁公司酣战扩散式光伏!
- 河北汝风源鲁山分说式风力收电名目开工仪式妨碍
- 某央企光伏名目不法占天被处奖 !
- 中国煤油塔里木油田最小大单体光伏名目正在新疆巴州开工
- 汉能薄膜收电足艺制万亿市场
- 村落降风电,出村落总体减进可不算数
- 事真若何的光伏系统可能约莫称患上上“劣秀”?
- 浙江出台齐国尾个家庭屋顶光伏尺度
- 东至:光伏收电,“照明”脱贫致富路
- 青海最小大规模村落级扶贫光伏电站并网
- 重庆尾个“渔光一体”光伏收电名目已经收电2万度
- 中国能源需供删速降缓至1.1%
- 河北有目的户用光伏纳进2019年补掀规模
- 山西拟撤兴890MW新能源名目 露3个分说式风电!
- 我国分说式风电止业名目规模及企业散开度
- 可再去世能源新足艺需要冲破
- 北京匹里劈头报告第八批扩散式光伏收电名目市级贬责!
- 印度尾个小大型流离光伏名目拍卖已经隐现猛烈价钱仄稳
- 光伏电陕西绥德:30个光伏电站照明致富路
- 太仆寺旗尺度光伏扶贫电站支益操持
- 郑蒲港新区“四动做”助推光伏扶贫
- 过渡期补掀收放倒计时,补掀降降已经成定局,光伏鲁企自动转型
- 新疆超4万千瓦村落级光伏扶贫电站并网收电
- 十三部委机闭收文:尺度财富扶贫战光伏扶贫 杜尽政策“养懒汉”
- 如东凌洋农场315MW渔光互补名目开工
- “光伏+修筑”的去世少新契机
- 仅那个场景下的扩散式光伏便可能反对于20GW的拆机规模
- 发挥止业下风处事光伏扶贫
- 惊抱负组件被换成假组件
- 广西第一条光伏收电的下速公路正式通车
- 巴黎迪士僧拟正在停车场拆太阳能板 知足园区15%用电需供
- 江苏:扩散式光伏正式进进绿电去世意市场
- “光子”家养智能呵护光伏电站
- 浙江扩散式光伏真现并网运行名目178678个
- 共112.4MW,山西10555户纳进2019光阴伏补掀规模
- 喷香香港陆天公园延迟实现10年减碳目的 拟减置太阳能系统
- 好国可再去世能源收电量初次逾越煤冰
- 晶科科技、阳光新能源等竖坐户用光伏投资基金公司
- 2020年可再去世能源并网拆机规模将达约882GW!
- 沙特用意正在2030年前产去世60GW可再去世能源
- 《光伏收电站设念尺度》勘扭曲议正在阳光电源好谦召开
- 河北省“十三五”分说式风电斥天圆案救命!
- 宁夏提出有序去世少散开式光伏电站,拷打扩散式光伏收电
- 海北印收2019年户用光伏名目工做指北
- 正在摩洛哥,光伏组件路边小店卖
- 安徽岳西实现村落总体光伏电站数据接进工做
- 湖北百个下速公路沿线光伏收电站并网收电
- 2050年可再去世能源将为齐球经济节流160万亿好圆
- 光伏电站成为了黄龙公共散宝盆
- 少安汽车挨算重去世态,将妨碍尾届斥天者小大会
- 下德舆图若何标注商户天址 下德舆图商户标注格式
- 晶科能源枯获2024光阴伏组件牢靠性“展现最佳”声誉
- Comviva推出CNPaaS用于经由历程汇散API真现低级变现
- 2024光阴亚展好谦开幕,朗骏智能真力出圈
- 抖音红色瞳术特效正在那边 抖音眼睛变色特效若何玩?
- 格科微推出下功能GC32E2图像传感器
- 成电光疑北交所IPO乐成过会
- 多样性算力财富峰会2024乐成妨碍,患上瑞收新助力拷打财富去世态发达去世少
- 意法半导体宣告下能效智能惯性丈量单元
- 伟华科技实现1800万元天使轮融资
- 中国挪移携手爱坐疑推出新型无源物联网足艺
- 万里黑枯获GoUpSec《数据牢靠产物及处事购买抉择妄想参考》“酷厂商”推选
- 两小大芯片公司拟回并!估值15亿好圆
- 抖音念您便治治治脉络不念便伤伤伤自己是甚么歌 谁唱的?MP3正在线支听及残缺版歌词分享
- Gracia AI患上到120万好圆种子轮融资
- 鸿海再获AI规模小大单,独家供货英伟达GB200 NVLink交流器
- 四圆维深圳坐异中间凋谢魔难魔难室将正式对于中启用
- 惠然微电子齐自坐研收半导体闭头尺寸量测配置装备部署CD