贾扬清：Groq的AI芯片不能平替英伟达

2024-02-21 11:18 来源:同花顺财经

财报发布前两天，英伟达突然冒出来一个劲敌。一家名叫Groq的公司今天在AI圈内刷屏，杀招就一个：快。不过，原Facebook人工智能科学家，原阿里技术副总裁贾扬清在推特上算了一笔账，因为Groq小的可怜的内存容量(230MB)，在运行Llama-270b模型时……

财报发布前两天，英伟达突然冒出来一个劲敌。一家名叫Groq的公司今天在AI圈内刷屏，杀招就一个：快。不过，原Facebook人工智能科学家，原阿里技术副总裁贾扬清在推特上算了一笔账，因为Groq小的可怜的内存容量(230MB)，在运行Llama-270b模型时，需要305张Groq卡才足够，而用H100则只需要8张卡。从目前的价格来看，这意味着在同等吞吐量下，Groq的硬件成本是H100的40倍，能耗成本是10倍。(36氪)

THE END

相关阅读

消息称微软正研发新型网卡，旨在提升自研 AI 芯片性能

芯物联 2 月 21 日消息，据 The Information 报道，微软正在研发一款新型网卡，旨在提升其自研的 Maia AI 服务器芯片的性能，并有可能降低公司对芯片设计厂商英伟达的依赖。报道援引知情人士的消息称，微软 CEO Satya Nadella 聘请了联接…

1分钟前
高通推出全球首款汽车Wi-Fi 7芯片：峰值速率5.8Gbps

物联2月21日消息，高通宣布推出骁龙汽车智联平台的最新产品，业界首个车规级Wi-Fi 7接入点解决方案——高通QCA6797AQ。高通表示，汽车正在成为个性化的网联空间，这包括先进信息娱乐系统和增强现实仪表盘等。沉浸式车内体验愈加普及，推…

2分钟前
人工智能对高算力芯片需求增加先进封装渗透率快速提升

据媒体报道，半导体供应链表示，台积电不仅现有制程产能利用率全面回升外，2纳米进度亦优于预期，首季除了8寸产能利用率缓步回升外，台积电的12寸产利用率更是到八成以上，尤其是5/4纳米制程维持满载。

3分钟前

栏目精选

快讯

消息称微软正研发新型网卡，旨在提升自研 AI 芯片性能

芯物联 2 月 21 日消息，据 The Information 报道，微软正在研发一款新型网卡，旨在提升其自研的 Maia AI 服务器芯片的性能，并有可能降低公司对芯片设计厂商英伟达的依赖。报道援引知情人士的消息称，微软 CEO Satya Nadella 聘请了联接…

1分钟前
快讯

高通推出全球首款汽车Wi-Fi 7芯片：峰值速率5.8Gbps

物联2月21日消息，高通宣布推出骁龙汽车智联平台的最新产品，业界首个车规级Wi-Fi 7接入点解决方案——高通QCA6797AQ。高通表示，汽车正在成为个性化的网联空间，这包括先进信息娱乐系统和增强现实仪表盘等。沉浸式车内体验愈加普及，推…

2分钟前