新AI芯片介绍(1):Groq
3 月,跳不动了?>>> 最近被迫在家干活也出不了门,趁现在把之前听的AI芯片的演讲都总结一下。我先从Groq开始,这个算是最新也最不出名的,但是我觉得潜力很大。主要基于他们的whitepaper 跟之前我拍下来的slides,还有其它的一些比较细的report https://groq.com/wp-content/uploads/2019/10/Groq_Whitepaper_2019Oct.pdf groq.com A Look Inside the Groq Approach to AI Inference www.nextplatform.com Groq的背景是之前TPU的一个TL跳出来自己做的,还有CRAY的人,所以technical还是很强的。我先说我跟Groq没关系啊,所以肯定有一些不是完全准确的信息。废话不多说我们开始跟着whitepaper的逻辑过一遍。 为什么做AI芯片难 市场对于AI运算的需求正在增加,同时业务逻辑也变的越来越复杂。但是如果为了配合越发复杂的逻辑,芯片本身也越来越复杂的话,功耗也会同时增加。对于推理的workload来说,其实这些增加的复杂度本身是没有什么价值的。比如就算GPU本身,也是一开始为了rendering而优化的,也不完全是为了推理而设计的架构(老黄警告)。 Groq的逻辑 Groq这个公司是觉得没有必要搞得这么复杂