Renesas选择了边缘AI

在追求边缘AI市场的过程中，Renesas必须在两个不同的世界之间架起桥梁。更具概率性的AI领域处理数据和模型创建，而嵌入式领域的特点是更具确定性，做线性编程。Renesas必须在这两个世界之间转换，而不损害其在任何一个领域中的地位。

嵌入式系统的设计师可能会对AI好奇，但他们不一定对编程感兴趣。更直接地说，AI让他们感到不安。

这就是包括Renesas在内的领先的MCU/MPU供应商面临的困境，他们觊觎着看似庞大的边缘AI市场。

开发一种超低功耗的MCU/MPU架构、配备合理的灵活性和可编程性是基础。但要赢得边缘AI竞赛，MCU/MPU供应商必须有一个明确的计划和特定的策略。

首先，他们必须了解每个市场细分中客户的需求和系统的限制。

其次，MCU/MPU供应商不能让自己被拉向太多的方向。他们必须选择一个能让他们向上攀升并全力支持客户的位置。

目前，Renesas已将其边缘AI的关注焦点缩小到了HVAC领域。Renesas的商业加速和生态系统高级主管Kaushal Vora表示：“这是一种非常有针对性的方法。”他解释到，Renesas为HVAC提供的边缘AI解决方案的范围从“硬件、固件参考设计和传感器仪表到生产级数据集”。Renesas在OEM的HVAC系统中安装了专业级实验室，并“为他们收集高质量的数据”。

许多客户可能不知道如何最好地将机器学习应用于HVAC，而Renesas会为这样的客户提供全方位的边缘AI服务。这需要Renesas做一些繁重的工作。Vora承认，这意味着最初只能服务于“少数几个战略客户”。

然而，与头部企业的一些成功案例可能会在嵌入式系统领域中引发更多客户对AI的兴趣。Renesas正在设计类似的“入门套餐”来吸引更多的买家将边缘AI应用到他们的系统中。

可扩展性

要成功地将AI添加到一系列嵌入式系统中，关键在于边缘AI解决方案的可扩展性。执行副总裁Sailesh Chittipeddi声称，Renesas已经准备好用一系列的MCU和MPU来满足不同客户的需求，这将“根据所需的内存、性能和功耗来进行扩展。”

对于Renesas最简单的解决方案，Chittipeddi说，“你可以选择16位微控制器。随着你的需求更高级，我们提供32位和64位的解决方案。但最终会迁移到集成神经处理器。”Renesas提供一个名为“DRP AI”的AI加速器。

Renesas还提供一个FPGA解决方案，ForgeFPGA。他指出，“这是一种超低功耗的FPGA，成本在50美分或以下。”该公司从Flex Logix获得了一个FPGA架构的授权，并将其优化。Chittipeddi解释道，“使用FPGA的优点是你可以实际进行并行处理，这是CPU做不到的。”

通常，FPGA成本都比较高，但ForgeFPGA相对便宜。Chittipeddi说，Renesas找到了最佳平衡点。虽然ForgeFPGA最初作为一个独立的产品提供，但它可以作为SiP（System in Package）集成到Renesas的其他芯片解决方案中。

但是，硬件并不能带动AI芯片的销售。关键在于供应商对客户需求的了解有多深。Chittipeddi说：“当我们推销我们的AI解决方案时，我们会探寻他们想从哪里开始，他们想实现什么。”

考虑到众多的用例，Vora补充说，芯片供应商的一个重要标准是了解系统的限制。Vora说，Renesas会问客户，“数据在哪里？数据需要在哪里运行？你能负担将数据传输到网络的另一层吗？在传输数据时有什么安全问题？网络效率如何？”

了解这些变量有助于Renesas扩展其解决方案。

大语言模型

AI芯片的客户也非常关注快速发展的AI模型。

一些系统供应商提出，像ChatGPT这样的新兴大语言模型（LLM）的日益普及，已经颠覆了AI世界。他们想知道他们最近采用的高度优化的硬件是否能够处理LLM的数学计算。

答案是：不能。

尽管Chittipeddi没有完全忽视LLM的重要性，但他声称LLM并没有对Renesas造成影响。他只说“我们正在研究它”，却没有进一步谈论。

暂时来说，LLM可能只是一个插曲，让系统设计师们从边缘AI真正的问题上分心。

Vora说：“生成式AI之所以如此受欢迎，是因为OpenAI已经展示了它能够训练模型到可以使用的程度。”

他强调：“人们常常将AI的复杂度等同于模型的复杂度。”但今天的边缘AI问题并不是缺乏复杂的AI模型。在Vora看来，问题在于数据集的完整性不足。

Vora说，随着世界收集更多的数据，我们必须应对“数据重力”。“当数据被向上传输到食物链，你开始失去数据重力……完整性。”

Vora观察到，“如果你可以在数据源头处理数据，你就可以拥有最准确、最完整、最可解释的AI。”

Vora警告说，AI经常在数据传输到云端时截断数据，改变结果，导致错误的结论。“这是今天AI问题的一大部分。”

Vora指出，运行网络的效率也是边缘AI面临的另一个问题。“往返时间（或延迟）会增加几毫秒”，也影响结果。

微垂直领域

半导体行业渴望从AI市场中攫取更多价值。

Vora估计，从历史数据来看，芯片行业从智能手机市场中获得了10%的价值，可能在PC时代获得了15%。他说：“如果我们从过去的失误中吸取教训，我们可以从AI市场中提取50%的价值。”主要是通过垂直化，构建完整的堆栈，和启用正确的生态系统。这一直是Nvidia的做法。

Nvidia在AI市场的成功得益于CUDA（Compute Unified Device Architecture），这是由Nvidia开发的一个软件框架。它吸引软件开发者使用支持CUDA的GPU进行通用处理。

Renesas借鉴了麦肯锡的报告《Artificial-intelligence hardware： New opportunities for semiconductor companies》。在报告中，麦肯锡建议半导体公司关注AI市场中的“微垂直领域”。

Vora解释，微垂直领域意味着从各种边缘AI应用中选择一个特定领域，并为客户构建完整的垂直AI堆栈。

Renesas已将HVAC确定为一个初始的微垂直领域，这是一个创造价值的机会。

Renesas的微垂直策略中一个关键要素是去年夏天收购的Reality AI。

Reality AI是Renesas的原始生态系统合作伙伴之一。它为汽车、工业和消费品的高级非视觉感知提供一系列嵌入式AI和TinyML解决方案。Renesas看到了将Reality AI的边缘AI软件开发环境与其自身的MCU和MPU产品组合起来的机会。此次收购使Renesas能够在每一个核心的MCU/MPU上提供“先进的信号处理、机器学习和异常检测”。

考虑到嵌入式系统设计师们对AI的广泛不适，Vora解释说：“我们能够为客户提供的垂直整合越多，以及我们能够提供给他们的指导和工具越多，我们就能够为客户提供更好的生态系统，以确定AI的发展方向。”Renesas的计划是逐渐增加微垂直领域和更多的生态系统合作伙伴，找出对其它边缘AI应用有用的工具。

从入门套餐到订阅模式

通过与客户合作，Renesas也在寻找盈利的机会。

根据Renesas的说法，目前约有11家公司在微垂直领域采购了“入门套餐”。他们支付的一次性费用范围在20，000到70，000美元之间。下一步，Renesas会提供分级的订阅模式，根据用户的计算需求，订阅费的范围在36，000到120，000美元之间。

Renesas的业务模式是硬件销售。然而，像“入门套餐”这样的产品有机会让他们更紧密绑定客户。

这种模式与Nvidia类似，称为“迁移学习”。“你拿一个对特定任务预训练得到80-90%准确度的模型，然后你可以逐步教这个模型做客户特定想做的事。有些客户可能对此感到满意，而有些客户可能不会。”

Chittipeddi说，无论如何，这都创造了“进一步盈利的额外机会”。

无论是在IoT市场还是AIoT市场，AI应用中总是有太多的使用案例、变化和碎片化。通过吸引关键的生态系统合作伙伴，Renesas似乎比其它公司都在更出色地驾驭着边缘AI的迷宫。