
高性能人工智能 RISC-V 处理器领域的领先 IP 公司 Semidynamics 宣布支持 ONNX Runtime,并推出其 RISC-V 软件开发工具包(SDK)Aliado。
Semidynamics 已将对其硬件的支持集成到 ONNX Runtime 中,使最终用户能够将人工智能无缝集成到其应用中。ONNX 项目最初由微软开发,定义了人工智能模型的通用标准,所有主要的人工智能框架都支持导入或导出 ONNX 格式的模型。大多数开源人工智能模型库(如 HuggingFace)已经提供了 ONNX 格式的模型,使 ONNX 用户几乎可以导入任何现有模型,而无需任何模型编译步骤。
在 ONNX 格式的基础上,ONNX-Runtime 还能提取 ONNX 模型,并在各种硬件中执行。它还提供了一套工具,用于执行模型优化甚至量化。由于新集成了对 Semidynamics 硬件的支持,终端用户从第一天起就可以开发他们的人工智能应用。
对于一般开发 RISC-V 应用程序的终端用户来说,Aliado SDK 可以快速、无缝地开发、调试和微调适用于 Semidynamics 硬件的应用程序。它提供了一套完整的软件开发解决方案,包括编译和调试工具链、用于应用程序功能测试的仿真器以及高度优化的通用例程库,所有这些都集成在一个开发环境中。
用户可使用兼容 Windows WSL 或 Linux 的完全集成开发环境 (IDE) 轻松上手。集成开发环境是基于 Eclipse 的完整解决方案,集成了 Aliado SDK 的所有功能,使用户在编写 C 和 C++ 应用程序时尽可能减少摩擦。支持集成开发环境的是一个全面的工具链,用于编译和调试针对 Semidynamics 硬件的代码。它基于 GNU 编译器集(GCC)和 LLVM,为用户提供了两种最常用、最熟悉的环境,包括代码优化和自动矢量化。该工具链与集成开发环境集成,但可与任何集成开发环境兼容。
任何 RISC-V 编译代码都可以使用 QEMU 或 Spike 仿真器从 x86 工作站进行功能验证,这些仿真器经过修改,支持 Semidynamics 的定制指令。QEMU 提供快速功能验证,能够进行系统和用户模式仿真,而 Spike 则是 RISC-V 国际组织的官方仿真器。SDK 还为 Spike 的裸机开发提供了便利,适用于以嵌入式系统为目标的终端用户。
最后,还包括Semidynamics支持人工智能的核心--内核库(Kernel Library),它是Semidynamics在ONNX-Runtime中提供集成支持的基础。内核库的创建是为了最有效地利用 Semidynamics RISC-V 硬件的性能。它是对多维数据进行操作的函数集合,尤其侧重于人工智能。针对 Semidynamics 硬件优化了大量关键操作,如矩阵乘法、转置、激活函数等,从而能够快速开发高效的人工智能应用。
所有内容均可在semidynamics.com/software上下载。
Semidynamics 首席执行官罗杰-埃斯帕萨(Roger Espasa)补充说:"我们的理念是始终让终端用户轻松使用我们的产品。我们对ONNX-RT和Aliado SDK的支持将使他们能够在个人电脑上快速开发和测试他们的软件,以了解其在我们的硬件上的性能如何。这确实加快了产品上市时间,因为在实际创建任何硬件之前,都可以在仿真中进行完善。
Semidynamics www.semidynamics.com
Semidynamics® 成立于 2016 年,总部位于西班牙巴塞罗那,是完全可定制 RISC-V 处理器 IP 的唯一提供商,专注于针对机器学习和人工智能应用的带向量单元和张量单元的高带宽、高性能内核。该公司为私营企业,是 RISC-V 联盟的战略成员。