Gemmini在边缘计算中的应用：轻量级DNN加速器的部署实践

【免费下载链接】gemmini Berkeley's Spatial Array Generator 项目地址: https://gitcode.com/gh_mirrors/ge/gemmini

Gemmini作为Berkeley开发的空间阵列生成器（Spatial Array Generator），是一款专为边缘计算场景设计的轻量级DNN加速器。它通过 systolic array架构实现高效矩阵运算，特别适合资源受限的边缘设备部署深度神经网络模型。本文将从架构解析、核心优势、部署流程和实际应用场景四个方面，带你全面了解这款开源加速器的技术特点与落地价值。

一、Gemmini加速器架构解析

Gemmini采用模块化设计，主要由控制器、 systolic array计算单元、数据中转模块和存储系统组成。其架构图清晰展示了与Rocket Core的协同工作方式：

图1：Gemmini加速器与Rocket Core的系统集成架构，展示了从主存到计算单元的完整数据通路

核心计算单元采用systolic array（脉动阵列）结构，通过数据流在阵列中有序流动实现高效并行计算。下图详细展示了阵列的层级结构，从整体阵列到Tile再到最基本的处理单元PE（Processing Element）：

图2：Gemmini的Systolic Array层级结构，包含阵列、Tile和PE三级计算单元

每个PE包含乘法器和累加器，支持权重预加载和部分和传递，能有效减少数据搬运开销，这是实现边缘设备高能效比的关键设计。

二、边缘计算场景下的核心优势

1. 轻量级设计，适配资源受限环境

Gemmini提供多种配置选项，可通过chipyard/GemminiConfigs.scala文件选择不同规格的加速方案，包括：

• DefaultGemminiConfig：标准配置，平衡性能与资源占用
• LeanGemminiConfig：精简配置，最小化面积和功耗
• GemminiFP32DefaultConfig：支持FP32精度的浮点计算配置

这种可配置性使Gemmini能灵活适配从微控制器到边缘服务器的各类硬件平台。

2. 高效数据管理，降低内存带宽需求

针对边缘设备内存带宽有限的特点，Gemmini设计了专用的数据搬运机制。通过Mvin指令实现主存到Scratchpad的高效数据传输：

图3：Mvin指令的数据传输模式，支持按行列组织的数据块搬运

Scratchpad作为片上私有存储，通过多Bank设计实现并行访问，有效缓解内存墙问题。数据转置模块（Transposer）则通过流水线操作优化矩阵数据布局：

图4：Transposer模块的流水线操作，实现数据格式的高效转换

3. DNN优化支持，加速推理过程

Gemmini在src/main/scala/gemmini/Configs.scala中提供了专门的DNN优化选项，包括：

• 激活函数硬件加速（ReLU等）
• 权重压缩与稀疏化支持
• 量化计算模式

这些特性使Gemmini能高效运行卷积神经网络（CNN）、循环神经网络（RNN）等主流DNN模型。

三、Gemmini部署实践指南

1. 环境准备

首先克隆Gemmini仓库：

git clone https://gitcode.com/gh_mirrors/ge/gemmini
cd gemmini

项目提供了完整的软件栈支持，包括：

• software/libgemmini/：Gemmini运行时库
• software/gemmini-rocc-tests/：功能测试套件
• software/overlay/：系统启动脚本

2. 配置选择与编译

根据目标边缘设备的资源情况，在chipyard/WithMultiRoCCGemmini.scala中配置加速器参数，主要包括：

• 阵列尺寸（Array Size）
• 数据位宽（Data Width）
• Scratchpad容量
• 并行度配置

编译命令：

# 以Lean配置为例
make CONFIG=LeanGemminiConfig

3. 模型移植与优化

将预训练的DNN模型移植到Gemmini平台需注意：

1. 模型量化：将FP32模型转换为INT8或FP16以减少计算量
2. 算子映射：利用Gemmini的矩阵运算优势，将卷积、全连接等算子映射为GEMM操作
3. 数据分块：根据加速器尺寸合理划分输入数据，避免存储溢出

项目提供的software/gemmini-ort/目录包含ONNX Runtime集成示例，可简化模型部署流程。

四、典型应用场景

1. 智能物联网设备

Gemmini的低功耗特性使其非常适合部署在物联网终端设备，如：

• 智能摄像头的实时图像分类
• 可穿戴设备的健康数据监测
• 智能家居的语音指令识别

2. 边缘服务器加速

在边缘服务器场景，可通过多Tile配置实现更高性能：

// 多Tile配置示例（来自GemminiConfigs.scala）
new gemmini.LeanGemminiConfig ++  // rerocc tile3 is gemmini
new gemmini.LeanGemminiConfig ++  // rerocc tile2 is gemmini
new gemmini.LeanGemminiConfig ++  // rerocc tile1 is gemmini
new gemmini.LeanGemminiConfig     // rerocc tile0 is gemmini

这种配置可支持边缘节点的实时视频分析、自然语言处理等计算密集型任务。

3. 嵌入式AI加速

在资源极度受限的嵌入式系统中，Gemmini的精简配置（LeanGemminiConfig）可提供基本的AI加速能力，如：

• 工业传感器的异常检测
• 无人机的环境感知
• 智能电表的负荷预测

总结

Gemmini作为一款开源的轻量级DNN加速器，通过创新的架构设计和灵活的配置选项，为边缘计算场景提供了高效的AI加速解决方案。其 systolic array计算单元与优化的数据管理机制，使深度神经网络能在资源受限的边缘设备上高效运行。无论是智能物联网终端、边缘服务器还是嵌入式系统，Gemmini都能提供定制化的加速能力，推动AI在边缘计算领域的广泛应用。

随着边缘AI需求的不断增长，Gemmini项目将持续优化，为开发者提供更完善的工具链和更丰富的功能支持，助力边缘智能的快速落地。

【免费下载链接】gemmini Berkeley's Spatial Array Generator 项目地址: https://gitcode.com/gh_mirrors/ge/gemmini