21 NAND 文档 EN

整机架构

模型机的主线是在小电脑上纯软件跑(SBC);这页讲的 FPGA 加 ESP32-C3 是研究线,只在仿真里跑通。

主线是 SBC 纯软件:在 ARM 小电脑上用自写运行时跑模型,从链上取固件那一套照样用,见在小电脑上跑大模型。下面的 FPGA 加 ESP32-C3 方案是研究线:电路是我们自己设计的,目前只在仿真里跑通,还没做成实物。

研究线:一张图

 链上 tape 容器(BSC / X Layer)
   tapeboot/<board>/channel/*.json   频道指针
   tapeboot/<board>/<seq>/…          manifest 和文件
        │  只读 eth_call:fileInfo / readRange(一个节点不行换下一个,一律验哈希)
        ▼
 ESP32-C3:引导固件 + TapeBoot 客户端
   读频道 → 验签名和哈希 → 按块取回(缓存到 microSD)
        │  SPI 邮箱:把运行时和 TBW1 写进 DDR3,再放开软核复位
        ▼
 FPGA(GW2A-18)
   rv32ima 软核 ── 总线 ── DDR3 控制器(128 MB)
                    ├─ UART
                    ├─ 定时器 / SYSCON
                    ├─ HDMI 文本控制台
                    └─ 二值乘加单元(XNOR + popcount,自己从 DDR3 读权重)
现在在仿真里跑通,还没做成实物。

部件

部件是什么做什么
ESP32-C3引导芯片,跑引导固件,内含 TapeBoot 客户端连 Wi-Fi 读链;验签名和哈希;按块取回;经 SPI 邮箱写 DDR3;看心跳决定提交还是回滚
microSD接在 C3 上块缓存和 A/B 两个槽;断网时从最近一个核对通过的槽启动
GW2A-18 FPGA目标板 Tang Primer 20K放下面这些电路。比特流固定在板载 flash,用 USB 烧,不走链上
rv32ima 软核M 态、没有 MMU,和 mini-rv32ima 兼容复位后从 0x8000_0000 开跑
DDR3128 MB前 16 MB 放运行时,后面至多 112 MB 放模型
二值乘加单元XNOR + popcount一次算完一整个矩阵乘向量,自己读 DDR3
UART8250 子集,8N1、115200串口输出
HDMI 文本控制台80×30 字符,每格 2 字节(字符 + 颜色)屏幕输出
运行时TBRT 裸机运行时(主),TapeOut Linux(次)加载模型、推理、出字

三条接口

接口两端管什么详见
IF-1模型 ↔ 硬件、运行时TBW1 权重文件布局。整个文件原样上链、原样进 DDR3、被乘加单元直接读,中途不转换TBW1 权重格式
IF-2硬件 ↔ 系统内存映射、乘加单元寄存器、C3 和 FPGA 之间的 SPI 邮箱本页下面
IF-3协议 ↔ 系统TapeBoot:链上路径、manifest、签名、校验顺序、A/B 槽从链上取固件、TapeBoot 规范

内存映射

外设地址和 mini-rv32ima 相同,所以链上那份 TapeOut Linux 镜像可以原样启动。

地址大小内容
0x8000_000016 MB运行时 / 操作系统
0x8100_0000至多 112 MB模型区:TBW1 文件原样放这里
0x1000_00000x100UART
0x1100_4000 / 0x1100_BFF8—mtimecmp / mtime
0x1110_00004SYSCON:写 0x5555 关机,0x7777 重启
0x2000_00000x100二值乘加单元
0x2100_00008 KBHDMI 文本控制台
0x2200_00000x100邮箱:C3 和软核之间的状态寄存器

乘加单元寄存器

全部 32 位。写好地址和尺寸,置 CTRL 的 bit0 启动,等 STATUS 的 bit1。

偏移名字说明
0x00CTRLbit0 启动,bit1 清中断
0x04STATUSbit0 忙,bit1 完成,bit2 错误
0x08W_ADDR权重张量在 DDR3 的字节地址
0x0CX_ADDR输入向量,按 64 位对齐
0x10Y_ADDRint32 输出
0x14COLS列数
0x18ROWS行数
0x1CSCALE_ADDR缩放表地址
0x20SCALE_KIND缩放方式,见 TBW1
0x24GROUP分组大小
0x28PERF_CYCLES只读,用了多少拍
0x2CACT_BITS输入位数;0 和 1 都按一位输入
0x30W_KIND0 = 一位权重(复位值),1 = INT8,其余报错

SPI 邮箱

C3 当主机。模式 0,高位先出,SCK 不超过 FPGA 时钟的 1/8。一次片选拉低是一条命令,多字节字段一律小端。

命令格式做什么
0x01 WRITEaddr[4] 后跟数据写进 DDR3。只在软核复位时有效
0x02 READaddr[4] dummy[2] 后连续读读 DDR3。只在软核复位时有效
0x03 RESETv[1]bit0 = 1 按住软核复位,0 放开。上电默认按住
0x04 REG_WRreg[1] v[4]目前只能写 0x00 BOOT_INFO
0x05 REG_RDreg[1] dummy[1] 后读 v[4]读下表的寄存器
寄存器内容
0x00 BOOT_INFO高 16 位 = manifest 的 seq 低 16 位,低 16 位 = manifest sha256 的前 2 字节。只给运行时打印自己是哪一版
0x04 HEARTBEAT软核每秒加 1;复位期间清零
0x08 MSG软核给 C3 的状态码;复位期间清零
0x0C STATUSbit0 软核在复位,bit1 软核已关机,bit2 复位之外访问 DDR3 被拒,bit3 乘加单元忙,bit4 DDR3 标定完成,bit5 标定失败
0x10 版本ASCII MB01;带 DDR3 标定位的是 MB02

开机顺序

  1. FPGA 从板载 flash 起,DDR3 控制器标定。
  2. C3 每 10 ms 读一次邮箱版本,读到 MB01 或 MB02 才算 FPGA 起来了。2 秒读不到就停,不取文件、不动槽。
  3. 等 STATUS 的 bit4(DDR3 标定完成)。
  4. TapeBoot 读频道、取 manifest、验签名、按块取回并核哈希。见从链上取固件。
  5. 经邮箱把运行时写到 0x8000_0000,把 TBW1 写到 0x8100_0000,写 BOOT_INFO。
  6. 放开软核复位,软核从 0x8000_0000 开跑。
  7. 60 秒内 HEARTBEAT 从 0 变成非 0 就算健康,提交这一版;否则回到旧槽。

两种运行时

运行时用途健康判定
TBRT 裸机运行时(主线)一启动就推理,直接驱动乘加单元和 HDMI60 秒内有心跳
TapeOut Linux(次线)原样启动链上那份 Linux 6.5.12,和链上机器逐指令对拍;开机约 4,180 万条指令放开复位 60 秒后软核没关机

manifest 里文件的 role 是 runtime 还是 os,决定启动哪一个。

没有 FPGA 的版本

同一套 TapeBoot 也能作为 Linux 程序跑在 ARM 小电脑上,取回、校验、A/B 槽都一样,心跳改走管道。见在小电脑上跑大模型。