21 NAND 文档 EN

模型机

跑二值模型的小电脑。权重只有开和关,这页就能跑一个玩具模型。

在这里跑

文件 toy_bmlp.tbw1 · 102,400 B · 看前 24 个字节 · 两层各 512 个二值单元 · 524,288 个一位权重
文件 sha256 11c1c4b177a2308ee64732335335e044e4cf32ce0ddef75210b0d5fa4f5ed568(登记值,正在核对…)
输出 sha256 0aef22dfb94c5a76f0aa1eba5ac3f3a1852ba1982a1965a5235b696579a7acca (200 B)(标准答案,写完 200 个字后核对)—

全在浏览器里算:不连服务器、不上链、不用钱包。

自己核对

  1. 看上面「文件 sha256」,应该是 11c1c4b177a2308ee64732335335e044e4cf32ce0ddef75210b0d5fa4f5ed568。
  2. 点一次「写 200 个字」,「输出 sha256」应该是 0aef22dfb94c5a76f0aa1eba5ac3f3a1852ba1982a1965a5235b696579a7acca。
  3. 换电脑、换浏览器再跑,结果一样。页面只用整数运算。

它是什么

这个玩具模型

项值
大小102,400 字节
看前面24 个字节
隐层两层,各 512 个二值单元
一位权重524,288 个
训练语料吟游诗人的模型写出的故事,源头 tiny-tiny-stories(MIT)

它只为把整条路跑通,写出的英文还不通顺。

做到哪了