Jack Dorsey 的 Block 公司发布了 mesh-llm 项目(github.com/michaelneale/mesh-llm)。如果你有多台能跑大模型的计算机,使用 mesh-llm 就可以简单地用这些机器组建一个去中心化的 AI 算力网络,对外提供标准的 OpenAI 兼容 API。
mesh-llm 用 Nostr 协议进行通信,这本来是为去中心化社交网络设计的。所以这个网络没有中心服务器,节点之间是自组织的。任何节点都可以简单地加入和移出网络,单点故障也不影响整体。对于运行某个模型的请求,如果单节点能跑就单节点跑,如果不行,mesh-llm 可以自动将大模型拆分到网络上的多台机器运行。密集模型按层拆分,混合专家模型按专家拆分。
虽然 mesh-llm 目前看起来只是一个让个人用户方便地利用自己多台电脑的工具,但显然 Block 的野心不止于此。Block 的主营业务是支付,并且和加密货币关系密切。
类似比特币这样的区块链网络消耗算力算出来的数字没有任何实用价值,只是纯粹的工作量证明。但如果能把 AI 算力组建成类似的网络,然后再把这个网络和加密货币的网络对接上呢?这样每个人都能用闲置算力打零工,并获得加密货币作为报酬。这样,现实世界的生产活动就能和加密货币建立直接联系。