• 元宇宙:本站分享元宇宙相关资讯,资讯仅代表作者观点与平台立场无关,仅供参考.

Crypto AI:Decentralization计算为王

  • 2024年12月05日 03:40

作者:TengYan,ChainofThought;翻译:金色财经xiaozou

我有一大遗憾至今还在困扰着我,对任何关注它的人来说,它无疑是最明显的投资机会,但我没有投入一分钱。不,我说的不是下一个Solanakiller,也不是带着滑稽帽子的狗狗meme币。

而是……NVIDIA。

UBWfZxiMaPorwAgZA3Hw8n56jLHwE4bPRQPAJBWy.png

1、CryptoAI格局

我把去中心化的人工智能堆栈描绘成一个若干层生态系统:它的一端始于去中心化计算和开放数据网络,为去中心化人工智能模型训练提供支持。

然后,结合使用密码学、加密经济激励机制和评估网络来验证每条推断——输入和输出均如此。这些经验证的输出流向可在链上自主运行的人工智能代理,以及用户可以真正信任的消费者和企业AI应用程序。

协调网络将一切联系在一起,实现整个生态系统的无缝通信和协作。

在这个愿景中,任何构建人工智能的人都可以根据自己的具体需求,利用这个堆栈的一层或多个层。无论是利用去中心化计算进行模型训练,还是使用评估网络来确保高质量的输出,该堆栈都提供了一系列选择。

由于Blockchain固有的可组合性,我相信我们将自然而然地走向模块化未来。每一层都正变得高度专业化,协议针对不同的功能进行优化,而不是采用一体化集成方法。

QUgonfZvXMK3x3hVnm4r4lVGal2Xp6Z0JT0Z0rPp.png

也就是说,我相信人工智能的规模将如此之大,即使是今天看起来“小众”的领域也可能演变成一个重要的市场。

同样值得注意的是,技术进步并不总是沿着一条直线前进——它经常是突飞猛进的。当突然爆发时,我对时机和市场规模的看法将发生变化。

有了这个框架,让我们来具体来看各个子领域。

2、领域一:去中心化计算

去中心化计算是去中心化人工智能的支柱。

GPU市场、去中心化训练和去中心化推理是紧密联系在一起的。

供应端通常来自中小型数据中心和消费者GPU。

需求面虽小,但仍在增长。如今,它来自对价格敏感、对延迟不敏感的用户和规模较小的人工智能初创公司。

目前Web3GPU市场面临的最大挑战是如何让它们正常运行。

在去中心化网络上协调GPU需要先进的工程技术和设计良好、可靠的网络架构。

V80K4ifZGvr5yxysV0KYcPZGP5TO0NiPmguz2kbF.png

使计算网络真正可以工作

与普遍的看法相反,web3分布式GPU市场目前面临的最大障碍就是让它们正常工作。

这并不是一个微不足道的问题。

在分布式网络中协调GPU是非常复杂的,有很多挑战——资源分配、动态工作负载扩展、节点和GPU间的负载平衡、延迟管理、数据传输、容错以及处理分散在不同地理位置的各种硬件。我还可以继续说下去。

实现这一点需要深思熟虑的工程设计和可靠的、设计合理的网络架构。

为了更好地理解,想想谷歌的Kubernetes。它被普遍认为是容器编排的黄金标准,在分布式环境中自动化负载平衡和扩展等过程,这与分布式GPU网络面临的挑战非常相似。Kubernetes本身是建立在谷歌十多年的经验基础上的,即使在那时,它也需要数年的不懈迭代才能表现良好。

目前已经上线的一些GPU计算市场可以处理小规模的工作负载,但一旦它们尝试扩展,就会出现问题。我怀疑这是因为它们的架构基础设计很糟糕。

去中心化计算网络的另一个挑战/机遇是确保可信度:验证每个节点实际上提供了所声称的计算能力。目前,这依赖于网络声誉,在某些情况下,算力提供商根据声誉评分进行排名。Blockchain似乎很适合于无需信任的验证系统。像Gensyn和Spheron这样的初创公司正在力求使用一种无需信任的方法来解决这个问题。

今天,许多web3团队仍在应对这些挑战,这也意味着机会之门是敞开的。

去中心化计算市场规模

去中心化计算网络市场有多大?

如今,它可能只是价值6800亿至2.5万亿美元的云计算行业的一小部分。然而,尽管增加了用户的摩擦,但只要成本低于传统供应商,总是会有需求的。

我相信,由于Tokens补贴和对价格不敏感的用户的供应解锁,成本将在中短期内保持较低水平(例如,如果我能出租我的游戏笔记本电脑赚取额外现金,无论是每月20美元还是50美元,我都会很高兴的)。

ZhnK8wj4dkOyqQSCdroPKFdkEWNjrjobOQFK88sz.png

NousResearch正在通过他们的DisTrO框架提高标准,该框架使用优化器在训练1.2B参数模型的同时,将GPU间的通信要求降低了令10,000倍,令人瞠目结舌。

而且这种势头还在不断增强。去年12月,Nous宣布了一个15B参数模型的预训练,该模型具有损失曲线(模型误差如何随时间减少)和收敛率(模型性能稳定的速度),这与集中式训练的典型结果相匹配甚至更胜一筹。是的,比中心化要好。

XYESwFO1GUyV3LodoozDtQN4PnicSdstESZPbMmZ.png

这个模型是为更复杂的、需要大量计划的任务而设计的,比如填字游戏,以及需要更深层推理的问题。你会注意到它变慢了,需要更多的时间来生成响应,但结果却更加深思熟虑和细致入微。它的运行成本也高得多(是GPT-4的25倍)。

重心的转变很明显:人工智能性能的下一个飞跃将不仅仅来自训练更大的模型,还来自在推理过程中扩展计算应用。

如果你想了解更多,一些研究文章表明:

通过重复采样来扩展推理计算,可以在各种任务之间获得很大的改进。

也有一个用于推理的扩展指数定律。

一旦强大的模型被训练出来,它们的推理任务——模型所做的事情——就可以被转移到去中心化计算网络上。这不无道理,因为:

与训练相比,推理所需的资源要少得多。经过训练后,可以使用量化(quantization)、剪枝(pruning)或蒸馏(distillation)等技术对模型进行压缩和优化。它们甚至可以分解在日常消费设备上运行。你不需要高端GPU来支持推理。

这已经发生了。ExoLabs已经找到了如何在MacBook和MacMini等消费级硬件上运行450B参数Llama3模型的方法。跨多设备分布推理可以高效且经济地处理大规模工作负载。

更好的用户体验。在离用户更近的地方运行计算可以减少延迟,这对于游戏、AR或自动驾驶汽车等实时应用至关重要。每一毫秒都很重要。

把去中心化推理想象成人工智能的CDN(内容分发网络):去中心化推理利用本地计算能力,在创纪录的时间内提供人工智能响应,而不是通过连接到附近的服务器来快速提供网站。通过采用去中心化推理,人工智能应用程序变得更高效、响应更快、更可靠。

趋势很明显。苹果新推出的M4Pro芯片与英伟达的RTX3070Ti竞争,直到最近,RTX3070Ti还是硬核游戏玩家的领地。我们的硬件越来越有能力处理高级人工智能工作负载。

Crypto的增值

去中心化推理网络要想取得成功,就必须有令人信服的经济激励。网络中的节点需要因其算力贡献获得补偿。该制度必须确保公平有效地分配奖励。地理多样性是必要的,可以减少推理任务的延迟,并提高容错性。

建立去中心化网络的最佳方式是什么?Crypto。

Tokens提供了一种强大的机制来协调参与者的利益,确保每个人都朝着同一个目标努力:扩展网络并提高Tokens价值。

Tokens也加速了网络的增长。它们通过奖励早期采用者以及从第一天起推动参与度,帮助解决了经典的鸡生蛋还是蛋生鸡的问题,这个问题阻碍了大多数网络的发展。

Bitcoin和Ethereum的成功证明了这一点——它们已经聚集了地球上最大的算力池。

去中心化推理网络将是下一个。由于地域的多样性,它们减少了延迟,提高了容错性,使人工智能更接近用户。在加密激励下,它们将比传统网络更快、更好地扩展。

(未完待续,敬请关注)

Copyright © 2021.Company 元宇宙YITB.COM All rights reserved.元宇宙YITB.COM