长推:AI从分布式算力到可信计算的演进

最近,市场讨论焦点主要在AI分布式云算力聚合平台上,但Messari一份报告却把注意力聚焦到了AI去中心化推理方向。而且该报告提到了 @MarlinProtocol 所推出的teeML去中心化推理架构,一种利用可信执行环境(TEE)来提供计算证明的方式。

为什么要做分布式推理架构?逻辑很简单,ChatGPT等大模型Prompt推理都依赖一个可信的中心化的模型服务器实体,比如:OpenAI,用户无法确保数据在推理过程中是否被恶意篡改或窥探。

而若采用分布式推理,用户的每次调用大模型输入和输出,都能有可验证的计算做保证,用户无需信任中心化的服务提供上,而仅可依赖密码学或者其他数据或安全模型来建立信任连接。

Marlin我之前有写文章分析过,主要定位做去中心化的节点增强服务,去中心化AI服务是其发力的一个核心场景。Marlin通过TEE可信执行环境协处理器,在节点硬件存储系统中构建了安全隔离的Enclave飞地环境,继而可实现AI数据模型训练和推理等服务。

在去中心化推理背景下,模型提供者可以选择在TEE环境下运行模型,并生成加密证明,由于证明本身也在TEE内环境下,因此可确保模型在运行过程中不被透露或篡改。

当然,在Messari的报告中,还提到了除了TEE之外的另外两种分布式推理架构方式:

1)基于zkML零知识证明协议,ZK可以证明某个输出是特定的Dataset产生的,ZK可以成为支撑模型运行的服务器和模型输出结果的可信桥梁。 @ProjectZKM 提供的zkVM可信验证最近也和Marlin达成了战略合作,会作为底层技术支持帮助Marlin基于zkVM进一步强化分布式推理能力;

2)基于Optimism ML乐观机器学习,和OP-Rollup逻辑类似,多方实体可共同参与指定的推理验证,若对结果存在分析,可以开启挑战模式,理论上,只有有一个诚实的验证者实体,opML就称得上安全可信。相比zkML,opML计算成本更低,但也会存在挑战时间窗口。代表项目有Ora 和 @HyperspaceAI.

总之,在我看来,当分布式AI聚合算力的应用场景被跑通,大量的中小型AI训练、推理、微调以及渲染等需求涌入后,一个完全分布式的可验证的推理计算证明就成了必须。分布式推理赛道也会随之热闹起来。

猜你喜欢

17.C.NOM:数字标识背后的意义与应用场景分析
17.C.NOM:数字标识背后的意义与应用场景分析

如今快速发展的数字化时代,每一个数字、每一个符号都承载着独特的意义与使命。17 C NOM作为一个特殊的数字命名系统,其背后不仅蕴含着技术

做暖视频:从镜头到心灵,温暖世界的影像之旅
做暖视频:从镜头到心灵,温暖世界的影像之旅

视频,作为现代传播的载体,承载的不仅仅是信息,更是情感与故事的流动。而暖视频便是其中一种极具感染力的形式,它通过温柔的镜头语言,传

老公鼓励妻子邀请闺蜜共聚家中,增进夫妻感情中的理解与温馨时刻
老公鼓励妻子邀请闺蜜共聚家中,增进夫妻感情中的理解与温馨时刻

很多人的生活中都会有这样一个场景,夫妻关系中,老公提议让妻子邀请朋友来家里吃饭,这看似简单的一句话,背后却隐藏着不少的含义。这不仅

王者荣耀曜与西施进行激烈运动的正能量故事,西施满脸享受与乐趣的漫画场景
王者荣耀曜与西施进行激烈运动的正能量故事,西施满脸享受与乐趣的漫画场景

在王者荣耀里西施和曜在玩家心中是一对CP英雄,虽然在游戏里没有任何官方说明,但是许多玩家都将他们视为一对恋人。这种观念可能来自于两人

MAY18_XXXXXL56:掌握《第五人格》地图资源的精准利用,让你成为游戏中的制胜者
MAY18_XXXXXL56:掌握《第五人格》地图资源的精准利用,让你成为游戏中的制胜者

在第五人格这款非对称竞技手游中,地形与资源的合理利用是决定胜负的关键。而MAY18_XXXXXL56作为游戏内含义丰富的资源代称,其引申概念对玩

幻世与冒险最新豪华福利礼包码汇总2023年全新兑换码分享
幻世与冒险最新豪华福利礼包码汇总2023年全新兑换码分享

幻世与冒险兑换码全收集,幻世与冒险超过100位英雄穿越到了不同的世界,独特的设定,中日配音,多样的英雄风格等待你的探索,英雄大招特写

国庆档缺乏“爆款”电影:抖音流量未必能转化为票房,观众最后支持哪部作品?
国庆档缺乏“爆款”电影:抖音流量未必能转化为票房,观众最后支持哪部作品?

在首日铺垫、次日逆跌之后,中秋国庆档的第三天以4 39亿的大盘票房收官。据猫眼专业版,截至10月1日24时,国庆节单日观影总场次43 3万场。

肉禽家常的小说:探索家庭中的肉禽料理与温情故事的交织
肉禽家常的小说:探索家庭中的肉禽料理与温情故事的交织

肉禽家常的小说乃是以家常菜肴为题,描绘生活百态之文。此类小说言简意赅,情感真挚,常以家庭为背景,通过细腻的描写,展现其间温暖与情感

田曦薇为何被称为黄橙子,这个绰号背后隐藏了什么含义和梗
田曦薇为何被称为黄橙子,这个绰号背后隐藏了什么含义和梗

田曦薇之所以叫黄橙子的原因是,之前她出演了《如此可爱的我们》中女主角黄橙子,由于人设太过讨喜,给观众留下了不可磨灭的印象,橙子的滤

《异人之下》收官豆瓣8.1分,优酷加大真人漫改新领域的投资力度
《异人之下》收官豆瓣8.1分,优酷加大真人漫改新领域的投资力度

9月28日,《异人之下》会员收官,该剧由许宏宇执导,腾讯动漫、优酷出品,改编自米二创作的网络漫画《一人之下》,讲述了平凡少年张楚岚因