-官方认证诚信至上 | 工业机器人及工控系统领军企业-官方认证诚信至上 | 工业机器人及工控系统领军企业

NEWS

新闻资讯

终结机器人评测混战时代,RoboChallenge带来大规模真机测评基准


【导语】当前机器人行业“冰火两重天”:竞技赛事火热,核心技术却遇瓶颈,投资者困惑于企业真实实力,行业急需客观衡量机器人能力的标尺。在此背景下,由Dexmal原力灵机与Huggingface发起的全球首个大规模真机基准测试集RoboChallenge问世,它以大规模真机测试、远程评测模式、科学评分体系直面行业痛点,为具身智能行业提供开放、公正、可复现的评测标准,推动行业走向“跑分时代”。

wKgZPGjzI5aAVVGPAApV8_LANDM676.jpg

当前机器人行业呈现两极分化态势。一边是竞技赛事的火热,如2025年世界人形机器人运动会吸引了全球16个国家280支队伍参与,另一边却是现实核心技术仍然面临瓶颈,某企业人形机(jī)器(qì)人(rén)因(yīn)末(mò)端(duān)执(zhí)行(xíng)器(qì)精(jīng)度(dù)不(bù)足(zú),导(dǎo)致(zhì)工(gōng)业(yè)场(chǎng)景(jǐng)中(zhōng)的(de)精(jīng)密(mì)作(zuò)业(yè)效(xiào)率(lǜ)甚(shén)至(zhì)比(bǐ)不(bù)上(shàng)人(rén)工(gōng)。

这(zhè)种(zhǒng)理(lǐ)想(xiǎng)与(yǔ)现(xiàn)实(shí)的(de)落(luò)差(chà),在(zài)资(zī)本(běn)层(céng)面(miàn)表(biǎo)现(xiàn)得(de)更(gèng)为(wèi)明(míng)显(xiǎn)。今(jīn)年(nián)前(qián)七(qī)个(gè)月(yuè),具(jù)身(shēn)智能与机器人领域融资金额已突破240亿元,远超去年全年总和。面对层出不穷的机器人公司和产品,投资者却陷入困(kùn)惑(huò):如(rú)何(hé)判断哪些(xiē)企(qǐ)业(yè)真(zhēn)正(zhèng)掌(zhǎng)握(wò)核(hé)心(xīn)技(jì)术(shù)?哪(nǎ)些(xiē)产(chǎn)品(pǐn)具(jù)备(bèi)长(zhǎng)期(qī)落(luò)地(de)的(de)潜(qián)力(lì)?

行(xíng)业(yè)缺(quē)乏(fá)的(de),正(zhèng)是(shì)一(yī)个(gè)能(néng)够(gòu)客(kè)观(guān)衡(héng)量(liàng)机(jī)器(qì)人(rén)能(néng)力(lì)的(de)标(biāo)尺(chǐ)。

对(duì)此(cǐ),由(yóu)Dexmal原(yuán)力灵机联合Huggingface共同发起的全球首(shǒu)个(gè)大(dà)规(guī)模(mó)真(zhēn)机(jī)基(jī)准(zhǔn)测(cè)试(shì)集RoboChallenge,为(wèi)具(jù)身(shēn)智(zhì)能(néng)真(zhēn)机(jī)评(píng)测(cè)提(tí)供(gōng)了(le)有(yǒu)效(xiào)标(biāo)准(zhǔn)。

wKgZO2jzI5eAG47dAAH2OLl-F18404.jpg

那么,为什么具身智能行业急需一个统一测评标准?RoboChallenge真机基准测试平台又从哪些层面攻克了行业难点呢?

wKgZPGjzI5iAKxilAAI6nwtiglE586.jpg

算法和模型的世界里,基准测试早已是推动进步的发动机。计算机视觉有ImageNet,自然语言处理有GLUE,每一项突破都以公开、可复现的排行榜为标尺,激发了无数创新。而机器人领域长期没有类似的标准体系。

对机器人能力的评估始终在两个极端摇摆。

一端是那些刷屏社交网络的机器人项目。无论是后空翻的人形机器人,还是展会现场表演泡咖啡,炫技式的展示虽然极易出圈,吸引大众眼球,但更偏向于娱乐和营销,无法反映机器人在通用、非结构化环境中的真实能力。

另一端是实验室测试。在科研领域,研究人员会在仿真环境或高度结构化的物理环境中测试机器人的某项特定能力,例如物体抓取成功率、路径规划效率等。但这些演示无法代表现实世界的复杂与不确定,也无法让投资者、同行或市场知道,它们之间到底差多少、强在哪。

缺乏基准的后果,是整个行业信息失真。

投资角度,评估难。投资者缺乏有效的技术评估工具,往往只能依赖于光鲜的(de)演(yǎn)示(shì)视(shì)频(pín)和(hé)创始团队的背景来做判断,这可能导致擅长演示的团队可能比技术扎实的团队更容易获得融资。

市场角度,劣币驱逐良币。当演示效果重于实际效用时,企业的资源分配就会自然倾斜。本应用于核心技术突破的研(yán)发(fā)精(jīng)力(lì),被(bèi)迫(pò)分流到能够快速制造传播热点的炫技功能上。

而没有公认的基准,技术就无法在同一维度上进行比较和衡量,也就难以形成清晰的技术演进路线图。开发者们各自为战,重复造轮子。某个团队已经解决的经典问题,可能在另一个团队那里仍是拦路虎;某个领域的突破性进展,往往难以被准确识别并快速扩散到整个行业,整个行业的创新效率大打折扣。

投资者、消费市场、技术发展都呼唤着一个更加强有力的真机测量标准来提供统一基座,推动具身智能行业良性发展。

wKgZPGjzI5mAfHNNAAImoZfM990124.jpg

行业急需一套更全面、科学的具身智能真机测试标准。然而,要在真实环境中对机器人进行公平、可复现的评测,难度远超想象。

当前行业内的测试体系普遍面临着三大痛点:测试场景碎片化,各机构使用的环境、任务千差万别;评估标准不统一,导致结果缺乏可比性;评测方法不够系统,难以全面反映机器人的真实能力水平。这些问题使得不同算法、不同硬件平台的机器人表现如同使用不同尺子测量的身高:数据再多,也难以进行有意义的横向比较。

正是在这样的行业背景下,由Dexmal原力灵机团队和HuggingFace推出的RoboChallenge直面挑战,提出了全球首个大规模具身智能真机测评平台,旨在通过科学评估体系为具身智能产业构建一个开放、公正、可复现的真实考场。

RoboChallenge的第一个(gè)颠覆性创新,是规模化、稳定地解决了公平性难题。

过去,机器人领域的基准测试长期处于割裂状态:学术界的实验多局限于单一模型或固定环境,缺乏跨平台可比性,而企业的内部测试又往往自成体系,难以形成行业共识。

RoboChallenge则以大规模真机测试为核心,通过统一任务标准、统一评估指标和跨模型对照机制,实现了真正的公平测评。

为精准评估VLA算法核心能力,RoboChallenge首期采用配备夹爪的机械臂作为标准化平台,其传感方案同步输出多视角RGB与对齐深度信息。系统集成了UR5、Franka Panda、COBOT Magic Aloha和ARX-5四类主流机型,支持7×24小时不间断运行。通过这种方式,在完全相同的初始条件和任务下,不同算法的实力得以被客观地量化与呈现。RoboChallenge首次在真实物理环境中,实现了对多种主流机器人平台的多任务、跨模型测试。

RoboChallenge的另一大创新,是推出了远程机器人评测模式。

通过自研的远程推理系统,研究者即使不拥有实体机器人,也能在平台上完成算法部署、任务执行与结果验证。

平台采用无容器化设计,用户通过标准化API可直接调用;RGB图像等观测数据均带有毫秒级时间戳,便于多模型融合与复杂时间对齐;系统通过HTTP API实现异步处理,并提供实时队列反馈。同时,智能作业调度模块可实时查看任务状态,支持模型多任务并行,大幅提升测试效率与系统稳定性。

这种“在线真机评测”在保证高精度与可复现性的同时,大幅降低了科研与创新门槛。对学术界,它提供了开放、免费的实验资源;对产业界,它搭建了公平、高效的验证平台。全球研究者得以在统一环境、标准化流程下参与测试,真正实现“没有机器人,一样做实验”。

wKgZO2jzI5mAIP6sAAHe8q1zHyg344.jpg

除了公平的测试基准与远程评测模式,一套科学、精细的评分体系同样是衡量机器人能力的核心。

当前行业内的真机评测往往只包含3到5项任务,难以系统、全面地评估算法的综合表现与泛化能力。而作为RoboChallenge推出的首套测试集,Table30以“科学分类学”为设计理念,从VLA、机器人类型、任务场景环境和目标物体属性等维度构建了30个覆盖多维度操作场景的(de)桌(zhuō)面(miàn)级(jí)任(rèn)务(wu)。

评(píng)分(fēn)机(jī)制(zhì)上(shàng),Table30突(tū)破(pò)传(chuán)统(tǒng)二(èr)值(zhí)化(huà)评(píng)估(gū)局(jú)限(xiàn),引(yǐn)入(rù)更(gèng)符(fú)合(hé)实(shí)际(jì)应(yīng)用(yòng)需(xū)求(qiú)的(de)进(jìn)度(dù)评(píng)分(fēn)系(xì)统(tǒng):对(duì)复(fù)杂(zá)任(rèn)务认可分步进展,对简单任务优化完成效率。分拣、倒液体、开瓶盖、叠放物体……这些看似简单的任务,实则高度还原了人类日常生活中的细微操作需求。优秀的模型不应只在某些任务上表现出色,更应在整个任务矩阵中展现出稳健、全面的能力。通过这种精细化、系统化的设计,Table30 能够清晰测出不同模型之间的代际差距,将算法差异量化、可视化,为技术演进提供了可靠的衡量依据。

官方学术论文《RoboChallenge: Real-robot based Large Scale Evaluation of Embodied Policies》则进一步证明了Table30基准测试是有效且具有区分度的。研究显示,在系列真实测试中,Pi05 模型在成功率和得分上均显著领先,而多任务模型版本(/multi)普遍表现不如单任务版本。研究揭示,当前不同VLA(视觉-语言-动作)模型之间存在显著的性能差距,一个多指标、公平(píng)且(qiě)大(dà)规(guī)模(mó)的(de)具(jù)身(shēn)智(zhì)能(néng)真(zhēn)机(jī)评(píng)测(cè)平(píng)台(tái)是(shì)有(yǒu)意(yì)义(yì)的(de)。

wKgZPGjzI5qAIvLyAAJWg-oC1YY547.jpg

值(zhí)得(de)注(zhù)意(yì)的(de)是(shì),访(fǎng)问(wèn)RoboChallenge官(guān)网(wǎng),每(měi)个用户都能看到RoboChallenge的评测任务列表。每个任务都包含任务名称、状态、提交次数、提交者、提交时间和得分等信息。用户可以通过点击任务名称查看任务详情,包括任务描述、评测指标、提交记录和模型表现等。此外,页面还提供了筛选和排序功能,方便用户查找感兴趣的任务和评测结果。

wKgZO2jzI5qAZe-yAAFw5PN1tMs209.jpg

可以说,RoboChallenge并非一场短暂的赛事,而是一项长期构建的行业基础工程。它致力于建立一套可持续演进的任务体系,持续吸纳(nà)来(lái)自(zì)社(shè)区(qū)和(hé)产(chǎn)业(yè)界(jiè)的(de)新(xīn)挑(tiāo)战(zhàn)场(chǎng)景(jǐng);它(tā)要(yào)形(xíng)成(chéng)一(yī)个(gè)公(gōng)开(kāi)、可(kě)信(xìn)的(de)排(pái)行(xíng)榜(bǎng),使(shǐ)所(suǒ)有(yǒu)参(cān)与(yǔ)者(zhě)都(dōu)能(néng)从(cóng)中(zhōng)看到(dào)自(zì)己(jǐ)在(zài)真(zhēn)实(shí)世(shì)界(jiè)的(de)坐(zuò)标(biāo);它(tā)要(yào)积(jī)累(lèi)起(qǐ)标(biāo)准(zhǔn)化(huà)的(de)评(píng)测(cè)数(shù)据(jù),为(wèi)投(tóu)资(zī)、科(kē)研(yán)、产(chǎn)品(pǐn)化(huà)提(tí)供(gōng)决(jué)策(cè)依(yī)据(jù)。

而(ér)它(tā)的意义,远不止于建立一套测试标准,更在于打造一把源自中国的标尺,为整个具身智能行业的长远发展,注入持续而深刻的动力。

wKgZPGjzI5uAUusbAAJRwXKnqEE187.jpg

每(měi)一(yī)项(xiàng)技(jì)术(shù)的(de)成(chéng)熟(shú),都(dōu)需(xū)要(yào)一(yī)把(bǎ)被(bèi)全行(xíng)业(yè)认可的公共标尺。
从ImageNet到COCO,从GLUE到MMLU,这些基准不仅塑造了(le)技术发展的格局,也定义了产业迭代的节奏。

如今,RoboChallenge的问世让具身智能也有了这样的量尺:一个扎根现实、开放共建、可度量的真实舞台。

更重要的是,这是一个向所有人开放的舞台。

据悉,RoboChallenge坚持全面开放原则。平台不仅向全球研究者免费提供测试服务,还公开所有任务的演示数据与测试中间结果,真正实现了可复现、可验证的透明度。这意味着,无论是顶尖实验室还是初创团队,都能在统一标准下对比成果、复现实验、优化算法。

这种开放性,将打破机器人研发长期以来的高门槛与孤岛化局面,促进行业共识的形成,加速学术成果与产业能力的双向转化。但它的意义远不止于服务学术论文的发表和B端产业链,更在于真正推动测评技术走向C端,实现广泛落地。

如果你是研究人员,可以不再受限于仿真环境与实体硬件,在真实机器人上验证你的想法;如果你是创业者,可以基于客观数据展示你产品的真实能力,让技术说话;技术爱好者甚至在校学生,也获得了接触前沿、亲手参与的机会,人人都可以亲手为机器人“跑个分”。

wKgZO2jzI5uANQJIAAKKNB2AnRM121.jpg

目前,RoboChallenge已正式登陆Hugging Face平台,面向全球开放其真机评测任务与数据集。平台已发布三十个真实世界任务数据集,涵盖擦桌、浇花、开关电器、堆叠积木、分类物品等多种(zhǒng)具(jù)身(shēn)操(cāo)作(zuò)场景,全面展示了机器人在现实环境下的感知与行动能力。所有任务数据均支持公开访问与复现实验,体现了RoboChallenge对“可(kě)比(bǐ)性(xìng)、可复现、可共建”的坚持。

wKgZPGjzI5yAYl_WAALgeLF1uiA052.jpg

正因如此,RoboChallenge不仅是一个评测平台,它正逐渐成为机器人世界的公共基础设施。

它让机器人不再停留于看起来聪明,而是必须在真实世界中“确实聪明”;让投资判断不再凭故事,而是扎实的数据;让研究不再各自为政,而能在同一套规则中进化。

在未来几年里,RoboChallenge也许会像当年的ImageNet一样,成为推动一(yī)个(gè)时(shí)代(dài)加(jiā)速(sù)的(de)引(yǐn)擎(qíng)。它(tā)不(bù)是(shì)一(yī)场(chǎng)比(bǐ)赛(sài),而(ér)是(shì)一(yī)面(miàn)镜(jìng)子(zi),让(ràng)整(zhěng)个(gè)行(xíng)业照见自己的真实能力。

而机器人世界的跑分时代,也终于要开始了。

wKgZO2jzI5yAeQqcAAINCBclRgk681.jpg