2026世界互联网大会乌镇峰会期间，这座江南古镇迎来了一批特殊的“游客”——人形机器人不仅组团在展会现场亮相，还在景区广场进行表演。
当中国机器人技术和产业发展吸引全球目光时，多位嘉宾不再只是关心“机器人能做什么”上，还探讨了“机器人做错事后”的安全与责任问题。
加纳科网董事长、互联网名人堂入选者尼·奎诺表示，过去十年，AI大多数局限在屏幕之内，如今智能正在从只会回答问题的系统转向能够在多个真实场景执行的系统。
他讲述称，屏幕上一个失误放在现实世界当中可能造成人身伤害，物理世界的容错余地几乎为零。一台有故障的机器人可能导致工人受伤，一份有缺陷的软件更新可能会危及系统。互联互通的系统一旦出现问题就会影响基础的公共服务，乃至整个社区。
机器人能否在危险发生时安全停下，同样是一个问题。
TÜV南德大中华区商业产品部卓越中心资深经理朱海锋介绍称，一般机械会装置急停按钮，但人形机器人急停下可能会发生摔倒。“要冲过去按这个按钮，实际上是加大了风险，现在很多人形机器人上并没有这个按钮。”
他还提到人机交互中的情感问题，机器人可能会对人进行负面引导、造成伤害。
尼·奎诺认为，目前现行法律和安全机制并不足以应对AI以及机器人发展带来的新型风险，有必要为具身智能与自主系统建立专门的风险管理框架，在机器人部署之前必须要评估潜在的风险、受害对象以及该如何防范这些风险。
安全事故发生后，界定机器人的责任也并不容易。
“传统的产品可能就是一套控制系统，比较容易进行验证。”朱海锋表示，机器人涉及复杂的硬件和AI系统，不同的厂家以及开发者参与其中。一旦发生问题，比较难摸清楚中间的缺陷具体情况。
尼·奎诺认为，这种情况下人类的监督不能流于形式，必须具有一些实质效力，需要在开发者、制造商、部署方、运输方、运维服务商以及软件供应商之间划定清晰责任。“责任不能在复杂供应链中模糊消散，也不能简单地推给距离机器最近的人。”
他强调称，评判进步的标准不能只看机器人在演示当中表现有多智能，真正的标尺是运行是否稳定、行为是否安全、责任划分是否清晰，以及收益分配是否公平。
阿拉伯信息通信技术组织秘书长穆罕默德·本·阿莫也将“信任与安全”列为具身智能规模化部署的重要挑战。随着机器人之间的连接和协作增加，统一的技术标准及评估方法将更加重要。具身智能的成功不仅依赖于技术上的突破，同时依赖于人类是否有能力将这些创新转化为可拓展的解决方案，给整个行业和社会带来价值。
举报 第一财经广告合作，请点击这里此内容为第一财经原创，著作权归第一财经所有。未经第一财经书面授权，不得以任何方式加以使用，包括转载、摘编、复制或建立镜像。第一财经保留追究侵权者法律责任的权利。如需获得授权请联系第一财经版权部：banquan@yicai.com 文章作者
胡淑娟
原创精选 相关阅读
京东定调具身智能战略，3-5年实现商业场景规模化部署机器人大规模走进家庭场景还需要更长的时间。
6717 11-04 18:15
沿沪宁协同创新转入“强运营”，下一步重点已敲定跨域联动、供需对接、成果转化、产融协同成为下一步合作重点。
7 6686 11-01 11:51
给机器人算“绩效”：智元Worken计费待验证，规模应用仍是门槛智元已经为多个场景下的机器人计算“Worken”，还特地为这个新概念申请商标。
6593 10-30 17:35
科技周报｜iPhone Duo黄牛加价空间缩水；明星也难追责AI“盗脸”带货具身智能融资降温：投资人不“上头”了。
9 7647 10-25 12:12
宇树不止卖机器人本体：拥抱AI、加速布局生态“宇创计划”长期战略投入未来五年预估合作协同规模数十亿元，计划孵化优质生态企业200多家。
9 22279 10-23 19:29 一财最热 点击关闭美林配资提示：文章来自网络，不代表本站观点。
