挑战
以人形机器人为代表的具身智能方兴未艾。具身智能体所具有的具身性、交互性及涌现性特征展现了其强大的互动和行动能力,给隐私与数据保护带来前所未有的新挑战。具身智能体若侵入私密空间,就可以记录私密活动并潜移默化收集处理私密信息;具身智能所具备的自主决策和自主行动的结合能造成实害,侵害用户的人身财产权益。
既有的隐私和数据保护规则围绕信息控制而展开,具身智能体数据的生成和涌现加上造成实际损害的能力不仅会导致个人信息控制机制的失灵,还可能会使追究责任变得不切实际。
综合来看,人形机器人为代表的具身智能信息安全面临的挑战主要包括隐私风险、操纵性风险和“信任控制”风险。
- 隐私风险
人形机器人为代表的具身智能体具有强大的互动和行动能力,能够侵入私密空间、记录私密活动并处理私密信息。这种能力使得人形机器人可能收集和处理大量个人隐私数据,从而对用户的隐私构成威胁
- 操纵性风险
人形机器人为代表的身智能体具备自主决策和行动的能力,这可能导致其实害行为,侵害用户的人身财产权益。由于人形机器人能够自主决策和行动,一旦被恶意利用,可能会对用户造成实质性的损害
- “信任控制”风险
人形机器人为代表的具身智能体的智能决策和行动能力使其在缺乏有效监管的情况下,可能做出不可预测的行为,从而影响用户的信任。这种风险需要法律和技术的双重保障,以确保人形机器人的行为在可控范围内
- 法律治理和侵权责任问题
在人形机器人等具身智能体的应用中,现有的隐私和数据保护规则可能无法有效应对其带来的新挑战。因此,需要在人工智能立法中植入数据保护理念,强化监管者和设计者的责任,明确设计者的可责性,以确保人形机器人的应用符合法律法规要求。’
人形机器人及具身智能相关规范
- 《中华人民共和国网络安全法》,第二十一条规定了网络运营者的安全保护义务,包括制定内部安全管理制度、采取技术措施防范网络攻击等,这些义务同样适用于物联网的运营者。
- 《中华人民共和国国家安全法》第二十五条明确规定国家建设网络与信息安全保障体系,提升网络与信息安全保护能力,这包括物联网的安全保障。
- 2018年5月25日,欧洲联盟出台《通用数据保护条例》GDPR(General Data Protection Regulation),任何收集、传输、保留或处理涉及到欧盟所有成员国内的个人信息的机构组织均受该条例的约束。
- 从2025年8月1日起,欧盟CE RED指令的网络安全要求将强制执行。这些要求包括:
- 网络安全防护:设备需具备抗攻击能力,防止网络资源滥用或服务中断,如抵御DDoS攻击;采用符合SOG-IS标准的加密套件,密钥长度≥112位3。
- 隐私数据保护:敏感数据需加密存储,防止泄露;实施多层级访问认证,限制未授权操作3。
- 防欺诈与金融安全:支付安全机制需防范加密劫持、生物识别篡改等风险;固件需支持加密签名和防回滚设计,确保漏洞及时修复
- 欧盟《网络弹性法案》(CRA)已于2024年12月23日生效,
- 要求制造商对产品全生命周期进行强制性网络安全风险评估,并确保所有第三方组件(包括开源软件)的安全性
- 要求制造商对第三方组件的安全性承担最终责任。
- 违反CRA可能导致最高1500万欧元或全球营业额5%的罚款;若涉及误导性信息,罚款可达500万欧元。
芯片安全方案
从芯片安全架构的源头制定”from Silicon to Software“的闭环安全与合规机制
我们提供全面的高度集成和符合认证要求的DesignHaven™安全 IP 解决方案产品组合,旨在应对不断变化的网络威胁、时间和成本限制以及合规性。基于我们原创的CryptCompiler®密码编译器工具平台,生成高度可配置且可靠的安全IP包括具有信任根的硬件安全模块、CryptRoT® PUF、接口安全模块、密码算法以及AI/HPC、移动、汽车、物联网以及航空航天和政府市场的安全协议加速器。这些解决方案可确保机密性、数据完整性、身份验证和授权,从而提供保护,防止盗窃、篡改、侧信道攻击、恶意软件和数据泄露等威胁。
CryptHSM™提供包括RTL级的芯片底层硬件安全启动模块,符合国密芯片安全认证和国际CC等芯片安全的认证要求,帮助具身智能芯片研发项目从芯片架构开始、一站式高效适配从芯片到应用软件的闭环安全生态,大幅度降低芯片研发在信息安全/功能安全生态的开发投入、并有效加速芯片上市时间(TTM-Time to Market)。
CryptHPC™的内联内存加密(IME)安全模块通过内存接口为使用中或存储在片外内存中的数据提供机密性。IME 安全模块可扩展以匹配各种内存接口带宽,支持基于 AES-XTS等 加密算法的写入和读取通道。
CryptHPC™的完整性和数据加密 (IDE) 安全 IP 模块提供机密性、完整性和重放保护,防止硬件级攻击。IDE 为 PCIe 设备添加了可选功能,用于对通过 PCIe 链路传输的数据包执行硬件加密和完整性检查。
CryptAcc™高速协议IP包提供符合以太网要求的MACsec(Media Access Control Security)安全子系统,包括芯片底层RTL级IP、固件和软件方案;MACsec定义了基于IEEE802局域网络的数据安全通信方法,包括用户数据加密(Confidentiality)、数据帧完整性检查(Data integrity)、数据真实性校验(Data origin authenticity)和重放保护(Replay protection)。通过MACsec加密技术可保障数据在中间传输设备上安全传输。
CryptRoT®是基于物理不可克隆功能 (PUF) 技术的嵌入式系统安全 IP,通过利用每个硅芯片的固有独特性,提供了更高级别的硬件安全性;从 PUF 中提取的标识符无法克隆、猜测、窃取或共享,并且密钥不会保留在系统上,从而提供最高级别的保护。
应用安全方案
消除对AI代码生成器的隐式信任,这些生成器缺乏安全风险意识和软件许可证理解能力。我们的解决方案允许开发人员自由地使用 AI 编码助手运行,同时建立反映 AppSec 团队需求和标准的自动化安全网——所有这些都是 DevSecOps 闭环系统的一部分。在将 AI 编码助手提交到您的代码库之前,请确保其输出是安全的、高质量的,并且符合您的风险承受标准
Coverity和BlackDuck SCA在 IDE、SCM 存储库和 CI/CD 管道中提供强大的 SAST 和 SCA 功能,为开发人员提供明确的修复指导,并提供基于工作流触发器和策略的自动扫描和问题管理工作流。
AI 编码助手或您自己的开发人员可能会整合来自受版权保护的开源项目的较小代码部分。代码片段分析是保护项目的最佳方式,即使开发人员缺乏法律专业知识也是如此。
BlackDuck SCA管理开源和AI生成代码的IP风险,识别第三方代码片段和相关的许可义务,保护知识产权并使企业免受代价高昂的诉讼,来自 IDE、SCM 存储库或 CI/CD 管道的触发器分析。对于识别出的每个开源依赖项,Black Duck SCA 都会显示正在使用的确切许可证。这包括显式声明的许可证、子许可证和嵌入式许可证。