进入2024,人工智能(AI)的热潮持续升温,面对日新月异的人工智能技术,我们不禁要问:这些聪明的算法,会给安全自动化领域带来变革吗?
答案毋庸置疑,人工智能正在改变世界……但是,AI的安全性该如何保证呢?
AI与机械安全的结合
AI是基于数学的编程代码,旨在模仿人类的行为以及自动化决策的过程。20世纪60年代奠定了AI技术的基础,但直到今天,随着硬件的进步、新的概念的涌现以及新算法的开发,AI才真正迎来了发展的春天。
对于那些传统算法和技术无法解决的问题,AI技术的发展为我们提供了克服这些问题的可能性,为新的商业领域、商业模式、产品和服务开辟了空间。但想要将人工智能技术与机械安全技术相结合,必须要面对的一个挑战便是AI的“black box”的特性,我们无法预测或理解复杂的AI系统是如何做出决策的,而这一点恰恰是功能安全的关键。
AI在机械安全中的应用要求
人工智能技术在机械安全中的应用要求主要涉及三个关键方面,即安全性、透明度和可靠性,在实施AI机械安全时,必须充分考虑和实现。
- 安全性(Safety & Security)
安全性是指AI系统在执行其功能时,不会对人员、财产或环境造成损害的能力。在机械安全领域,意味着AI系统必须能够在预期的操作条件下正常工作,同时在出现异常或故障时采取适当的安全措施,因此AI系统的设计和实施必须遵循严格的安全标准,如ISO 26262(道路车辆功能安全)或IEC 61508(电气/电子/可编程电子系统的功能安全)等。
- 透明度(Transparency)
透明度是指AI系统的决策过程能够被理解和解释,这有助于建立用户对AI系统的信任,并在出现问题时快速定位和解决问题。在机械安全领域,这意味着操作人员和安全工程师需要能够理解AI系统是如何做出特定决策的,以便在必要时进行干预或改进。
- 可靠性(Reliability)
可靠性是指AI系统能够在长时间内持续稳定地执行其预定任务的能力。在机械安全领域,AI系统的可靠性至关重要,因为它直接关系到系统的安全性能。为了提高AI系统的可靠性,技术人员会使用各种算法和方法来量化系统的不确定性,确保AI系统能够在其决策中识别出无效输入,并作出适当的响应。此外,可以通过采用适当的系统架构和设计概念,提高AI系统的可靠性。
立法与标准的跟进
欧盟AI法案(EU AI Act)为AI系统的发展、部署和使用提供了统一规则,同时也关注个人安全和基本权利,目前普遍应用的算法都属于该法案的范畴,只是目前该法案尚处于起草阶段。
欧盟机械指令(EU Machinery Regulation)已经要求在功能安全中使用AI系统时必须进行符合性合规评估,所以安全相关的AI系统均被列为“高风险机械”。这对于像皮尔磁PILZ这样的制造商而言,哪怕是已经符合相关的协调标准,也必须由公告机构参与符合性合规评估。
ISO/IEC CD TR 5469“人工智能 — 功能安全和AI系统”,是一个正在制定中的国际标准,它专门针对AI系统在功能安全领域的应用,旨在为AI系统的设计、开发、集成和验证提供指导,确保这些系统在安全相关的应用中能够可靠地执行其功能。
作为安全自动化领域的佼佼者,皮尔磁PILZ正密切关注AI技术的发展,并在机械安全领域进行深入的研究。我们的使命是确保AI技术在保护人类和机械方面的应用是安全和可靠的。在这个AI的新时代,皮尔磁将和您一起,共同探索和实现更安全、更可靠和更高效的自动化未来。