历史上第一次工业革命是随着蒸汽和水动力技术的引入而开始的。自那时以来，我们已经取得了长足的进步，当前的第四次工业革命，即工业4.0，专注于利用新技术提高工业效率。

其中一些技术包括物联网（IoT）、云计算、网络物理系统和人工智能（AI）。人工智能是工业4.0的关键驱动力，它使智能机器自动进行自我监控、解释、诊断和分析。人工智能方法，如机器学习（ML）、深度学习（DL）、自然语言处理（NLP）和计算机视觉（CV），帮助行业预测其维护需求并减少停机时间。

然而，为了确保基于人工智能的系统的顺利、稳定部署和集成，这些系统的行动和结果必须让专家能够理解，换句话说，“解释”。在这方面，可解释人工智能（XAI）专注于开发算法，产生基于人工智能系统的人类可理解结果。因此，XAI部署在工业4.0中非常有用。

最近，包括韩国仁川国立大学助理教授Gwanggil Jeon在内的一组研究人员调查了现有的人工智能和XAI技术及其在工业4.0中的应用。他们的评论发表在《IEEE工业信息学学报》上。

“尽管像DL这样的人工智能技术由于其卓越的性能和分辨率可以解决许多社会问题，但很难解释如何以及为什么会获得如此好的性能。因此，有必要开发XAI，以便像当前的黑盒一样，能够更有效地建模DL。这也将更容易实现应用程序，”教授说。Jeon解释了研究背后的动机。

基于XAI的方法根据特定的人工智能任务进行分类，如特征解释、决策或模型可视化。作者指出，尖端人工智能和基于XAI的方法与工业4.0技术的结合导致了各种成功、准确和高质量的应用。一个这样的应用是使用可视化和ML制作的XAI模型，该模型解释了客户购买或不购买非人寿保险的决定。在XAI的帮助下，人类可以识别、理解、解释和交流人工智能模型如何得出结论和采取行动。

在工业4.0中使用人工智能显然有许多显著的优势；然而，它也有许多障碍。最重要的是基于人工智能系统的耗电特性，对大量内核和GPU的需求呈指数级增长，以及对微调和超参数优化的需求。其核心是从数百万来源、设备和用户收集和生成的数据，从而引入影响AI性能的偏差。这可以使用XAI方法来解释引入的偏差。

“人工智能是工业转型的主要组成部分，它使智能机器能够自主执行任务，而XAI开发了一套机制，可以产生人类可以理解的解释，”Jeon教授总结道。