可解析AI可能消除企业网络工程师对AI/ML管理工具的不信任,这些工具有可能精简网络运维
IT应用组织人工智能机器学习技术网络管理发现AI/ML可能出错,但大多数组织相信AI驱动网络管理将改善网络操作
网络管理者必须想方设法相信这些AI解决方案,可解释AI工具可持有密钥
调查发现网络工程师持怀疑态度
企业管理联想调查250名IT专业人员使用AI/ML技术网络管理96%表示这些解决方案产生错误或错误洞见和建议近65%表示这些错误略微稀有,AI-Driven网络:升级网络管理总体说来,44%的受访者表示对AI驱动网络管理工具有强烈信任,另外42%略信这些工具
网络工程团队成员报告比其他集团-IT工具工程师、云工程师或CIO套件成员-更怀疑-建议拥有最深网络知识的人最不相信20%受访者表示网络团队文化阻抗与不信任是成功使用AI驱动网络的最大阻塞网络工程团队内应答者引用这项挑战的可能性为2倍(40%)。
高层次网络专家普遍错误和沉热接受后,各组织如何在这些解决方案中建立信任?
何谓可解释AI和它能帮助
可解析AI是一个学术概念,由越来越多的商业AI解决方案提供方所接受AI研究子节制强调开发工具说明AI/ML技术决策并发现洞察力研究者认为可解释AI工具为人类接受AI技术铺路它可以解决对道德和守法的关切
EMA研究验证了这个概念超过50%的研究参与者表示可解释AI工具对建立对AI/ML技术的信任非常重要,这些工具应用网络管理41%表示它有些重要
多数与会者指出三种可解释AI工具和技术最有助于建立信任:
- 可视化洞见度(72%):一些商家嵌入视觉元素引导人类走AI/ML算法开发洞见其中包括决策树、分支视觉元素显示技术如何使用网络数据并解释网络数据
- 自然语言解释(66%):这些解释可以是静态短语嵌入AI/ML工具输出中,也可以以聊天机或虚拟助手的形式提供对话接口技术知识水平不等的用户可以理解这些解释
- 概率分数(57%):一些AI/ML解决方案提供洞察力,而没有上下文说明它们对自身结论有多有信心概率评分取不同台阶,对视或推荐加评分说明系统对输出的自信度帮助用户判定是否对信息采取行动、取观望方法或完全忽略信息
响应者报告全局由AI驱动网络解决方案最成功更可能看到所有三种能力的价值
可能还有其他方法在AI驱动网络中建立信任,但解释性AI可能是最有效果和效率之一向AI/ML系统提供某种透明度,否则可能不透明。IT购买者在评价AI驱动网络时,应询问销售商如何帮助操作者用可解释AI开发信任这些系统
