人们在申请工作或向健康保险提供者请愿时可能会有类似的经历。虽然人工智能工具每天都决定着处于困境中的人们的命运，但UpolEhsan表示，应该更多地考虑挑战这些决定或解决这些决定。

佐治亚理工学院可解释人工智能(XAI)研究员Ehsan表示，许多拒绝案例并不是申请人的错。相反，它更有可能是设计过程中的“接缝”——设计师认为人工智能可以做的事情与现实中发生的事情之间的不匹配。

Ehsan表示，“无缝设计”是人工智能设计师的标准做法。虽然我们的目标是创建一个流程，使用户能够不受干扰或障碍地获得所需的内容，但无缝设计却有一种相反的做法。

再多的思考或设计输入也无法阻止人工智能工具犯错误。当错误发生时，受错误影响的人想知道错误发生的原因。

因为无缝设计通常包括黑盒——​​隐藏人工智能推理的行为——所以永远不会提供答案。

但如果有一种方法可以挑战人工智能的决策并将其错误转化为最终用户的利益呢?Ehsan相信这可以通过“无缝设计”来实现。

在发布到arXiv预印本服务器的最新论文《Seamful可解释人工智能：在XAI中操作Seamful设计》中，Ehsan提出了一种预测人工智能危害、了解其推理并利用错误而不是隐藏错误的战略方法。

给用户更多选择

在他的研究中，Ehsan与使用自动贷款支持系统的信贷员合作。他发现这些工具流程中的接缝或缺陷影响了申请人和贷方。

“我们的期望是贷款系统对每个人都适用，”埃桑说。“现实情况并非如此。一旦你弄清楚了期望与现实之间的差异，你就找到了接缝。然后我们会问，‘我们如何向最终用户展示这一点，以便他们能够利用它?’”

为了在人工智能对用户产生负面影响时为用户提供选择，Ehsan建议设计师考虑三件事：

挪用：识别这些接缝是否可以帮助用户以不同于所提供的设计的方式适应和挪用人工智能的输出，但可以帮助用户做出正确的决定?

Ehsan举了一个例子：某人尽管拥有良好的信用记录，但仍被拒绝贷款。拒绝可能是由于筛选应用程序的人工智能中存在缺陷，例如有缺陷的判别算法。

在这种情况下，需要部署后流程来减轻损害并为受影响的最终用户提供支持。例如，应该允许贷款申请人根据算法的已知问题对人工智能的决定提出质疑。

反对谷物

Ehsan表示，他的无缝设计理念超出了主流。然而，他对当前公认原则的挑战正在获得关注。

他现在正在与采用他的流程的网络安全、医疗保健和销售公司合作。

这些公司可能会开创人工智能设计的新思维方式。Ehsan认为，这种新的思维方式可以让设计人员转变为主动的思维方式，而不是陷入进行损害控制的被动状态。

“你想要保持领先一点，这样当事情发生时你就不会总是措手不及，”埃桑说。“您越积极主动，在设计过程中采取的步骤越多，您的系统就会越安全、越负责任。”

Ehsan与佐治亚理工学院、马里兰大学和微软的研究人员合作。他们将于今年晚些时候在哥斯达黎加举行的2024年计算机协会计算机支持的协作工作和社会计算会议(CSCW2024)上发表论文。

“无缝设计拥抱了我们世界的不完美现实，并充分利用了它，”他说。“如果它成为主流，它可以帮助我们解决人工智能目前面临的炒作周期问题。我们不需要过度炒作人工智能的能力或强加无法实现的目标。这将改变人们对系统的信任。”