监管机构警告人工智能可以在决策中创造黑匣子

研究表明，人工智能(AI)用于交易执行和投资组合管理等功能可能会产生问责制和决策问题。金融稳定委员会(FSB)最近发布的关于人工智能和机器学习技术使用的报告强调了这一问题，并将决策中潜在的漏洞描述为“黑匣子”。

“人工智能和机器学习的使用有可能在决策过程中造成”黑匣子“，这可能会造成复杂的问题，特别是在尾部事件中。

报告称，“特别是，金融机构的人类用户和监管机构可能难以掌握如何制定交易和投资等决策。”

此外，它表示人工智能使用的通信对于人类交易者和投资专业人员来说通常是不可理解的，可能会对监控造成进一步的挑战。

然后FSB询问，如果使用人工智能和基于机器学习的决策给金融机构造成损失，谁将负责。

“如果由第三方开发的特定人工智能和机器学习应用程序导致巨额损失，那么进行交易的机构是否应对损失负全部责任?或者监管机构或其他方能够针对应用程序开发人员提出潜在索赔吗?“

该报告警告称，该技术缺乏透明度可能会加剧监管机构破译未来发生“不良事件”的任务。