一项新的人工智能培训计划可以帮助机器人摆脱他们的无知

檀香山- 一项新的培训计划可以提醒人工智能计划，他们并不知道所有人。

运行机器人，自动驾驶汽车和其他自动机器的人工智能程序通常在模拟环境中进行实际首次亮相之前(SN：12/8/18，第14页)。但是人工智能在虚拟现实中没有遇到的情况可能会成为现实决策中的盲点。例如，在没有紧急车辆的虚拟城市景观中训练的交付机器人可能不知道如果它听到警报器，它应该在进入人行横道之前暂停。

麻省理工学院的计算机科学家Ramya Ramakrishnan及其同事开发了一个模拟后培训计划，其中人类示范者帮助人工智能识别其教育中的差距，从而创造出谨慎对待的机器。“这使[AI]能够安全地在现实世界中行动，”Ramakrishnan说，他的工作将于1月31日在AAAI人工智能会议上发表。工程师还可以使用AI盲点信息来设计未来更好的模拟。

在试用期间，人工智能会注意到影响人类行为的环境因素，而这些因素并未从模拟中识别出来。当人类做了人工智能没有想到的事情 - 就像在路权时犹豫进入人行横道一样 - 人工智能会扫描周围环境以寻找以前未知的元素，例如警报器。如果AI检测到这些功能中的任何一个，它会假定人类正在遵循它在虚拟世界中没有学到的一些安全协议，并且在这些类型的情况下它应该遵循人类的判断。

Ramakrishnan及其同事通过首先在简单模拟中训练AI程序，然后让他们在更现实但仍然是虚拟的世界中从人类角色中学习盲点来测试这种设置。研究人员现在需要在现实世界中测试该系统。