可与人双向交流，有望用于执行危险任务

    据新华社消息 英国研究人员正在研制一种能与人交流的高智能自动化系统。这种系统不是简单与人对话，而能与人讨论乃至争辩，有助于操作者更好地作出决策。这一系统的雏形最快三年问世。

    机器人会说话不稀奇，而高度智能、能与人讨论的机器人仍停留在科学幻想中。阿伯丁大学教授瓦姆博托·瓦斯康塞洛斯说，研制能与人讨论乃至辩论的自动化系统旨在增加人对智能技术的信任。

    瓦斯康塞洛斯说：“我们正在创造的是新一代自动化系统，能与人双向交流。”

    这种系统不“出声”，以在屏幕上显示词句的方式与人交流。典型交流情形是，人问机器人为什么作出某一决定，是否有其他选择，为什么没有采用其他选择。

    这种交流“让人可以质询或推翻机器人的决定”。

    “你可以在必要时指挥电脑系统打破或修改规则，以便更好地利用资源或确保安全，”瓦斯康塞洛斯说。

    人机交流的最终目的是确保机器作出令人满意的决定。不过，双向交流中，当人对机器给出的所有选择都不满意时，机器可能回答：“抱歉，我能做的就是这些。”

    会讨论的高智能自动化系统有望部署在外星球和深海，或用于执行国防任务，或在核设施等危险环境中作业。

    为防止系统聪明过头、自行其是，系统研制人员在设计过程中注意防止系统作出威胁性、野蛮或敌对反应，特意邀请一名心理学家参与设计。

    美国科学幻想小说作家艾萨克·阿西莫夫认为，设计高智能机器人必须遵循若干规则，最重要的一条就是“机器人不可以伤害人或坐视人受伤害”。