“强人工智能”伦理困境：假如有天你爱上AI怎么办？

8月25日至27日，由太和智库发起主办，每日经济新闻战略合作的首届太和文明论坛在北京举行。在人工智能分论坛的讨论中，多位专家、学者和从业人员均认为，随着人工智能（AI）的快速发展，基于人工智能的万物互联时代正在到来，包括无人驾驶、智能家居、自动诊疗、智慧城市等。人工智能的应用似乎呈现一片欣欣向荣的景象。

然而，人工智能势不可挡的发展趋势，也给人们带来了一连串隐忧，人工智能未来会无所不能？人工智能是否会挑战人类伦理，冲击社会制度，威胁人类生存甚至取代人类？人类到底该何去何从？针对上述疑问，《每日经济新闻》记者从上述与会人士的发言中总结出一些精彩片段，并采访了部分业内人士，为读者打开AI的一扇窗。

在科幻影片里面，人工智能机器人不止一次地实现了自我意识觉醒。以AI为主题的美剧《西部世界》中，男主角虽然知道心爱之人是机器人，依然义无反顾的爱上了它，而机器人也找寻到了在这个世界唯一的真实的东西自由意识。

在关于人工智能的一系列忧虑中，伦理问题是最主要的一个。在首届太和文明论坛举行期间，多位行业人士表示，KUKA机器人电路板维修，从目前技术来看，人工智能尚未面临失控的局面，人工智能所呈现出来的感情是虚假的。科学家还没有研究清晰人类自我意识为何物，KUKA机器人示教器维修，实现机器人真正的自我意识很遥远也很渺茫。

带来新的情感和隐私问题

新技术的出现一次次实现人类能力的外延，但是历史上从未有某一技术直接和人类大脑进行竞争。

科学家把强人工智能定义为出现真正有自主意识、且可确证其主体资格的智能，而不是AlphaGo这样仅仅比机械计算发展了更多层次的推理能力和学习能力的程序。与强人工智能所对应的，是遵循人类计算机算法的弱人工智能。

在微软亚太研发集团副总裁商容看来，人工智能需要有理性，也需要有感性，涉及感性就会涉及到伦理和隐私等问题。而联想创投董事总经理王光熙则认为，未来人工智能或许具备情感，这就牵扯到未来人类智慧和机器智能之间的界限在哪，或者是界限会被抹去。

当人工智能具备了情感，就会与人类出现恋人、亲人等关系，这将拷问现代伦理规范。信帧机器人创始人贺江涛认为，在实际工作当中，曾遇到人类对机器人产生感情的事件。公司旗下的一款娱乐机器人，其视频在网络上有亿次多的点击量，视频中这个机器人的头部被拍打了一下，一位母亲在看直播后就愤怒了，她说这是我女儿公司做的机器人，你怎么能打他呢？这时候贺江涛发现，人类对这台机器人产生了感情，与这台机器人有了某些联系。

除了情感，人工智能还涉及到隐私安全问题。之前发生过美国两夫妻吵架，而家中智能音响在察觉环境信息之后，做了自动报警处理事件。这其中，智能音响一直在窃听夫妻的对话，以做出合适的应对，很显然其反馈结果并非这对夫妻所愿。

拥有自我意识还很遥远

在今年6月份，一份论文透露了这样一项实验：Facebook的研究人员希望通过训练一对聊天机器人，让它带着目的和人类对话。研究人员发现，人工智能甚至能够对不想要的东西伪装出兴趣。虽然后来Facebook进行了澄清，这也不得不启发我们去思考人工智能会不会有失控的那一天？

微软亚洲研究院副院长潘天佑在接受《每日经济新闻》记者专访时表示，当前人工智能的发展不见得失控，失控听起来很恐怖。作为一名计算机科技工作者，经常向人解释真实的科学和科幻电影的差距还非常大。

很多时候，我们觉得人工智能的某些应用呈现出好像有感情、好像有情商，其实这个仍然是虚拟的。比如语音聊天，它从互联网上面学习很多人类的聊天方式，它回答的某一句话，可能让人觉得有感情。但这个感情，还是通过机器学习而实现的，还没有自我意识的发生。潘天佑说道，我们自己还没有探讨清楚人类的意识是什么？怎么去设计出一个东西有感情呢？

根据专家的观点，无论当前人工智能系统如何模仿人脑神经网络，对话、行动等方面如何像人，只要人类心智现象的最终解释没有取得突破性进展，关于人工智能是否逼近人类的设问就缺少必要的前提。

从发展程度上来说，目前我们发展的还是弱人工智能，强人工智能技术是否能实现尚未可知。潘天佑对《每日经济新闻》记者表示，未来的事情没有人真的知道，从现在的状态来看，人工智能的感情还仅仅是虚拟的，不用担心人工智能可以做到像人类一样拥有自我意识、个人感情。

《互联网进化论》作者、计算机博士刘锋对《每日经济新闻》记者表示，如果人工智能被看作与人类同等地位的智慧生命体，它与人类社会的关系存在伦理道德问题。如果人工智能本质上与菜刀一样属于工具，库卡机器人何服电机维修，那么工具本身并不存在伦理问题。

但有一点不可否认，人工智能已经悄然影响着人类的思维方式。正如太和智库副理事长兼秘书长伊迪所说，人工智能在某一个领域或者是某种程度上来说已经超越了人类大脑，可以做到人所不能的事情，对人类的思维方式产生影响。比如，人类思考问题的方式主要为因果关系，未来人工智能包括大数据的发展更强调相关性。