“眼见为实”？这一人们辨别真伪的通用法则，可能因为人工智能的到来而失效。例如，充斥在互联网上的人类“水军”未来可能要被人工智能取代了。芝加哥大学计算机科学教授赵燕斌团队发现，人工智能可以被用来生成复杂的点评信息。这些虚假的点评不仅机器无法检测出来，就连人类也分辨不出来。
科技与人性博弈的“黑镜”正在向人类扑面而来，人工智能可能是最锋利的双刃剑。在上周末，俄罗斯总统普京在一场演讲中罕见地评论人工智能。他说，“谁主导人工智能领域，谁就将成为世界的统治者”。“钢铁侠”埃隆·马斯克于9月4日也再次发声称，各国都在竭力争取人工智能竞争的优势，才是最有可能导致第三次世界大战的原因。
据千讯咨询了解到，近期一则“人工智能已经学会自动编写虚假点评”的消息广为流传。“我喜欢这个地方。我跟我哥一起去的，我们点了素食意大利面，很好吃。啤酒不错，服务也很棒。推荐这个地方，是个吃早餐的好去处。地儿小但是买卖大”。这个如假包换由人工智能操刀的点评，足以骗倒很多读者。
消息源于赵燕斌等发表的一篇题为《在线点评系统中的自动众包攻击和防御》的论文。在研究中，赵燕斌团队发现，人工智能可以被用来生成复杂的点评信息。这些虚假的点评不仅机器无法检测出来，就连人类读者也分辨不出来。这篇论文今年晚些时候会在计算机安全顶级会议——ACMCCS（美国计算机协会计算机与通信安全会议）上展示。
他的实验室一直在从事和网络安全相关的课题。最新的研究历时一年左右，是过去研究的延伸。人工智能的技术很先进，好处也显而易见，但是我们的目的是提前预测出人工智能对于社会潜在的威胁，因此当这些威胁真正来临的时候，人们不会猝不及防。千讯咨询发布的《中国人工智能市场发展研究及投资前景报告》显示，在获得了美国的“大众点评网”Yelp的公开用户评论数据后，团队就开始做实验。具体而言，是从亚马逊上雇了600位用户，让他们对真人和人工智能编写的点评进行辨别。
虽然他们无从得知是否已经有一些公司试图大规模利用人工智能的编程软件撰写虚假评论，但是这无疑会成为不法分子未来的一个“必要选项”，因为人工智能相比人类水军的优势非常明显。人类“水军”发送虚假评论的时间控制不了，因为“水军”一见了工作都上去抢，所以很容易在被攻击的网页上发现异常，而人工智能发送消息的时间是可以控制的。其次，雇佣人类“水军”撰写评论的成本在增长，而人工智能可以反复频繁地被使用。
相关研究报告：
人工智能项目可行性研究报告
中国人工智能行业发展趋势分析预测报告
中国人工智能行业发展研究报告