你忘记预处理数据了问题描述大多数数据是很棘手的——通常我…

谈人工智能作恶:黑产超正规行业别“炼”出造反AI直面隐忧业界大咖谈人工智能作恶别“炼”出造反的AI来源:科技日报本报记者刘垠一场抢劫案后,格雷的妻子丧生,自己也全身瘫痪。他接受了一个天才科学家的“升级”改造治疗——在他身体里植入了人工智能程序STEM,获得了超强的能力,从一个“残废”直接升级成为职业杀手。

随着STEM的进化升级,步步紧逼格雷交出身体使用权和大脑意识控制权……本年度关于人工智能和人类未来的最佳影片,不少人认为非《升级》莫属。而人工智能和人类抗衡的探讨,是科幻电影中的永恒话题,从《银翼杀手》到《机械姬》,再到今年的低成本电影《升级》,都映射出未来人工智能对人类的威胁。黑产超正规行业恶意源于人类基因AI造反,是科幻电影里太常见的桥段。问题在于,现实当中真正的AI好像也在一步步向我们走来。

不少人抱有忧虑和不安,人工智能会“作恶”吗?倾向于AI威胁论的人并不在少数。马斯克曾在推特上表示:“我们要非常小心人工智能,它可能比核武器更危险。”史蒂芬·霍金也说:“人工智能可能是一个‘真正的危险’。机器人可能会找到改进自己的办法,而这些改进并不总是会造福人类。

”“任何技术都是一把双刃剑,都有可能用于作恶,为什么人工智能作恶会引起这么大的反响?”在近日召开的2018中国计算机大会的分论坛上,哈尔滨工业大学长聘教授邬向前抛出了问题,人工智能研究的底线到底在哪里?早在1942年,阿西莫夫就提出了机器人三定律。但问题在于,这些科幻书中美好的定律,执行时会遇到很大的问题。“一台计算机里跑什么样的程序,取决于这个程序是谁写的。”360集团技术总裁、首席安全官谭晓生说,机器人的定律可靠与否,首先是由人定义的,然后由机器去存储、执行。

值得注意的是,“不作恶”已成科技行业的一个技术原则。那么,机器人作恶,恶意到底从何而来?如今人工智能发展的如火如荼,最早拥抱AI的却是黑产群体,包括用AI的方法来突破验证码,去黑一些账户。谭晓生笑言:“2016年中国黑产的收入已超过一千亿,整个黑产比我们挣的钱还要多,它怎么会没有动机呢?”“AI作恶的实质,是人类在作恶。”北京大学法学院教授张平认为,AI不过是一个工具,如果有人拿着AI去作恶,那就应该制裁AI背后的人,比如AI的研发人员、控制者、拥有者或是使用者。

当AI在出现损害人类、损害公共利益和市场规则的“恶”表现时,法律就要出来规制了。目前,无人驾驶和机器人手术时引发的事故,以及大数据分析时的泛滥和失控时有耳闻。那么,人工智能会进化到人类不可控吗?届时AI作恶,人类还能招架的住吗?任务驱动型AI还犯不了“反人类罪”值得关注的是,霍金在其最后的著作中向人类发出警告,“人工智能的短期影响取决于谁来控制它,长期影响则取决于它能否被控制。”言下之意,人工智能真正的风险不是恶意,而是能力。

“人工智能未来的发展会威胁到人类的生存,这不是杞人忧天,确实会有很大的风险,虽说不是一定会发生,但是有很大的概率会发生。”在谭晓生看来,人类不会被灭亡,不管人工智能如何进化,总会有漏洞,黑客们恰恰会在极端的情况下找到一种方法把这个系统完全摧毁。对此,上海交通大学电子系特别研究员倪冰冰持乐观态度。