《能任意杀戮人类的人工智能，更可能实现英国政府期望的“良善”》hardiron (27) in hardiron • 7 years ago 《能任意杀戮人类的人工智能，更可能实现英国政府期望的“良善”》 英国政府担心人工智能会危害人类，所以出台了 官方AI发展原则，第一条就是： “AI 应该为了人类良善和人类福祉而开发……” 这纯属胡说八道 “良善”，是道德标准 道德，是一个受不同时间、地域、种族和文化剧烈影响的变量 非洲部落，认为对女性进行残忍的割礼是善意的、合乎道德的 伊朗民间，认为当街用石头砸死有未婚性行为的女性是保护遵守道德的善良人的 朝鲜官方，认为印假钞、贩毒和从别人网络钱包里偷钱是“为善良的朝鲜人民谋福利”，合乎道德的 这世界几乎不可能对“道德”达成全球共识 一群人誓死捍卫的善良与正义，可能是另一群人眼中的卑鄙与邪恶 那些自爆恐怖分子的死前自拍，几乎个个“大义凛然、慷慨激昂、视死如归，愿为崇高伟大的理想和信念而英勇牺牲……” 既然无法让人工智能“正义、善良和有道德”，如果出现能任意杀戮人类的人工智能例如： 10岁孩子都能使用的“杀戮型人工智能”，一点鼠标即可杀害诺贝尔奖得主 一无所有的乞丐，按个键就能消灭最强大国家的三军总司令 变态狂魔花20元租赁“杀戮型人工智能”就可导致一名超级网红女主播死亡 世界会大乱，人类会灭绝吗？ 大概率不会 这里有个关键性前提：平等 技术面前，人人平等 无论富贵贫贱，任何人，都能用技术一键杀害任何地位的人 你可能会问，怎么可能平等？国家的科技力量哪是个人所能匹敌的？ 当然能 这世界上有大量划时代的技术，都不是国家发明的 工业电力，奸商发明的 机关枪，医生发明的 工业蒸汽机，画家发明的 何况，这世界是变化的 技术与技术之间并非孤立，它们会发生我们难以预见的联系 “技术们”会象人一样谈恋爱和生孩子 比如轮子遇到蒸汽机，生出了“汽车”这个孩子。 电灯泡遇到照相机，则生出了“电影”。 “技术”们还会玩3P，甚至聚众……那个啥 有杀人的人工智能，也会有 “杀人工智能” 的人工智能 就象有病毒，就会出现杀毒软件 更何况，还有区块链 区块链这种技术目前展示在人类面前的核心特征是3个： “不可篡改”、“去中心化”和“公开” 翻译成人话就是：无法撒谎、人人可见，删除不了。 例如变态狂魔用“杀戮型人工智能”杀害了一名美丽女主播，这个“杀人”的行为是能被记录进区块链的 “无法撒谎、人人可见，删除不了” 美女主播的粉丝们一查，哦，是你这个变态狂，我们要干掉你 这个变态狂就被粉丝的人工智能给灭了，无法继续作恶。 实际上，在变态狂动了杀人念头的时候，全世界就能提前知道 因为有物联网，等 变态狂家的电脑知道他每天搜索了多少次美女主播 屏幕知道他盯着看了多久 烟灰缸知道他盯着女主播时抽了多少烟 椅子知道他的心跳在加快 鼠标知道他有多少次用颤抖的手着把指针移向“击杀”键却没有按下 物联网技术，能将你的一举一动传到网上，记录进区块链 “无法撒谎、人人可见，删除不了” “侦测型人工智能”轻易就能从大数据分析中发现有作案企图的人 在物联网时代出生的孩子会习惯彻底没有隐私的生活 虽然这在我们现在的人类看来是匪夷所思和绝对无法接受的 比如：我们在嘿咻时全世界都能看见，几点开始、几点结束，一天几次…… “无法撒谎、人人可见，删除不了” 没法扫黄了，天天都很黄 最后，干掉变态狂的那个粉丝，TA的行凶行为也会被记录，同样人人可见 不过因为干掉的是作恶的变态狂，属于行侠仗义，并不会对普通人构成明显威胁，自然也就没什么人会去想着要杀TA。 胆敢作恶者，可能都难逃一死 剩下的，自然都是不愿，或至少是不敢作恶的人 所以 在人人都可以平等、任意、公开地杀害他人的世界里，不但不会乱 而且很美好 hardiron