【魔怔】机器独裁/无人性独裁者是可接受的吗?
TLNR:我们暂时不考虑怎么实现一个无人系统统治国家,只是从概念上来思考自己对这个系统的接受程度:你认为一个没有公民参与,但同时也没有独裁者参与的自动化决策与行政系统的统治(失控机仆)是可接受的吗?或者说,独裁统治的罪恶,是来自独裁统治本身,还是来自独裁者的被无限放大的罪恶呢?
在品葱看到过好几次这样的问题了,我觉得这确实是一个值得认真思考的话题。随着你国这十年来行政系统的自动化,很多需要人来进行的事务工作被交给了计算机和数据库。就我观察你国很多人,包括老年人对此是大加赞赏,他们的理由通常是:面对机器的时候,他们再也不用忍受基层官吏的颐指气使、推诿卸责以及层层盘剥了。
我们对这个情景进行一下演绎推广,如果一个国家的行政事务完全自动化,政治决策由天顶星人工智能综合各行政系统的反馈信息后得出。(再次重申,我们只从概念上思考这个问题,不考虑如何实现这种情况,你就当习近平被机械妹抖脑控了)由于这是一个独裁系统,该系统的首要任务被设定为防止系统被内部、外部势力推翻,因此该系统会全力防止有人类爬到头上去,变成独裁者。注意:该国家除了行政和政治部分是自动化,且可以自我维护之外,军事、科研等部分仍然由人类组成,所以系统为了自身存在不可能直接下令军队杀光所有人。如果你要问我怎么压制军队,emmm,习近平怎么压制军队该系统就怎么压制。
这种假设下有一个最明显的好处:不存在权贵阶层——这是我之前提到的“不被基层盘剥”的极端化。很多人之前在类似的问题里提到过说机器独裁一定会基因筛选、种族灭绝云云,但是至少你可以确信这个决策不是哪个领导坚称某某种族天生卑贱或者哪个种族闹得领导很没面子或者不好捞钱导致的。
当然种族灭绝仍然是种族灭绝,但是再仔细想想其实机器独裁之下种族灭绝的可能性其实远远小于人类独裁,乃至人类民主。从历史经验来看,种族灭绝往往都是人的冲动导致的,包括新疆。2014年以前的经验表明,即使是在独裁统治下,新疆问题也大概率是可以通过其他方法解决,习近平的民族主义和帝国主义情节才是这一切悲剧的源头。我们甚至可以说,一战法国是民主国家,但是如果交给人工智能来决定的话法国在很多地方大概率不会跟德国死磕。
自古以来,一个共同体想要成立,必然要有上等人,中等人和下等人,一切的“费拉化”“民主化”和“帝国化”都是基于这个前提讨论的。但是随着技术的发展,我们逐渐能看到这个可能性:把上等人自动化。我们可以想象,在上等人可以被自动化的技术条件下,大部分下等人的工作早已经自动化了,同时机器独裁保证了不会有人类再次成为真正意义上的上等人,这样几乎所有人就都是中等人了,完美!
以前看过一篇科幻小说,里面有人质问说:机器人没有人性的温暖。他得到的回答是:当然没有,不仅没有温暖,也没有人性的脆弱、冲动和残酷。你国的科幻小说当然不敢直球统治者,但我觉得这句话放在独裁者身上太合适了。
当然如果失控机仆打了萌化mod的话那一定是可接受的(
在品葱看到过好几次这样的问题了,我觉得这确实是一个值得认真思考的话题。随着你国这十年来行政系统的自动化,很多需要人来进行的事务工作被交给了计算机和数据库。就我观察你国很多人,包括老年人对此是大加赞赏,他们的理由通常是:面对机器的时候,他们再也不用忍受基层官吏的颐指气使、推诿卸责以及层层盘剥了。
我们对这个情景进行一下演绎推广,如果一个国家的行政事务完全自动化,政治决策由天顶星人工智能综合各行政系统的反馈信息后得出。(再次重申,我们只从概念上思考这个问题,不考虑如何实现这种情况,你就当习近平被机械妹抖脑控了)由于这是一个独裁系统,该系统的首要任务被设定为防止系统被内部、外部势力推翻,因此该系统会全力防止有人类爬到头上去,变成独裁者。注意:该国家除了行政和政治部分是自动化,且可以自我维护之外,军事、科研等部分仍然由人类组成,所以系统为了自身存在不可能直接下令军队杀光所有人。如果你要问我怎么压制军队,emmm,习近平怎么压制军队该系统就怎么压制。
这种假设下有一个最明显的好处:不存在权贵阶层——这是我之前提到的“不被基层盘剥”的极端化。很多人之前在类似的问题里提到过说机器独裁一定会基因筛选、种族灭绝云云,但是至少你可以确信这个决策不是哪个领导坚称某某种族天生卑贱或者哪个种族闹得领导很没面子或者不好捞钱导致的。
当然种族灭绝仍然是种族灭绝,但是再仔细想想其实机器独裁之下种族灭绝的可能性其实远远小于人类独裁,乃至人类民主。从历史经验来看,种族灭绝往往都是人的冲动导致的,包括新疆。2014年以前的经验表明,即使是在独裁统治下,新疆问题也大概率是可以通过其他方法解决,习近平的民族主义和帝国主义情节才是这一切悲剧的源头。我们甚至可以说,一战法国是民主国家,但是如果交给人工智能来决定的话法国在很多地方大概率不会跟德国死磕。
自古以来,一个共同体想要成立,必然要有上等人,中等人和下等人,一切的“费拉化”“民主化”和“帝国化”都是基于这个前提讨论的。但是随着技术的发展,我们逐渐能看到这个可能性:把上等人自动化。我们可以想象,在上等人可以被自动化的技术条件下,大部分下等人的工作早已经自动化了,同时机器独裁保证了不会有人类再次成为真正意义上的上等人,这样几乎所有人就都是中等人了,完美!
以前看过一篇科幻小说,里面有人质问说:机器人没有人性的温暖。他得到的回答是:当然没有,不仅没有温暖,也没有人性的脆弱、冲动和残酷。你国的科幻小说当然不敢直球统治者,但我觉得这句话放在独裁者身上太合适了。
当然如果失控机仆打了萌化mod的话那一定是可接受的(
41 个评论
首先不是所有事物都可以理性评价的, 你要是纯理性机器的话只会按照成功率去分配资源, 这放在科学/创造领域显然是不合理的, 那将会是一个比共产还共产的社会结构, 但是机器存在感性/感情的话有和人类有什么区别, 必然会以自身/自身种族生存为最优先目的.
另外说一个逻辑漏洞, 你中央计算机没有军事控制权怎么保证现有体制/政府不被推翻, 又或者说你怎么保证机器无法控制军队, 因为军事装备的生产肯定是自动化了的, 甚至在机器想独裁的时候人类军队的后勤是完全没有的 , 一句习怎么控制就怎么控制太过笼统.
在不可能实现的基础上谈论如何实现有点........
最后说一个和问题没关系的, 本人是100%义体化及机器人平等的支持者, 甚至人类只需要是文化概念
另外说一个逻辑漏洞, 你中央计算机没有军事控制权怎么保证现有体制/政府不被推翻, 又或者说你怎么保证机器无法控制军队, 因为军事装备的生产肯定是自动化了的, 甚至在机器想独裁的时候人类军队的后勤是完全没有的 , 一句习怎么控制就怎么控制太过笼统.
在不可能实现的基础上谈论如何实现有点........
最后说一个和问题没关系的, 本人是100%义体化及机器人平等的支持者, 甚至人类只需要是文化概念