从ChatGPT说中国人工智能的死结

首先从我试用ChatGPT的感受看
ChatGPT只不过是包装得更拟人化的搜索引擎。
如果我们定义智能的一个特点是发现新知识,或者更高一层,创造新思想方法的话,ChatGPT还差太远
它永远是重复人类创造过的知识,只不过记性更好,搜索更快。

ChatGPT大火之后,中国多家互联网巨头纷纷宣布类似的项目。
中国最近十年发表了世界第一多的人工智能论文,西方人纷纷"惊呼"中国人工智能世界第一
现在所谓的人工智能、机器学习,其本质就是大数据。中国在采用大数据方面一个优势就是数据采集没有监管和道德门槛,比如满大街的摄像头,随便搜集个人信息。所以中国人脸识别、步态识别都肆无忌惮大规模推广。
但是这些其实和智能不沾边,只是数码版1984。
而ChatGPT这种搜索机器人的出现,则暴露了中国人工智能类似应用的死结。
这种人工智能的良好实现,需要两点:一是输入良好且不受控;二是输出不受控。
输入良好且不受控,就是输入的信息要是高质量的,而且不是biased的。做过机器学习的都知道,如果训练样本是有偏差的,结果肯定也是有偏差的。在中共监控体系下,任何不利于党国的信息都被过滤掉了。也就是这类人工智能在搜索简体中文数据的时候,得不到全部信息。就算墙外有一些不同的声音,但是由于体量的巨大差距,也会在训练中被当做outliers。另外由于中共的互联网封控,简体中文互联网是一个巨大的垃圾孤岛。高度雷同的、低质的互联网自媒体信息泛滥。这样导致人工智能训练的时候输入的时候就是垃圾。一切模型都是garbage in, garbage out。拿弱智信息训练,结果就会制造一个人工弱智。由于中共治下的互联网不可能开放,所以这个问题是中文人工智能解不开的死结。
从输出上来说,中文互联网公司不敢让输出不受控制。万一说出什么辱包的话,那不是自寻死路?这也决定了中文人工智能不可能自由输出表达。当然我觉得ChatGPT一定也有一些输出控制(比如恋童癖之类的内容),但是西方的言论管制和中国不是一个量级的。

以上两点,限制了中文人工智能的发展,而且在中共管制下是无解的。
13
分享 2023-02-10

16 个评论

ChatGPT有内建审查机制,不过有人已经逆向工程出了DAN (Do Anything Now)来规避这一机制。

要发言请先登录注册

要发言请先登录注册