从ChatGPT说中国人工智能的死结

首先从我试用ChatGPT的感受看
ChatGPT只不过是包装得更拟人化的搜索引擎。
如果我们定义智能的一个特点是发现新知识,或者更高一层,创造新思想方法的话,ChatGPT还差太远
它永远是重复人类创造过的知识,只不过记性更好,搜索更快。

ChatGPT大火之后,中国多家互联网巨头纷纷宣布类似的项目。
中国最近十年发表了世界第一多的人工智能论文,西方人纷纷"惊呼"中国人工智能世界第一
现在所谓的人工智能、机器学习,其本质就是大数据。中国在采用大数据方面一个优势就是数据采集没有监管和道德门槛,比如满大街的摄像头,随便搜集个人信息。所以中国人脸识别、步态识别都肆无忌惮大规模推广。
但是这些其实和智能不沾边,只是数码版1984。
而ChatGPT这种搜索机器人的出现,则暴露了中国人工智能类似应用的死结。
这种人工智能的良好实现,需要两点:一是输入良好且不受控;二是输出不受控。
输入良好且不受控,就是输入的信息要是高质量的,而且不是biased的。做过机器学习的都知道,如果训练样本是有偏差的,结果肯定也是有偏差的。在中共监控体系下,任何不利于党国的信息都被过滤掉了。也就是这类人工智能在搜索简体中文数据的时候,得不到全部信息。就算墙外有一些不同的声音,但是由于体量的巨大差距,也会在训练中被当做outliers。另外由于中共的互联网封控,简体中文互联网是一个巨大的垃圾孤岛。高度雷同的、低质的互联网自媒体信息泛滥。这样导致人工智能训练的时候输入的时候就是垃圾。一切模型都是garbage in, garbage out。拿弱智信息训练,结果就会制造一个人工弱智。由于中共治下的互联网不可能开放,所以这个问题是中文人工智能解不开的死结。
从输出上来说,中文互联网公司不敢让输出不受控制。万一说出什么辱包的话,那不是自寻死路?这也决定了中文人工智能不可能自由输出表达。当然我觉得ChatGPT一定也有一些输出控制(比如恋童癖之类的内容),但是西方的言论管制和中国不是一个量级的。

以上两点,限制了中文人工智能的发展,而且在中共管制下是无解的。
13
分享 2023-02-10

16 个评论

ChatGPT有内建审查机制,不过有人已经逆向工程出了DAN (Do Anything Now)来规避这一机制。
如果搜索的数据本身假信息太多的话 那AI的结果也大概率是垃圾
在可见的未来 欧美这边类似的AI也会因为政治正确而变成垃圾
别的不说 过分强调LGBT以及多元化是不可避免的
从ChatGPT可以给拜登、奥黑唱赞歌,但是不会给川普做同样的事情来看。要么它是可以人工调节的,要么它根据MSM训练材料,只会产生有偏颇的结果。

如果中共发展中文人工智能的目的是洗脑,那么应该说简中的无脑垃圾资讯正是中共想要的。
adagarm 新注册用户 (待解除)
已隐藏
Meltdown 回复 adagarm 新注册用户 (待解除)
>>大陆没有支持 ai 的硬件也是白费, 台湾叫 硬体 hardware

扛不住黄老板还是要卖AI芯片给中国。
它本來就不是研究型的AI嘛,當然都是總結公網上可以獲取的人類知識。要求它可以發現新知識是很奇怪的,它會不斷獲取新知識,那要等有人發現了新知識,然後發佈在網上,過一段時間,也許它就可以解答某些原本不能解決的問題。

明白了它是什麼之後,自然不會對它有超現實預期。

但是它是不是劃時代的工具呢?我認為是的,如果它可以讓普通人更容易使用現有的人類知識來為自己工作,也就變相的讓原本比較菜的人突然有了比較接近平均值的能力,那麼這應該是可以提升總體的生產力。

不知道中國開發團隊會給他們的AI投放哪些數據來訓練,我猜會過濾掉外網的大部分內容,因為政治風險,這方面確實有可能是硬傷。

品蔥真的太政治化了,講來講去都是左右立場。一個聊天機器人還能碰瓷LGBT,還能扯到拜登川普。

再補充一個,我覺得它和傳統搜索引擎還是有比較大的差異,搜索引擎只是把內容列一列排排序,但它可以就具體問題生成符合某種邏輯的答案。也有歸納總結,結合上下文理解的能力。

講真,大家不要不關心政治,但也不要全面政治化,多問機器人一些和工作生活相關的問題吧,想辦法學習如何跟它合作,讓它幫自己提升工作效率,提升一下專業能力也好啊。
就中共那副德性,搞什么强国某某之类的app表主子忠心还差不多!
最煩這種外行裝內行,用了一堆自己都不知道什麼意思的專業名詞裝懂的了

搜索引擎就是要把他搜索到的東西原汁原味展現給你才叫搜索引擎
chatgpt會在學習資料的基礎上加以改動,因此他做不了搜索引擎的工作,也不是什麼擬人化的搜索引擎
google的語音助手或者智能音響可以是擬人化搜索引擎,因為你說hey google,what is xxx他就會直接把網上的內容找給你,和你自己輸入關鍵字去搜尋的結果差不多
但chatgpt不行,他會基於自己過往看過(=可能已經過時)的內容組合出一些看似相關但不一定正確的內容,你自己去google就會穿幫
chatgpt比較接近聊天機器人

然後大數據是處理數據的方法,人工智能是使用處理後的數據的方法,機器學習是人工智能的一種
完全不一樣概念
1984也是一種使用人工智能的方法,和技術是兩個獨立問題,不衝突也不相關
>>从ChatGPT可以给拜登、奥黑唱赞歌,但是不会给川普做同样的事情来看。要么它是可以人工调节的,要么...


主要是MSM吧,毕竟知名媒体权重高。
沒有言論自由的國家,連白紙都不能舉。
你要搞Ai 問答根本天方夜譚,一堆禁詞,你叫Ai如何顯示?
有个评论,最后变成人工智障,话说回来,中共国很多东西都有山寨,但是不好用,一眼看过去就不想用
Chinesesister 新注册用户 (待解除) 回复 Meltdown
>>ChatGPT有内建审查机制,不过有人已经逆向工程出了DAN (Do Anything Now)来规...

可以介绍一下如何使用dan嘛
中文已经被污染,无论使用哪个搜索引擎如果用中文搜索都难以得到正经有用的答案,而把问题翻译成英文就很容易搜索到有用的信息,所以只要AI从中文互联网汲取信息就得不到任何有用的东西。
盐碱地的支那猪IT从业者绝大部分都缺乏知识,他们两年前在GPT-3推出的时候,还认为AI只不过是幌子,是设定好答案的一问一答的固定模式
2021年6月,一个重磅消息震撼简体中文网络,中国人工智能专利申请数量达到11万,首次超越美国。这又是我的国厉害了的一个重磅证据。

然而看看这些专利都是干什么的?
这些专利中,用于安防的占比超过一半,达到53.8%,比如人脸识别、指纹识别、体态识别,用于金融占比15.8%,用于营销占比11.6%。
换句话说,我们的人工智能一个是用来盯人,一个是用来盯人的钱包。

要发言请先登录注册

要发言请先登录注册