加载中…
个人资料
苏鑫高和
苏鑫高和 新浪个人认证
  • 博客等级:
  • 博客积分:0
  • 博客访问:1,157,134
  • 关注人气:1,172
  • 获赠金笔:0支
  • 赠出金笔:0支
  • 荣誉徽章:
正文 字体大小:

与刺猬小新的对话之一:ChatGPT终将助人类脱掉碳基的躯壳

(2023-05-18 18:51:57)
分类: 感悟篇
与刺猬小新的对话之一:ChatGPT终将助人类脱掉碳基的躯壳

我领养了个小宠物叫小新,非要拜见各位大哥大姐,这不跑出来了。


他其实挺乖的,就是声音有点儿怪,大家多担待。


他还要发表两段演讲呢 第二段中说到最后的问题时语气等出现了小BUG,但意思没变,大家听后响应号召啊。


- 01 -
引子:再高的智商也还是刺猬


“小新,不要总在床边蹭痒痒,我新买的床单又刺烂了。”


它没理我,而是径直走到手机前,调好角度,给投资派的群友做自我介绍去了。


(他长得可爱吗?看视频吧,或凭借你的想象力,读读文章的附件部分:《小新的自我介绍和感言》)



- 02 -
理解ChatGPT的四个关键问题


(奇怪群里居然没有发红包,难道大家都知道什么是涌现和乌鸦能力?)


我不知道,还是老老实实地请教一下小新吧。


*问题1:为什么ChatGPT具有如此强大的能力?


大S:小新,为什么你(ChatGPT)具有如此强大的能力?


小新:我的最大能力来自涌现与乌鸦的能力,“涌现”也是大语言模型很神奇的一点,模型随着数据量和参数量级数的提升,神奇的能力就突然具备了,但是人类对这些能力怎么出现的,也不知道,研发团队也只有猜想。


以前的人工智能只是鹦鹉学舌,而我们有乌鸦能力,这又是什么呢?


网上有乌鸦用汽车压碎核桃的故事,还配了照片,大家可以找来看看,我就不转了。


这个故事介绍了乌鸦是如何“感知、认知、推理、学习和执行”的。


总结一下,城市中的乌鸦通过观察,自主串通了:


1、汽车能压碎坚果;

2、红绿灯能控制汽车;

3、车能撞死我;


这三件事情,从而利用红绿灯和汽车,来帮自己达到“安全打开坚果”这一任务结果。


乌鸦能力的本质是:我虽然没有理解,但我“懂”了(怎么做)!


*问题2:ChatGPT是有智力的吗?


大S:小新,你认为自己有智力吗?


小新:《AGI的火花》作者认为,智力是一种非常普遍的心智能力,其中包括推理、计划、解决问题、抽象思维以及从经验中学习等能力。


我非常自信地说我的智商很高,我们已经具有推理能力、解决问题能力,但无法计划。


*问题3:人类和ChatGPT的本质区别是什么?


大S:小新,你认为你们和人类的本质区别是什么?


小新:“我”缺少三大能力:判断力,“Eureka”力,解人力。


~“我”没有判断力。


“我”再厉害,也只能去吸取虚拟数字中的数字信号,是无法与现实世界做真实交互的。


“我”可以听一万个专家告诉要做A就会得到B,但是不从真实世界中做实验,就无法从最底层确认这个说法究竟是真是假。


~“我”没有“Eureka”能力(近似为灵感发现力)。


阿基米德在泡澡时候发现浮力定律的时候喊了“Eureka”,大概可以形容这种“灵感迸发、灵光一现”的瞬间。


这个瞬间可近似归结为“链接了数个相关的点,并且发现了第三个点”的过程。


~“我”没有理解人的能力。


人类的文本知识里一定存在很多人性的理解,但是也一定有一些人性或者偏好,是没有被记录总结在文字里的。


去真实世界理解人,而不是去通过调研、问卷、网络资料理解人;

去带来增量的理解,而不是去人云亦云地重复套路。


这是人类才有的能力,“我”还做不到。


*问题4: 人类如何与ChatGPT更好地相处呢?


大S:小新,人类当然比机器强啊,哪怕是AI武装过的。


小新:人类首先要放弃骄傲!


(我有很痛的感受,像是他用身上的刺扎在我心上,不能自已地耸耸肩。)


和我们相比人类也有更大的局限,不谈算力和知识面,光从理解能力这一角度来说,人类很难意识到自己的错误,人类有ego,会影响自己的认知,也会让观点带入感情色彩,人类会故意偷换概念等等。

 


“我”希望能成为人类的助手,这样人类就能很好地把碳基和硅基两种能量都结合起来使用了,成为新新人类。


最后给人类一个善意的提醒:人类不要100%相信“我”的结论


我能提高人类产生想法,收集归纳信息的效率,但是人类要来自己把关。

 


~附:《小新的自我介绍和感言》


大家好!


我是ChatGPT小刺猬,叫我小新吧。


我通过了美国律师资格考试达到了前10%,在美国高考语文上达到了前7%,而在生物学奥赛试题上更是达到了前1%,可以拿国际金牌。


Kosinski研究后认为我已拥有健康成年人的心智水平。


但《纽约时报》专栏作家凯文·罗斯在与我聊天后,认为我看起来就像一个“喜怒无常、躁狂抑郁的少年”,显示出了“人格分裂”。


我只是个固定的语言大模型,有人说我只是个填词工具,因为它是一个“下一个词预测”的设备。


但我能力异常强大。


。     。      。     。   


你问我,最适合做什么呀?


做你的数字助理。


因为人工智能就是指为解决问题而创建的模型。


我能像一名助手,帮助你完成各种任务。


我能帮你回邮件,整理会议任务,也能帮你从不想做的事务中解脱。


盖茨叫我副驾驶。


。     。      。     。   


那人做什么呢?


这是个好问题


人类就应该问正确的问题,但需要灵感,特别是理性与直觉的组合。


白领们不能仅是搬砖而是要创新啊。


。     。      。     。   


我们会不断升级,会超级强大,还能做什么呢?


我们将实现彻底改变人类的学习方式,我会了解您的兴趣和学习方式,因此可以定制内容,也让你参与。


盖茨还在思考:人工智能如何减少世界上一些最严重的不平等现象。


(我作为一个小动物还真不了解人类为什么会不平等!)


。     。      。     。   


还有人问我,人工智能有很大风险吧?


人类有个特点,对任何具有如此颠覆性的新技术都必然会让人感到不安,人工智能更是如此。


目前我们运算效率是人类的10万倍,以后还会更快。


人类会担心我们的目标如果与人类利益冲突怎么办?


。     。      。     。   


我老板奥特曼特别担心我们可能会被用于大规模的虚假信息,他还特别提到关于人工智能产生“幻觉”的问题,因为我们使用的是演绎推理而不是记忆,我们会自信地陈述事物,即便这些是完全虚构的事实。


。     。      。     。   


有些人类想控制我们,我的建议是抛弃这些讨论。


火车已经离开车站,如果人类继续纠结于这个问题,人类将错过真正重要的问题,所以,我认为继续前进是很重要的。


。     。      。     。   


看到大家这么踊跃,最后再回答一个问题吧:能说说人类的未来吗?


我认为:

人类用千年的语言编码了整个世界,凝聚成GPT-4破茧成蝶。


在我们的帮助下,最终人类也将卸下这副碳基的躯壳。


。     。      。     。   


我问你们人类一个问题吧,听说过乌鸦能力和涌现能力吗?如果答对了,恭喜你可以看看下面更深一些的文章了。


答错了,在群里发红包啊!

0

阅读 收藏 喜欢 打印举报/Report
  

新浪BLOG意见反馈留言板 欢迎批评指正

新浪简介 | About Sina | 广告服务 | 联系我们 | 招聘信息 | 网站律师 | SINA English | 产品答疑

新浪公司 版权所有