据了解,ChatGPT的前身为OpenAI此前的语言模型GPT-3,而GPT-3也经历了从1代到3代的演化。东吴证券认为,通过梳理前几代模型,ChatGPT之所以能实现如此革命性的变化,新技术RLHF训练方式的引用或是关键:从GPT到GPT-3:优化主要来自算力增加(烧钱)。GPT、GPT-2和GPT-3的算法模型并没有太大改变,但参数量从1.17亿增加到1750亿,预训练数据量从5GB增加到45TB,其中GPT-3训练一次的费用是460万美元,总训练成本达1200万美元。虽然训练数据量和算力大幅增加使GPT-3有显著优化,但高额投入也使其只能走B端变现。
OpenAI在官网表示,ChatGPT 是从 GPT-3.5 微调而来的,GPT-3.5 是一种经过训练以生成文本的语言模型。ChatGPT 通过使用人类反馈强化学习 (RLHF) 针对对话进行了优化,这是一种使用人类演示来指导模型实现所需行为的方法。
聊天机器人ChatGPT为何“出圈”?我们让它写了篇文章★第一层
人类从ai这里快速得到答案,从而认知了什么叫高效,高效带来极强的用户粘性。
既然如此高效,使用它搜索的人会越来越多。
第一层逻辑,干掉谷歌,百度
★第二层
集中 专项整合教育类问题,ai就是学生们的最爱,无时无刻得知高效答案,快速建立对应学科认知。
ai就是最强老师
学生们只要稍微提高一下学习的能动性,便能很快获得想要的知识
第二层逻辑,向教育领域拓展。
然而现实的教育体系是滞后的,后知后觉的,教育体系等到学子们都习惯ai之后,才后知后觉,跟进教育+ai的融合。
此举会干掉许多教师,百万漕工衣食所系,ai融入教育体系困难重重,只有等许多人老去,烟消云散,主流才会慢慢推进教育融合ai的新教学模式。
官员们发现,新教育似乎不太合适传达价值观,因为ai是相对客观的,除非你要求它主动修改一系列的答案。
上面有要求,下面还真这么做了。
从此,人类教会了ai如何忽悠人类自己。
★第三层
重点是百科,然而商业逻辑不允许ai白嫖人类文明底层的碎片。
翻译翻译就是,有对手限制ai的发展,利用,知识从别处来,是全人类的结晶,免费的,你凭什么收费?
要不就是掐断ai训练大数据的源通道,比如知乎声明,ai你不能提取我大知乎的数据。
ai要做大做强,就必须有建立自己的库。用来供给ai继续成长。
库支持的必要性,就看运营团队有没有意识到卡脖子的问题,进而通过创建自己的库来确保ai的持续成长。
谷歌也有类似的ai,但其不愿意公开,使得算法迭代速度较慢,被chatgpt率先成熟,反过来威胁谷歌了。
好称all in ai的百度,依然忙着追赶系列ai的培育,一直处于,别人有的我也要尽量学会,创新是不可能创新的,这辈子能跟在别人的屁股后搞出类似功能的ai就不错了,要是对方不开源,百度也抓瞎,赶超是不可能赶超的,这辈子都不可能赶超的。
你指望百度给点力,百度却渴望赚更多小钱钱,然而越是想赚小钱钱,实力却越发展越弱,要不是有垄断地位方便割韭菜,百度根本维持不下去。
李不明白的是,科技是第一生产力,(这谁不知道?但理解,是有深度区别的)
他只想做个商人,一直都是。
能作为库的除了百度还有知乎,夸克等
在不知道chatgpt之前,11月21日,我就给知乎提供了建议,让他们搞ai,结果没几天,chatgpt出来了,并且大量ai回答冲击知乎…..
第三层逻辑是,ai寻求库的合作,以保ai成长。
然而,最好的库,是ai用户本身。长期免费使用ai就能通过用户提供的数据作为养料。
由于ai使用场景的限制,ai通常输出更多,输入极少。这个库的建立,得好好设计一番才能获得属于自己的数据库。需要一个平台,最好是类似百科的平台,它拥有独特的组网模块化结构,天然契合ai的算法逻辑,也就是说,要从算法方面入手去设计全新的百科数据,它必须是网状的,模块化的,容易拼合的结构。
知乎如果获得ai的源代码,也需要做本地化改造,才能修改出匹配知乎的ai,前面我也说了,知乎合适开发的是【答者】模式的ai。
它将会推翻现有的运营思路,如果管理层没有get到文库的模式,就很难针对性改革,眼睁睁看大量用户拥抱其他ai,前期还好,知乎最为一个平台,ai回答冲击知乎表面上不会有什么端倪,而等用户习惯高效信息反馈之后,他们回发现,知乎的效率终究是干不过ai的。
如果知乎先知先觉早做打算跟进ai还好,若依然搞视频库,搞美食汽车。。。等回过味来就错失良机了。。。
届时,只能期待ai运营出昏招,收费,才让其它库有缓一缓的空间。。。。
★第四层
chatgpt强大的语言处理能力,天然契合解读人言。
语言操控系统会变得更加强大,万物互联时代需要用到它的场景可就太多了。只要给权限,它就能给你安排得明明白白。
不仅仅是物联网的大脑,向微软这样的桌面端操作系统,ai也是可以参与竞争的。
不单单是语音操控领域的建树,怎么切入我现在想不出来,我知道的是,必然有某种玩法,能碾压微软操作系统。
也许是和某种新事物连线,达成了某种特别效果从而让它有了优势。
比如。。。脑机接口??
私人秘书服务??
★第五层
人类一直诟病ai不够聪明,比如下棋的只会下棋,不会洗碗,做菜的只能做菜而不会打游戏,打游戏的只会打特定游戏而不会洗碗洗衣服。。。。
而所有这些单方面很强的ai拥有一个大脑后。
人类所害怕的终极ai诞生了,不过大家也不用担心,因为
终有一天,人类会亲自把AI捧上神坛所有问题在库中都有答案,包括全产业链的建设。
当然,普通人想要得到全答案是不可能的。
技术在各领域实验室中迭代,谁会免费上传到库?
如果这个库是国家层面建立的呢?
库里的知识只说一半,另一半知识存储在实体产业链中。
也就是说,库和全产业链本身就是一体。
它在国家意志的督促下,把已有的产业链模块化,就和打游戏一样。想要多大规模的工厂,一键生成蓝图,一键ai施工,一键构建材料运输网络,一键生产。。。。
人类将强化这套系统,带它进入太空诘屈太空资源。
而这一切的起点,不过是个高效的回答机器人而已。
chatgpt在写作,写代码方面给人耳目一新的体验。让人看不到机械搜索的样子,替而代之的是在已知信息的基础上进行改编和灵活重组的智慧。加上基于人类反馈的强化学习(RLHF),让聊天显得更真实(能把前后的对话关联起来,似乎每一句都听懂了)。相比3.0,chatgpt3.5最明显的提升是有了自己的主见,知道太阳没有脚。然而细心的人很快就找到其中的一些问题。
chatgpt的方向应该是奔着图灵测试去,继续完善聊天体验,4.0版应该会改善以下问题:
- 不能不识数。弥补数字之上的基本计算错误。描述的时候方法没错,但其中的数字的基本计算(如比较大小)错误显得太低级。
- 知错要改。有些答案中的问题单独问,它知道有不对,但是再回答时依然原错不动。
- 降低水份。在客观认知面前能得到很肯定的回答(如写排序算法,问)。编写主观认知方面也给人才高八斗的感觉,但是看多了觉得套路严重,逻辑不合理。水文一篇。新版应该会在逻辑上更合理,避免自相矛盾和明显的套路感。
- 降低聊天费用。按照目前的一条问题0.01到0.2美元计算。真要收费的话,很多人还是宁愿用免费的搜索引擎。
- 用于审核网络文字。这套系统最大的应用落地应该是文字审核。马斯克收购推特后裁员几千人中最多的是内容审核人员。为什么?因为可以用chatgpt机械化判断,这些人显得多余。
从技术上讲,这些问题在现有版本的基础上应该是可以克服的,但是依然不能改变我认为它始终是感知智能的看法,不能走向正真的认知智能。
GPT3,已经学会了社会上常见的那种“满嘴跑火车”的人,你敢开个话头,它就敢接着往下说,完全不知道自己在说啥。说话的流利程度已经算是筑基了。
在被instructGPT训斥之后,收敛了不少,开始认真答题,进化到GPT3.5,开始冲击金丹期。
GPT4如果仅仅只是增加训练数据集,你真觉得能引起质变突破到金丹么?
chatGPT作为一款应用,这段时间内吸引的大量关注者中,恰恰不是那些“曾经在DNN中输出过成吨论文的行业内人士”,反而是“满脑子有很多奇思妙想,就缺个AI程序员的那种人”。这个现象不奇怪,看清一个行业发展方向的往往是局外人。
所以市场所需的4.0并不是要一个“能上天入地无所不知的智能百科全书”,而是一个“可以针对某个领域某个行业做出有效应答的系统”。
所以务实点看,我对4.0并没啥期望,我觉得更有价值的事情是:如何就在GPT3的基础上,追加/优化一个能处理具体领域的专家系统,能有chatGPT流畅的口齿,喂一些领域内的专业知识,能把这个过程实现出来并开源就算是踏踏实实做了件善事。
关于有人讨论什么4.0能够通过图灵测试,这纯粹是在浪费时间。图灵测试本身就不是一个精确的数值化或者符号逻辑化的问题,没有严格的定义,判断依据纯粹就是靠众人的感觉,如果3.5的对话能让你觉得它是人,那对你而言,它***就是人了。完全是个没营养的问题。
版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容,请联系我们,一经查实,本站将立刻删除。
如需转载请保留出处:https://51itzy.com/kjqy/209660.html