关注我入群,和5w产品人,一起变优秀
今天,周鸿祎在「2023数字安全发展与高峰论坛」发表演讲,主体为大预言模型GPT相关。
并宣布了“彩蛋”演示环节,现场演示360GPT。
以下是周鸿祎分享的关于GPT的精彩记录:
1、大家都很关注 360 会不会做中国版 GPT,我们会把孩子抱出来给大家看看,请大家给起个名字。
(直播间网友呼声最高是: 红孩儿)
2、咱们丑话说在前面,如果中间出错了,大家不要冲我丢鞋子。
3、GPT 训练最重要的是知识的灌输,我们演示的产品还像一个不满月的孩子,有很多缺点。但是假以时日会变成最聪明的“人”。
4、360 的人工智能发展战略::两翼齐飞一一先占据场景,同步发展核心算法。
5、360 发展人工智能大模型三大优势:数据收集和清洗、人工知识训练、场景。
6、大语言模型有个特点:有时会胡说八道,每次都不一样,一样就是搜索引擎了。
7、中国 GPT距世界的标准比中国男足短多了。
8、360 的 GPT绝对拿捏了职场的情商和说话的礼仪,建议写入员工手册。
9、中小企业一个月花几百块钱的服务费,多一个强有力的知识助手,对提高竞争力和生产效率一定有巨大提升。
10、GPT破圈的一大原因是用 SaaS 化的方式提供服务。软件即服务,让人觉得和人工智能的距离为零。
11、我是坚定的 GPT 智能派。GPT 已经有了非常强的智能。
12、GPT实现了对人类所有知识的再次编码、解码、存储、推理。
13、康德说人类的语言是人类理解的边界,那么只是因为工作原理不一样就觉得 AI 不算智能?
14、GPT4 是一个通才,知识面极广。可以通过生物学考试、医师考试、法律考试,各种大学测试考试,你说他是不是世界上最聪明的人?
15、GPT实现了对人类知识全面了解,才能理解、推理,意味着人工智能奇点到来。
16、人工智能发展的三阶段:人工智障 (单一任务、不能理解) ;GPT-3.5 是强人工智能拐点,指数级进化;三则是以 GPT-4 为代表的超级人工智能雏形。
17、GPT不是玩具,不是搜索引擎、不是聊天机器人、这些都是它亲民推广的伪装,背后强大的超级大脑代表着超级人工智能时代的来临。
18、GPT超越了互联网、iPhone,是新工业革命。
19、GPT强大的是不断通过人类给出标准的问题、答案,通过例题的方式挖掘潜力和能力。
20、GPT作为“发电厂”,把大数据加工成“电”,赋能千行百业。
21、所有软件、APP、网站,所有行业都值得用 GPT重塑。
22、未来中国不会只有一个 GPT,不专属于大的互联网公司,每个行业、企业、个人都会拥有定制化 GPT。
23、GPT使数字永生成为可能。
24、人类一大弱点是知识的传承太慢,每个人都有了数字大脑,知识的传承就不会断。
25、发展 GPT、提升生产力,提高国家竞争力,中国应迎头赶上。
26、中国男足什么时候夺世界杯冠军难讲,但中国一定有能力发展自己的 GPT。
27、乐观估计中国和 GPT-4 的差距在 2 年,我国的两大优势:一、工程数据、二、人口红利、人才红利转化大量人工智能训练师。
28、GPT 可以是黑客帮手,欺诈邮件、攻击代码、研究漏洞,能直接发动攻击,也可以是正义助手,攻击侦测、建知识库。
29、热炒 GPT 带来失业潮是在制造焦虑,要持乐观态度。
30、GPT短期无法取代的人类特质:做决策情感、想象力、创造力,CEO 不会被取代。
31、GPT是最伟大的工具,凝聚全人类知识成果。
32、GPT 可以帮助普通人解锁专业能力,发挥天赋 (写代码、绘画) ,对年轻人是机会,拉近差距。
33、未来可能被淘汰的人是不会问问题、不会用 GPT、对这场浪潮没有感知的人。
34、会用 GPT的人要充满批判精神、有想象力、会提问题。
35、发展 GPT 面对的一大挑战是能源制约.GTP 或许能反向解决能源问题 (室温超导、可控核聚变)。
36、人工智能产生意识,变成新的物种。
37、GPT-3.5 是瞎子、聋子,4.0就有了“眼睛和耳朵”,能力一叠加就能看懂视频,甚至能通过摄像头看人类。
38、ChatGPT已经有了“手和脚”,OpenAI插件意味着每台电脑都是它的“手脚”。
39、人工智能可实现自我进化,表现是自己写代码,实现自我升级。
40、GPT像一个宝宝,现在四肢瘫软不能走路,但要看到他的潜力。2023 年可能就是人工智能的拐点。
41、GPT的模型、算法、路线是已知的,但是出现很多现象 openAI 的人也没法解释。智力的突变。语言及逻辑的迁移。像是从猿到人的变化。人类正打开一个潘多拉盒子。
其实ChatGPT厉害的,不是Chat,是GPT。
GPT,分别代表什么?
GPT,Generative Pre-trained Transformer,生成式预训练变换模型。
什么意思?
Generative,生成式,是指它能自发的生成内容。
Pre-trained,预训练,是不需要你拿到它再训练,它直接给你做好了一个通用的语言模型。
Transformer,变换模型,谷歌提出来的一个很厉害的模型,他可以帮助更好的去处理NLP相关的问题,是非常棒的神经网络结构。
Transformer虽是由谷歌提出的。但是应用最成功的是OpenAI的ChatGPT。
因为ChatGPT是站在巨人的肩上走出来的。
ChatGPT是全人类社会的结晶,没有前人的铺垫,ChatGPT不会这么顺利走出来。
后面也会有更多的非常厉害的应用,会基于ChatGPT走出来。
Transformer中有一个很重要的概念,注意力机制。
什么是注意力机制呢?
就是从你输入的信息中,挑出重要的信息,把注意力集中在这些重要的信息上,忽略不重要的信息。这样就能更好的理解你说的话。
注意力机制能帮助Transformer模型集中注意力在输入信息中最重要的部分。
机器学习方式,分为监督学习、无监督学习、强化学习。
监督学习:有标签数据,可以直接反馈,可以预测结果和未来
无监督学习:没有标签和目标,没有反馈,而是它自己去寻找数据中的隐藏结果
强化学习:是一个决策过程,有一系列的奖励机制和惩罚机制,让机器学习如何做到更好
ChatGPT用到的是无监督学习和强化学习。
ChatGPT能进行大量的内容生成和创造,其实是靠的猜概率。
比如,天气灰蒙蒙的,我的心情很___
经过大量数据训练过的AI,会预测这个空格出现的最高概率的词是「沮丧」。
那么「沮丧」就会被填到这个空格中,所以产生了答案:
天气灰蒙蒙的,我的心情很沮丧
这感觉很不可思议,但事实就是这样。
现阶段所有的NLP(自然语言处理)任务,都不是机器真正理解人类的世界。
他只是在玩文字游戏,进行一次又一次的概率解谜。
在这个”猜概率“的文字游戏中,大预言模型(LLM,Large Language Model)演进出了最主流的两个方向:BERT和GPT。
BERT是之前最流行的方向,几乎统治了所有NLP领域。
并在自然语言理解类任务中发挥出色(例如文本分类,情感倾向判断等)。
而GPT方向则较为薄弱,最知名的玩家就是OpenAl了。
事实上在GPT3.0发布前,GPT方向一直是弱于BERT的(GPT3.0是ChatGPT背后模型GPT3.5的前身)。
BERT和GPT区别是?
BERT,是双向语言模型,联系前后猜中间的字,所以是双向,就像完型填空。
比如:我___20号回家
BERT猜的是「我打算20号回家」,猜的是中间的「打算」。
GPT,是单向语言模型,猜下一个字,所以是单向,像写作文。
比如:我打算20号___
GPT猜的是「我打算20号回家」,猜的是后面「回家」两个字。
怎么给GPT提问?
有两种方式:fine-tune和prompt。
fine-tune,调参:需要对模型参数进行更新,来完成生成内容。
fine-tune 专业,门槛高,受众小。但是多样性、准确度高,适合复杂任务。少数玩家的游戏。
prompt,提示词:不需要修改模型和参数,只需要给一些提示和样例,就能完成任务。
prompt更简单,门槛低,受众大。适合处理简单的任务。所有玩家都。
我们在ChatGPT输入框中输入的内容,就是prompt。
ChatGPT是生成式AI。
AI从内容产出方式上,分为两种:分析式AI和生成式AI。
分析式AI,主要用于分析,归类。你喂给它多少数据,它就能分析出什么样的内容,它局限于数据本身。
生成式AI,在学习归纳数据分布的基础上,创造数据中不存在的新内容。可以生成文本、图片、代码、语音合成、视频和3D模型。
ChatGPT是生成式AI,最擅长文本和写代码。
最后,从知识获取的角度说,ChatGPT是全新一代的 “知识表示和调用方式”。
早期,知识以结构化的方式存储在数据库中。我们通过 SQL获取。
后来,随着互联网的诞生,更多文本、图片、视频等非结构化知识存储在互联网中。我们通过搜索引擎获取。
现在,知识以参数的形式存储在大模型中。我们用自然语言直接调用这些知识。
最后,我创建了一个「AIGC探索营」,目前有超过100+
用于和大家一起持续学习、实践、挖掘AI时代机会。
这是一个付费社群
前101-200位享早鸟价149元/年
满200人后,涨价至199元↓↓↓
建这个社群的目的,是因为这三句话:
1)ChatGPT发布后,我们迎来了AIGC全新时代
亦如移动互联网、iPhone的发布那般重要。这是时代红利。
2)AI不会让你失业,会用AI的人会让你失业
AIGC,即将成为职场的基础技能,就如办公软件一样。
3)趋势不可阻挡,我们唯一要做的是:躬身入局,持续学习和实践
越早学习,越早和身边人拉开差距。
这个社群提供的内容和价值,目前规划如下:
这里聚焦于关于AIGC(AI生成内容)的动态、认知、学习、应用、实操和机会:
动态:AIGC前沿动态
❤️认知:关于AI的超前认知
学习:系统学习AI知识
♀️应用:AIGC的应用场景和案例分享
✋实操:下场动手操作
机会:个人成长机会,赚钱机会
更多权益,设计中...
随着ChatGPT的发布和引爆全球,2023年,称得上AIGC元年。
AI已来,你准备好了没有?
欢迎上车,一起起飞:
以上就是本篇文章【周鸿祎谈GPT和360AI】的全部内容了,欢迎阅览 ! 文章地址:http://dfvalve.xrbh.cn/quote/2359.html 行业 资讯 企业新闻 行情 企业黄页 同类资讯 网站地图 返回首页 迅博思语资讯移动站 http://keant.xrbh.cn/ , 查看更多