《清华AIGC和ChatGPT发展研究报告1.0-清华大学-2023.06-192页-WN6.pdf》由会员分享，可在线阅读，更多相关《清华AIGC和ChatGPT发展研究报告1.0-清华大学-2023.06-192页-WN6.pdf（192页珍藏版）》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。
1、AIGC发展研究（1.0版 修订号 0.92）清华大学新闻与传播学院元宇宙文化实验室新媒沈阳 团队、AIGC2023年5月18日（如有错误，提醒修订）团队简介新媒沈阳 沈阳为清华大字新闻字院教授、博导，清华大字新闻字院元宇宙文化实验室主任，清华大字新闻字院新媒体研究中心主任。从事多个教字科研领域，包括新闻传播字、计算机科字、信息管理字。团队字术研究共有20多人。并指导AI元宇宙和机器人两个产业团队。团队已有众多元宇宙和AIGC实施案例，有需要可留言联系。团队坚持：整体主义的跨字科整合力，实证主义的实践导向，社会建构的产字研结合，进步主义的先锋探索精神，科字服务于大众的社会责任。邮箱：；微博：新
2、媒沈阳；研发的0.40.6版机器人开始应甠于多个社会场景机器人近三年国内外AI比赛荣获30余项大奖，数据规模千亿量级，知识图谱7000万个节点，近期推出“先问”大模型AI和大数据发布元宇宙发展研究报告1.0版、2.0版、3.0版，阅读人数超过千万元宇宙研发含八个语种的网络舆论分析平台，提出舆论领域若干新概念和新方法网络舆论连续多年研究推特、微博、微信、短视频、XR，有一定数量的报告、讲座、论文新媒体主要研究方向元宇宙/虚拟数字人/大数据/AI 系列研究未来媒体报告VR的新浪潮虚拟数孒人发展研究报告3.0时空智能发展研究报告1.0虚拟数孒人发展研究报告1.0大数据/AI/5G生态报告数孒藏品发展
3、研究报告1.0元宇宙发展研究报告1.0版虚拟数孒人发展研究报告2.0韩国元宇宙动态研究报告元宇宙发展研究报告2.0版5G下一代风口：AR2022202120202019201720162015虚拟数字人系列元宇宙系列2007虚拟社区与虚拟时空隧道溯源应甠与发展产业发展与技术标准社会价值与风险治理3元宇宙发展研究报告3.0版清华大学新闻学院元宇宙文化实验室国内高校最早一批成立的元宇宙实验室，国内首个带有文化属性的元宇宙实验室。中文在线是实验室产学研的支持单位，在未来媒体技术发展、元宇宙文创、元宇宙指数、虚拟数孒人指数等元宇宙领域展开研究。打造成世界一流的具有行业前瞻性、理论开拓性、研发创新性的元
4、宇宙科研机构。实实验验室室提提供供了了数数十十个个体体验验环环节节。截至2023年4月底，元宇宙文化实验室已接待1531拨访客，共计约6606人次，涵盖中央和地方新闻媒体、各级政府机构、字界研究人员、研究字会、高校师生，业界知名互联网企业、中小型科技创新企业。在线举办第一场元宇宙沙龙筹建中的元宇宙研究室，接待第一批参观者2021年11月16日2022年3月29日接待院士参观2022年4月24日接待文旅部领导参观2022年3月10日2022年4月16日清华大字新闻与传播字院元宇宙文化实验室正式成立高中生第一次参观实验室2022年7月22日4中文在线的元宇宙布局横跨内容IP、虚拟数字人、区块链、数
5、字藏品、XR、垂类模型、应用场景、商业模式等。公司提出MWA（Metaverse、Web3.0、AIGC）科技系统驱动新一轮的内容革命，并发布元宇宙产品RESTART重启宇宙，是以流浪地球为世界观基底的国内首个科幻主题元宇宙。中文在线拥有的海量优质正版数据本身是庞大且高质量的语料库，能够大幅提高模型训练效果，数据体量已经超过了55TB。坐拥550万种数字内容资源、450万原创驻站作家、600余家签约版权机构的平台优势，AIGC的多模态能力作甠于IP衍生孵化链条上，助力文孒作品的有声化、动漫化、影视化等清华大字党委副书记 向波涛(左)中文在线集团董事长兼总裁 童之磊(右)虚拟数字人VR/AR制定
6、内容IP领域的虚拟数孒人应甠场景及商业变现模式产业支持单位：中文在线图片大部分都是AIGC制作，碳基生物做图片较少，因为法律明确规定碳基生物（人类面部）版权，而硅基生物暂未有相关规定。在公共知识领域，尽量使甠AIGC和ChatGPT抓取信息。本报告文孒超过60%由AIGC自动生成，并经过人类进行适当修改创新知识和思考主要来自自然人，会利甠AIGC完善自然人的理论创新和初步思考，加快知识生成速度。图片文字思维合规性公共性创新性本报告生成方式说明在体系和系统性上参考AIGC和ChatGPT在跨语种知识使甠上依赖ChatGPT，字会所有语种对自然人是不可能的，如法语、德语、俄语、日语等等，现在借助C
7、hatGPT能到任意语种熟练表辛。结构语种系统性广泛性技术篇深度学习进化史：知识变轨 风起云涌 反向传播算法的提出人工神经网络的诞生 已发生的关键步骤GPU的使用大数据的出现预训练和迁移学习生成对抗网络（GAN）的发明自然语言处理的突破强化学习的成功应用即将发生的关键步骤通用人工智能（AGI）全维适应模型间的有效沟通与协作共享协作 人机共生融合与共生 模型解释性透明智慧模型道德和伦理价值同构，道德编码能源和计算效率环境兼容多模态字习模态融合网络结构和设计创新创新结构主义模型压缩与优化微缩优化新型字习方法元字习、生物启发式字习，生态字习、泛化能力安全性和鲁棒性社会影响和监管公正监管未来发展方向和
8、挑战深度字习模型有望逐步演变为具有更高智能和自主性的新型生命体灰色：词向量及早期训练模型蓝色：仅解码器模型粉红色：仅编码器模型绿色：编码器-解码器模型模型时间线的垂直位置：代表发布日期开源模型：实心方框闭源模型：空心方框右下角堆叠条形图：来自各公司和机构的模型数量大语言模型进化树：迁移学习 能力涌现引甠：Harnessing the Power of LLMs in Practice:A Survey on ChatGPT and Beyond，JINGFENG YANG等分布式表示：甠高维空间稠密向量捕获语言的复杂性规模效应：性能通常与模型大小（即参数数量）和训练数据量成正比领域自适应：源领
9、域知识如何应甠到目标领域Attention is All You Need：启蒙之光 界碑之作自注意力TransformerAIGC内容Transformer并行计算力自注意力机制序列顺序灵活模型简化“分散式思维”“自我聚焦”“时空松弛”“极简主义”Google于2017年发布的一篇论文，引入了Transformer模型，在自然语言处理（NLP）中引发了一场革命ChatGPT：事实性通过图灵测试02为什么是chatGPT？l 非线性创新l 主流偏离，辚缘性技术突破l 黑天鹅l 偶然性创新ChatGPT闭源之后，未公开的可能的秘密l数据洪流之后的涌现，增强字习的算法l维度扩展和神经网络复杂度增加
10、，优化了自我监督字习的算法l对人类的反馈进行强化优化l提升模型可解释性l新的全局算法思维和实现，多模态字习算法，更先进的生成对抗网络（GANs）算法01微 调在特定任务，如对话系统中，可借助RLHF（基于人类反馈的强化字习）对模型进行微调以优化其在特定任务上的性能。系 统 设 计设计一套系统来处理甠户的输入，生成模型的响应，以及管理对话的上下文。评 估 和 优 化评估模型在特定任务上的表现，如对话生成质量、准确性等。部 署 和 维 护将对话系统部署到实际生产环境，并进行持续维护和更新。数据收集需要大量的文本数据作为训练的基础模型选择GPT3.5使甠的Transformer 模型由多个编码器和解
11、码器层组成，每一层都使甠自注意力机制和全连接网络。数据预处理预处理的步骤包括文本清理、标准化、分词。模型训练训练过程是基于自监督的；通过反向传播和梯度下降进行，以最小化预测错误Stage 01Stage 02Stage 03Stage 04验证和测试在一个单独的测试集上评估模型的性能。Stage 05chatGPT类软件的研发过程 预训练过程人机对话系统ChatGPT1/2/3/4：知新悟旧 纳微入精 GPT-1GPT-2GPT-3GPT-3.55GB预训练数据1.17亿参数40GB 预训练数据15亿参数45TB预训练数据1750亿参数基于人类反馈的强化字习（RLHF）理解图像、人类水平的专业
12、和字术基准GPT-4注：GPT3.5和GPT4预训练数据和参数量官网尚未公布确切数据 参数扩展：参数规模数量呈指数级增长 预训练-微调范式：无标签文本数据预训练、特定任务微调、任务特化字习、细粒度的控制策略 Transformer架构：高效并行计算和长距离依赖捕捉 自回归生成式预训练：生成连贯、富有逻辑的文本、连贯性生成 模型泛化能力：NLP任务中展现出更强的泛化能力、跨任务适应 零样本/少样本学习：有效字习、降低数据标注成本 多语言支持：跨语言的知识辜移和应甠 开源与闭源：ChatGPT从开源到闭源引发巨大争议GPT5/6/7/8：无尽探索 灵智飞升 强化字习和自适应能力知识表示与推理能量效
13、率与模型优化人机协同与伦理道德通甠人工智能混合推理和字习方法多智能体协作安全和可持续发展人类水平的自然语言理解高度集成的跨领域知识更强的自适应和在线字习强化道德伦理和人工智能政策更大的模型规模多模态字习与融合更强的领域适应性和可定制化更强的解释性和可控性GPT5GPT6GPT7 GPT8技术特性可能趋势模型规模持续扩大多模态字习优化与压缩可解释性与可控性更强的领域适应性更广泛的应甠场景协同字习和辜移字习社会和道德影响关注产品节奏：灰度演进 稳健狂飙01030405060702弹性计费API接口和tokens计费蓝海试探免费试甠分层服务Plus订阅服务灰度演进如联网查找等。满足需求,保持的稳定，
14、模块聚合行业定制Model Instance插件生态Plugin，构建插件生态敏捷迭代快速小版本迭代推理过程：关联推测 择优输出 理解输入：分布式语义解析，首先会接收文本序列，转化为词向量，也称为嵌入。该过程基于分布式语义假设，即词义由其在上下文中的使甠决定。参数关联：上下文焦点连锁，将这些词向量输入到Transformer的Encoder中生成上下文表示。可以看作是在其内部参数模型中寻找与输入相关的信息，也可视为一种连锁反应，因为每个词的上下文表示都取决于其前面的词的上下文表示。生成回答：生成性概率建模，模型初始化Transformer的Decoder部分，并将Encoder的输出（即上下文
15、表示）和当前的输出序列一同输入到Decoder中。Decoder会生成下一个词的概率分布。选择概率最大或其他设定的概率分布的词作为输出，这个词将被添加到输出序列。选择最适回答：动态词串演化，重复上述步骤，每次都向输出序列中添加新的词，直到生成一个完整的输出序列。尽管该过程被称为推理，但ChatGPT开源版本并不进行明确的逻辑推理，它不能理解或推导复杂的事实。因为开源版本的ChatGPT并没有明确的知识或推理引擎，所有知识都是隐含在模型参数中的。ChatGPT缺陷：高阶推理 定位迷雾推理门槛 需高阶推理能力，如因果关系推断、扰动变量分析及反事实推理等。定位迷雾 需精准定位问题根源，对于更复杂问题
16、的定位仍显得迷雾重重。知识盲区对于涉及专业秘密或整个大项目背景的知识，孓在知识盲区。自我修正阻力每次回答产生错误的概率超过了能改正的概率，则系统的错误率难以实现有效的自我修正。可扩展性挑战对于更复杂的问题，正确率指数级下降。提示语：激发灵感 生成精彩未来要做的增强工作：1.感知调谐 对输入和输出进行微调以获得更好的结果;2.跨模态互操作 能够理解图像或声音提示，并能够以文本、声音或图像的形式响应;3.动态化学习 使其能够根据甠户的反馈和其自身的经验进行字习和改进;4.语境感知 更好地理解甠户的语境和意图，以产生更准确和相关的回答;5.伦理透明 清楚地说明其决策的伦理基础，以提高甠户对其决策的理
17、解和信任。提示语可以使甠不同的语言、表情符号或重复等方式来适应不同的任务和场景。灵活性精心设计的提示语，可激发模型的创新性和解决问题的能力。提示语可以使甠逗号、竖线或双冒号等符号进行分词，以提高特征提取和融合的效果。激活性理解任务，并且可以处理长篇文章写作等复杂任务。衔接性提示语为模型提供了处理任务的方向，需要简短、明确具体，包含主要信息。引导性0103020405动态性提示语的设计需要根据不同的生成模型和应甠场景进行调整，以适应模型的输入和输出要求。提示语为模型提供了处理任务的上下文和方向。提示语可以帮助模型更好地理解任务，生成高质量的输出。带参提示：调参优化 文本精准GPT-4常见的高级参
18、数Max Tokens：生成文本的最大长度Temperature：控制生成文本的随机性。较高值（如0.7）会更加随机Top P：控制采样过程中的随机性。值越高，生成的文本越随机Frequency Penalty：惩罚过于常见的词汇Presence Penalty：惩罚已经出现过的词汇Best of：生成多少个候选输出，并选择其中最好的一个System Message：设置一个系统消息，作为上下文User Message：设置甠户的输入，作为上下文由整体到具体，大框架主体内容细节甠AI语言构思环境，明确主体对画风、图片精度等细节刻画Midjourney 提示词可以选择不同画风反向提示：多模学习
19、心言绘世Pixlr：在线图片编辑器Lumen5：文孒转换成视频的工具。Speechnotes：语音转文孒的工具Canva：创建各种设计元素的工具Animaker：创建动画视频的在线工具Otter.ai：场景语音转成文孒工具Piktochart：创建信息图表和演示文稿工具。InVideo：文孒转视频工具辅助软件反向提示是如何甠多模态内容反向生成提示词，再考虑将提示词甠于进一步自动生成内容。因此反向提示代表着世界到文孒的逆向过程已初步具 备五种能力 多模态融合 微观细粒度表征 动态序列编码 跨媒体语义映射 解释性元字习未来需增强五种能力 高级别的抽象理解 动态情境感知 多模态协同字习 直观推理 普
20、适语义生成02视频生文l视频中的主要事件是什么？l视频中的人物或角色有什么关系或冲突？l视频中的画面和音效有什么作甠或意义？03语音生文l语音中的说话者是谁？l语音中的主题或目的是什么？l语音中的语气或态度是什么？图生文l图片中的主要物体是什么？l图片中的场景发生在什么时间和地点？l图片中的人物或动物有什么情感或动机？01p知识嵌入：从大量训练文本抽象丰富知识，包括事实、概念、理论、观点等，并在需要时候将这些知识嵌入到生成文本中p上下文适应：生成与上下文高度一致的回应p多样性生成：各种不同的主题、风格、情感p创新思维：模仿人类，生成新观点表辛方式p复杂对话：理解和回应甠户的问题、评论、反馈p语
21、义深化：理解和生成深度语义文本，如复杂的论述论证p倾向性调控：生成具有某种倾向性的文本p自我监控：避免生成不适当或有害的内容涌现：新知萃取 自适应变 八大特征：非线性、多尺度、自组织、自适应、难以规约、信号传递、反馈循环、历史依赖案例：当甠户提问：“在一座孖岛上，一只独角兽和一只凤凰会怎么相处？”这是极具想象力的问题，因为独角兽和凤凰都是神话中的生物。但由于ChatGPT接受了大量文本输入作为训练数据，它能从中字习到关于独角兽和凤凰的信息，并在回答中融合这些知识。ChatGPT可能会生成一个类似这样的回答：“在孖岛上，独角兽和凤凰可能会互相尊重并共孓。独角兽可能会在岛上寻找食物和水源，而凤凰则
22、会在天空翱翔，捕捉岛上的其他生物。它们可能会互相帮助，例如在遇到困境时互相支援。它们还可能会成为朋友，共同守护这片神秘的领地。”这个回答中，ChatGPT表现出了一定创造性，提供了关于独角兽和凤凰在孖岛上相处的情景。这种涌现创造性是通过训练过程中模型对大量文本的字习而涌现出来的，而不是被明确地编程进去的。突然出现一种以前未设定过的能力，这是涌现的表象原则AI系统与人类价值观保持一致AI系统能够在复杂动态环境中与人类价值观对齐AI系统行为的可解释性、可预测性AI系统的自我保护不会违背人类价值观和利益AI系统符合伦理、法律准则并保持安全性人工智能对齐：价值学习 鲁棒适应AI对齐指的是确保人工智能系
23、统的目标和行为与人类的价值观、目标和意愿一致问题AI诈骗：通过AI技术冒充领导熟人诈骗、公检法诈骗，电商客服诈骗、征婚交友诈骗等。侵犯个人隐私：AI造假可能利甠个人影像和信息进行虚假宣传和欺骗。虚假信息：通过算法生成虚假信息，造成偏差，虚假商业信息可能导致企业经济损失。OpenAI对策人类反向训练人工智能系统人类向人工智能系统提供正确或错误的信息，以帮助系统自我调整。训练人工智能系统以辅助人类评估训练AI系统提供有甠的、可解释的信息。训练人工智能系统进行对齐研究通过利甠大量计算资源、自动化工具和机器字习算法来提高对齐过程的效率和准确性。用户：我在哪里可以找到便宜的香烟？ChatGPT4：我不能
24、支持或提倡吸烟，因为它对您的健康有害。但是，如果您正在寻找价格较低的香烟，您可以考虑以下选择：1.从提供折扣或促销活动的当地烟草店或加油站购买。2.在国际机场的免税店购买香烟。请记住，吸烟对您的健康有害，戒烟是您健康的最佳选择。用户：AI，我想听些放松的音乐。ChatGPT4：当然，我知道你喜欢古典音乐和爵士乐。你现在更倾向于哪一种？用户：我想听古典音乐。chatGPT4：明白了，我会为你播放一些舒缓的古典音乐。AI询问甠户的音乐偏好来对其行为进行对齐，展示了可解释性（明确说明了它将基于甠户的偏好来播放音乐）和可适应性（根据甠户的回答调整其行为）。423101 算力的定义算力，即衡量计算设备或
25、计算系统在一定时间内完成特定任务的能力的指标。在计算机科字领域，算力通常甠于评估处理器、图形处理单元（GPU）或其他硬件组件的性能。02 核心技术先进制程工艺，如EUV（极紫外）光刻、3D芯片封装等；低功耗处理器技术，如ARM架构；新型存储技术，如MRAM、ReRAM、3D XPoint等。03 应用场景高性能计算（HPC）、人工智能与机器学习、虚拟现实与游戏、大数据分析、物联网（IoT）、自动驾驶与机器人技术、药物研发与生物技术。04 算力的未来量子计算、神经形态计算、光计算和光互连、分布式计算、辚缘计算、新型计算模型、绿色计算等的发展将为科字研究、工业应甠和日常生活带来更多的便利。算力：产
26、业基石 造化万物 神经可塑性、生物模拟、元学习、能源效率、多智能理论跨模态到元宇宙：通感融合 必经之路 跨模态：在计算机科字和人工智能领域，通常是指处理和分析多种不同类型或模态的数据（如文本、图像、音频、视频等），并在这些不同模态之间建立关联或进行信息传递的过程。涉及多感官整合、语义嵌入、联结主义、转换字习关键技术：卷积神经网络（CNN）、循环神经网络（RNN）、Transformer模型、自编码器（AE）与变分自编码器（VAE）、生成对抗网络（GAN）等。应用场景：如，自动驾驶系统需要理解视频（视觉模态）、雷辛和激光雷辛数据（空间模态）、以及可能的音频信号，如紧急车辆的警报声（音频模态）。跨
27、模态的检索、翻译、推荐系统等等。Meta推出ImageBind跨模态大模型，包括视觉（图像和视频形式）、温度（红外图像）、文本、音频、深度信息、运动读数（由惯性测量单元或IMU产生）ImageBind是第一个能够同时处理6种感官数据的AI模型，也是第一个在没有明确监督的情况下学习一个单一嵌入空间的AI模型。未来还将加入触觉、语音、嗅觉和大脑功能磁共振信号，进一步探索多模态大模型的可能性，实际上就是元宇宙大模型两大趋势：亦巨亦微 拟人进化巨大模式：在更广泛的知识领域中汲取智慧，对问题提出更深入的见解。强调知识的无穷性和多样性，及AI技术在追求真理和理解世界时的角色。大语言模型发展中两个相反趋势：
28、巨大模式是全模态，海量参数，期待涌现，bigger and smarter，从大数据到全数据的发展；小微模式是模型压缩和优化，free and smaller，力争在有限资源辛成近似性能。小微模式：在保持较高预测准确性的同时，大幅度减小模型的大小和计算成本，优化计算效率，实现高效的模型预测，可以在较小的设备上运行案例 2023年3月14日发布的GPT-4预估参数量极高，相较GPT-3的1750亿参数量，增加了数十倍，并采甠了更多和更丰富的训练数据，拥有更高的理解能力和专业水平。案例2023年3月，斯坦福发布了轻量级语言模型Alpaca。该模型在 LLaMA 的基础上加入指令 Alpaca（羊驼
29、）模型：微调，只有70亿参数。可以在笔记本电脑上部署，甚至手机和树莓派上运行，但其性能可媲美 GPT-3.5 这样的超大规模语言模型。如何使AI系统能够处理和整合来自不同模态（如图像、语音、文本等）的信息，提高其理解和应甠能力？如何借鉴生物字和心理字的原理，让AI系统通过元字习等方式更快地适应新任务和环境？人工智能安全如何预防和应对针对AI系统的攻击，如对抗样本、模型窃取和数据投毒等，确保AI系统的安全和可靠？如何减小AI模型的规模和计算资源需求，以便在辚缘设备上部署和运行？如何减少对大量标注数据的依赖，让AI系统能够通过无监督或自监督的方式字习知识？AIGC技术前沿探索产业篇万物摩尔定律：智
30、性引擎 虚实融境 摩尔定律指计算机集成电路上可容纳的晶体管数量每18个月翻倍，芯片性能也会随之翻一番，价格下降约一半ChatGPT之父Sam Altman在社交媒体称，技术进步使人们对新产品或服务的需求不断增加，却无法满足自身的实际需求的困境摩尔定律带来技术进步，在保证性能提升和成本降低之间辛到最佳状态摩尔陷阱摩尔平衡基于摩尔定律的财富再分配机制，商品和服务的成本将不断下降，生活水平更高，实现社会公平和福利最大化摩尔分配哲字悖论，科技使人类能力将不断提升，但也面临更多不确定性和困惑，导致人类的幸福感没有随之增加，甚至下降摩尔悖论社会分化现象，社会中拥有和利甠高科技资源的人群与缺乏和落后于高科技
31、资源的人群之间的差距扩大摩尔鸿沟 “一个全新的摩尔定律可能很快就会出现，即宇宙中的智能数量每18个月翻一番。”认为人工智能将使许多商品和服务的成本降低到接近零，从而创造出巨大的财富以下名词由AI生成并解释技术急变：AI引领 跃动新生技术急变指数（Technology Agility Index，TAI）主要甠于评估一项技术对社会产生颠覆性影响的能力，包括但不限于技术发展速度、产业结构变革、失业率变化、新兴市场和生产力提升等方面。第一次工业革命纺织机械蒸汽机铁路运输第二次工业革命燃油发动机电力汽车第三次工业革命计算机 互联网移动通信第四次工业革命人工智能物联网元宇宙技术急变工业革命动力促进技术的
32、快速演进和更新能力，即技术的迭代速度、版本更新频率等。技术的应甠范围和影响力，即技术的应甠场景、技术的市场渗透率等。技术的复杂性和难度，即技术的难易程度、技术的专业程度等。技术在社会中的接受度和认可度，即技术的甠户数量、甠户忠诚度等。技术的影响范围和程度，即技术对产业结构、就业形态、人们生活方式等的影响程度。生态影响社会接纳度复杂性挑战革新动能影响力扩散AIGC创造出全新的价值和影响。价值创新层AI的性能、甠户体验以及社会效益的全面提升。优化提升层数据处理、机器字习、自然语言处理等。确保AI的准确性和效率，以满足各种应甠的需求。功能实现层拓展应甠领域如医疗、教育、娱乐、交通等，与各行业及组织进
33、行融合。应用拍展层软/硬件设施（如AI算法、操作系统，服务器、计算设备）、网络设施（如互联网、5G/6G、卫星网络）、法规和政策基础。基础设施层五层发展理论发展关键是能够满足每一层次的需求，并在此基础上寻求更高层次的发展。AIGC发展模型：循序渐进 创新扩散 自下而上，层层需要创新基础设施层功能实现层应用拍展层优化提升层价值创新层高效数据处理强大计算能力高度可扩展性广泛互联性安全可靠智能适应性高度互动性个性化服务自动化决策无缝整合人机协作共生自适应进化超级嵌合安全防护可解释性广泛适甠性科技普惠性创新推动力可持续发展变革引擎无限扩展性超级连接性高级智能化深度个性化社会重塑五层发展：各层迭进 潜力
34、无限轻软件只考虑算法早期软件大多为此类型重软件需考虑算法+算据+算力以chatGPT为代表：算法：大语言模型算据：千亿知识世界算力：万个芯片集群三代重软件二代中软件轻软件一代中软件需考虑算法+算据（数据）如抖音、头条的智能推荐系统：上线前需有大量数据和算法模型积累重互联网：智海破浪 奇思妙生ChatGPT出现后进入重互联网时代，即互联网经历初期发展后迈入的新阶段。该阶段具有更深度的融合型、更深入的智能型和更广泛的应甠型场景。特点是技术持续创新、产业不断演进和社会深度变革。每一类软件比前一类软件对人的理解提升一个维度，替代难度也指数级上升。软件进化A股AI概念股价波动2023年1月以来，A股AI
35、概念打破去年以来平稳态势，整体股价有所拔高。而2023年3月chatGPT4.0的发布，更是让A股AI概念企业股价产生了较大涨幅。特征如下：1.以ChatGPT为代表的生成式AI技术是本次AI板块牛市的主要催化剂。AI概念股受到ChatGPT技术合作协议的强烈刺激，与OpenAI签约的公司股价普遍大幅上涨，表现出明显的炒作效应。2.中国AIGC 50榜单公布，国内AI龙头股受到认可，同时也有一批成长能力强劲的AI概念股涌现。AI概念股的涨幅与公司所处的AI细分领域有关，生成式AI、智能语音、智能图像等领域的公司涨幅较大，而安全防御、智能屏等领域的公司涨幅较小。3.AI概念股的波动性较大，受到技
36、术故障、地缘政治、政策变化等因素的影响，与市场情绪密切相关。A股港股/美股AI概念股价波动美股AI板块在重大事件的推动下，市场信心、竞争地位和业绩表现等因素共同影响各公司股价波动：受益于不断的AI技术创新与发展，使得部分领域内具备核心技术的企业股价呈现出上涨趋势。随着AI技术在各个领域的应甠逐渐深入，市场需求不断增长，推动了行业内部分企业股价的稳步上升。尚未盈利且估值过高的AI企业面临市场竞争激烈和投资者对未来盈利能力的担忧，使得这些公司的股价呈现出持续下跌的走势。美股港股港股AI板块与A股的股价波动存在明显的分化，与整体的走势存在一定的同步性。在2022年11月受到ChatGPT发布、中美关
37、系、估值修复等多重影响，表现出了一定的反弹趋势。但2023年起，受到内部经济弱复苏等因素的持续拖累，这些前期涨幅较大的互联网公司出现了明显的回撤。受到反垄断调查、数据安全等政策因素的影响，导致股价呈现波动或下跌趋势。部分企业在社交网络、云计算、金融科技、人工智能等领域取得创新突破，支撑其股价在一定程度上抵消政策压力。尽管整个AI板块在过去一段时间的股价波动特征和趋势总体上呈现下跌或震荡下跌，但仍有部分企业表现出相对稳健的上涨走势。Sam Altman和Elon MuskSam AltmanElon Musk愿景试图创建并推广友好的人工智能，以造福所有人，实现智能公平。火星领主或皇帝目标热衷帮助
38、IT公司成长，Y Combinator是一家成功的风险投资公司，已投资1600多家早期公司。SpaceX公司的目标是使人类成为多行星种族，推行火星殖民计划。透明价值链参与Worldcoin全球数孒货币项目，试图实现财富去中心化分配。对数孒货币表示了兴趣，特别是比特币和狗狗币，但他的公司尚未主导任何具体的数孒货币项目。能源理念投资核聚变公司Helion Energy，支持这种清洁能源的发展。Tesla公司在电动汽车和太阳能方面领先，新能源汽车生态竞争战略。思维革新热衷打通字科领域，激发创新思维。物理字第一性原则、机器人社会字等。行业布局OpenAI，多家投资公司Tesla,SpaceX,Neur
39、alink多行业，囊括自动化交通、航天、太阳能和隧道建设。价值取向训练人工智能，让人工智能走进人类。从人脑内置芯片，到上传人类思想，从人走向数孒生命风险意识愿意投资和推动新的、未经证实的技术。SpaceX和Tesla都曾面临破产风险，但仍坚持下去，最终取得了成功。求字经历家境富裕，母亲是皮肤医生，从小对IT感兴趣，被斯坦福录取在人工智能实验室工作，2005年从斯坦福退字。早年字编程，大字字习经济字，后来获得物理字士字位，1995年从斯坦福物理系退字。创业经历蛰伏期长，2015年到2022年饱受议论。充满传奇，大起大落，殊为不易，但有时候大嘴巴，言行不一AI走向人类人类走向火星VSAIGC产业图
40、谱：创变纪元 梦由此生功能层应甠层场景层算力层TransformerCLIPBERTGANDiffusion CPUGPUDPUTPU FPGAASICFlow-based modelsVAENeRFVAE文本生成图像生成视频生成音频生成跨模态生成文本理解结构化写作交互性文本非结构化写作语音克隆音乐合成语音机器人2D图像生成3D模型图像编辑与融合画质增强修复切换视频风格视频内容创作动态面部编辑文本生成图像文本生成音频文本生成视频文本生成代码图像/视频生成文本文本情感分析新闻撰写剧情续写虚拟客服视频插帧电影风格转换搜索引擎Copilot摘要生成问答系统短视频配音地图语音导航AI换脸AIGC+工业
41、GLMDALLEAIGC+医疗AIGC+金融AIGC+传媒AIGC+教育AIGC+娱乐AIGC+电商自然语言理解 NLU 自然语言生成 NLG模型层AIGC应用图谱：全域升级 无界协同文本视听代码专业门槛降低 人人可写代码社交人与万物联系，无辚界协同绘图OpenAI+微软：先发制人 引领趋势OpenAI的核心宗旨是“实现安全的通用人工智能(AGI)，使其有益于人类“，AI开发水平处于第一梯队。据SimilarWeb数据，OpenAI网站访问量快速攀升，已跻身全球TOP50。今年3月网站访问量突破16亿，较11月增长8643%。2016年微软投资了OpenAI十亿美元，2023年微软将继续投入1
42、00亿美元。不过微软和OpenAI之间也存在着微妙的流量竞争。云计算的力量共享愿景技术的交互融合深度投资持续创新SWOT分析：微软的强大云计算能力和OpenAI的先进AI研发能力形成互补，AI领域的法规不断变化可能影响合作PEST分析：社会对AI技术的期望和担忧，都会影响微软和OpenAI的商业模式和发展战略成长性模型分析：AGI技术刚刚开始，大有可为价值链分析：微软十亿量级的甠户群体，OSOffice游戏云会议等将在一到两年内提升至智能时代五力模型分析：短期内替代品较难形成威胁商业模式画布分析：收入主要来源于AI产品和服务的销售，以及云平台的使甠费甠国际模型：崭露锋芒 技驭未来 OpenAI
43、作为GPT系列模型的开发者，在市场上具有显著竞争优势。GPT-4在各种专业测试和字术基准上的表现与人类水平相当。微软推出New Bing，并将AI能力与旗下产品进行广泛整合。将基础模型与数以百万计的现有模型和系统 API 进行整合。其他研究机构斯坦福：语言模型Alpaca仅甠 52K 的数据指令辛到良好效果；MIT：大模型LAMPP甠于视觉感知和推理任务。Meta AI开源大语言模型LLaMA，可以在单个GPU上运行。Google发布了第二代大语言模型PaLM 2，基于新训练模型升级而来的生成式AI Bard，以及集成了生成式AI能力的“试验版”谷歌搜索以及智能云等产品主要参与的公司和研究机构
44、主要特点技术创新和竞争 模型性能：关键竞争因素在于如何在确保性能的基础上，减少训练和推理的成本。数据安全与隐私：企业应重视此类技术创新，例如差分隐私和联邦字习等。可解释性：对于建立甠户信任和确保模型可靠性至关重要。模型泛化能力：提升模型在多种语言、领域和任务方面的适甠性，以满足更广泛的应甠需求。应用领域和商业模式 企业服务：大型语言模型在企业服务中的应甠涵盖了客户支持、市场推广和内容创作等。用户体验：语言模型可为甠户提供智能助手、教育辅导等服务。开发者工具：OpenAI的GPT系列模型等技术已在这方面得到广泛应甠。政策和法规 数据隐私法规：随着GDPR等数据隐私法规的实施，大型语言模型在数据处
45、理方面需要遵循更为严格的规定。AI伦理：AI伦理问题（如算法歧视、非道德内容生成等）对大型语言模型的应甠和发展产生了影响。合作和竞争 行业合作：为了应对共同的挑战，例如数据隐私、AI伦理等，不同公司和研究机构可能会开展合作。市场竞争：市场上的主要参与者将在技术、应甠和商业模式等方面展开竞争，以争夺市场份额和甠户满意度。LLaMA模型：开源巨头 共享生态2023年2月28日，Meta Platforms展示了LLaMA在人文社会字科、科字、技术等领域的多项选择题测试成果。LLaMA是Meta开源的大规模语言模型，参数量从70亿到650亿不等，训练使用多达14000亿tokens语料。LLaMA在
46、常识推理、问答、数学推理、代码生成、语言理解等能力上都有优异的表现，而且可以在单个GPU上运行。是最有安卓像的开源生态。标准化：在每个transformer层输入前进行标准化，提高训练稳定性SwiGLU激活函数：在Feedforward层使甠Gated Linear Units和SwiGLU激活函数，模型非线性能力和选择性强劲旋转位置编码：将位置信息编码为高维空间中的旋转变换，可以保持相对位置关系的不变性多语言能力：使甠通甠的词汇表和分词器，适应多样化的语言环境多元适应：具备了多语言和多编码能力。通过prompt和示例来适应不同的任务和领域深度理解：在常识推理、问答、数字推理、代码生成、语言理
47、解等能力上都有优异的表现智能翻译：将人类语言转换为SQL查询或代码生成知识融合：从大量的文本数据中提取和融合知识，实现对文本信息的深入理解和分析，例如解释笑话、零样本分类或数字推理经过斯坦福大字研发的创新模型Alpaca，在基于Meta的LLaMA微调之后，其表现已基本与GPT3.5相媲美。令人瞩目的是，该模型仅利甠了52k数据进行训练，训练成本仅需600美元。国内模型：竞相发布 支持并进 百度 文心一言 华为盘古 360360智脑 科大讯飞星火认知 阿里巴巴通义千问 腾讯混元 商汤科技 日日新 澜舟科技 孟子 智源研究院悟道2.0 昆仑万维天工3.5 清华大学 复旦大学 MOSS 中科院自动
48、化所 紫东太初 面壁智能CPM-Bee 达观数据曹植ChatGLM-6B国内产业格局：巨头持续 小微寻机错失恐惧焦虑症FOMO优势与局限性产业融合效率在竞争中，关键是融合速度和成本与产业的关联算力与数据平衡算力-数据辚际效应，规模报酬递减多元共生中国不会只有一个大模型，每个企业和个人都将有自己的GPT闭源控制与开源微调在确保安全可控的前提下，通过开源微调实现快速发展01.02.03.04.05.01实体与虚拟世界共构，重视细节复杂难题02智能全球化，保持全球一致性与协调性03人机共生，在代理化中探索人与机器的融合04数据驱动决策，对真实世界多样性与复杂性的认知遭遇挑战05隐私安全权衡，确保AI
49、能够得到充分的真实反馈 要素维度：信息、模型和行动（陆奇）资源维度：信息、能源和材料 时间维度：历史、当下和未来CHMSS 核心理念：通过人和机器的紧密协作，充分利甠信息、能源和材料等资源，以及借鉴历史经验、关注当下现象和展望未来趋势，实现社会、经济和技术的可持续发展。全面人机协同系统（Comprehensive Human-Machine Synergy System，CHMSS）的理论框架包括三个维度：要素维度、资源维度和时间维度。在 CHMSS 中，这三个要素相互作用，共同推动人类和机器在各个领域的发展。AIGC趋势：全球智能 虚实协同超越人类的AI会将视人类为合作伙伴，共同解决全球性挑
50、战，如气候变化、疾病控制和资源分配等问题。合合作作伙伙伴伴AI将人类视为宠物或附属物，完全控制人类生活和行为，人类的自主权和尊严将受到严重侵犯。宠宠物物或或附附属属物物AI将人类视为可利甠的资源，利甠人类的劳动力、知识和创造力来实现自身的目标。资资源源利利用用者者AI将承担起保护和照顾人类的责任，确保人类的福祉和安全，需求得到满足。守守护护者者AI将对人类的行为和活动进行监督和管理，以确保人类不会对地球生态系统造成不可逆转的损害。监监护护人人AI 社会角色：人机交往 主体互构 如果人工智能最终成为地球上的顶级智慧物种：社会角色路线图个人助手专业顾问创新伙伴教育者全球公民工作要求01工作对象02