专业知识分享人工智能 · 设计

UXdaily | 快速了解生成式人工智能的演变与现状

2024-05-1719 MIN READ原载于微信公众号 ↗

世界已经经历了多个创新周期,这是一条支配一切的宇宙法则。在人类的历史长河中,正是这些创新周期改变了世界的走向,引领着人类进入全新的时代。

比如,农业的发现。它彻底改变了人类的生活方式,从狩猎采集者转变为创造者、耕种者和定居者,众多伟大文明在世界各大河流的岸边崛起。再比如,硅的发现重新定义了医学和天体物理学领域,而蒸汽机则带来了大规模生产和商业的黄金时代。

当今世界正处于一场由人工智能驱动的数字化创新周期中,数字化已经渗透到商业和个人生活的方方面面,从物联网和增强现实到生成式人工智能——它们成为这个时代的主角。

本指南将帮助读者深入了解生成式人工智能,探索其未被挖掘的潜力,并指导如何利用其能力在商业世界中获得巨大成功。

:: 01

什么是生成式人工智能?

—

生成式人工智能是一项先进技术,能够以文本、语音、图像甚至合成数据的形式生成内容。它主要利用深度学习模型和大型语言模型来执行创造性的任务。据麦肯锡称,生成式人工智能的表现将在2040年之前与人类顶尖25%的水平相媲美,能够完成任何任务。

已成为全球热点的生成式人工智能,就像人工智能界的迈克尔·乔丹连续得分一样引人瞩目。它不仅仅局限于进行上下文对话,还能提供定制建议、直观解决方案等。其应用已广泛分布于高科技、农业、消费品等各个行业。全球领先的研究机构预测,生成式人工智能具有巨大的未开发潜力,这一点是毋庸置疑的。

  • 根据2023年新兴技术的炒作周期中的高期望峰值,Gartner将生成式人工智能置于充满期待的巅峰位置。
  • 德勤估计,到2032年,生成式人工智能市场规模将达到2000亿美元。这将占总人工智能支出的约20%,而目前仅占约5%。

:: 02生成式 AI 的历史

—生成式人工智能这个术语可能是最近的一个潮流,但其背后的历史,可以追溯到至少70年前——当人类真正开始思考机器是否具有像人类一样思考和处理的能力时。从上世纪50年代的文本分析的起步,到强大的语言模型如GPT(生成式预训练变换器)的出现,每个阶段都标志着我们在创造能够理解和生成人类语言的机器方面取得了重大飞跃。

_Θ  1950年代:文本分析——人工智能的曙光_

20世纪50年代到60年代初期,人工智能领域还处于起步阶段。研究人员探索着创造能够模拟人类智能的机器的可能性。在这个方向上最早的尝试之一就是文本分析。这个时代见证了最初的计算机程序的发展,旨在处理和分析文本数据。早期的文本分析系统主要集中在简单的任务上,如信息检索和关键词提取。其目的是让计算机能够以一种类似人类理解的方式理解和操作文本。虽然这些努力在当时是开创性的,但它们在功能上存在局限性,缺乏我们今天所研究的人工智能的复杂性。

_Θ  1960年代:基于规则的系统和知识库_

在1960年代后半期和1970年代,人工智能研究转向了基于规则的系统和知识库。研究人员试图利用明确的规则和逻辑推理将人类知识和专业知识编码到计算机程序中。这种方法导致了专家系统的发展,这些系统能够通过遵循预定义的规则来解决特定的问题。专家系统标志着人工智能的重大进步,因为它们证明了计算机可以执行需要人类专业知识的任务。然而,它们的局限性在于需要编写大量手动规则和对新领域的适应性有限。

_Θ  1980年代:自然语言处理出现_

20世纪80年代和90年代见证了自然语言处理(NLP)的崛起,这是人工智能领域的一个关键领域,旨在使机器能够理解和生成人类语言。研究人员开始开发更先进的技术来解析和分析文本,为机器翻译、语音识别和情感分析等应用铺平了道路。NLP系统在很大程度上仍然是基于规则的,依赖语法和句法规则。这些系统能够处理比早期文本分析更复杂的语言任务,但距离达到人类水平的语言理解还有很长的路要走。

_Θ  2000年代:机器学习和大数据革命_

千禧年的转折点标志着人工智能研究的重大转变,机器学习的兴起和大量数字数据的可用性成为了主要特点。机器学习算法,特别是神经网络,在解决广泛的人工智能任务中表现出了高效性,包括与文本和语言相关的任务。这个时代诞生了“大数据”的概念,以及大规模数据分析的发展。随着深度学习等技术的出现以及海量数据集的可用性,人工智能模型越来越能够理解和生成人类语言。

_Θ  2020 年代:GPT-3 和生成式 AI 的突破_

在2020年代,世界见证了GPT-3(生成式预训练变换器3)的诞生,这是人工智能和自然语言处理领域的一个重要里程碑。GPT-3在庞大的文本数据语料库上进行了预训练,并能够生成高度连贯和语境相关的文本。随着ChatGPT运行的GPT 3.5的推出以及GPT的最新版本GPT 4的推出,GPT的演变仍在继续。

NLP 的演变——从文本分析到 GPT

:: 03打开生成式人工智能的引擎盖 —— 什么是LLM?—如果不了解大型语言模型,任何关于生成式人工智能的讨论都是不完整的,它被简称为LLM。大型语言模型是通过大型未标记数据集进行训练的,具有巨大数量的参数。GPT-3就是在1750亿个参数的基础上进行训练的!这些未标记的数据集可以是开源的,比如维基百科页面,也可以是私有的,比如基于需要的内部培训文档。LLM的整个功能中心都围绕着词汇或词组的概率分布,这些词汇或词组被组合在一起形成句子或短语。

LLM可以预测句子中可能的下一个词。对下一个可能的词的预测是基于特定的“有效性”,而这种有效性不一定由语法规则确定。相反,它是通过人类如何构造语言句子来确定的。通过对大量数据集进行语言训练,得到学习或在一定程度上模仿人类写作语言的结果。让我们通过一个例子来加以说明。

“现代人工智能已成为企业武器库中的最新武器。”

如果是AI生成了上述句子,它会为每个词及其替代词关联一个概率分数。这个分数是根据人类是否会以这些特定词及这个确切顺序来创建句子的概率计算出来的。

“现代人工智能已成为最新的…”

从概率分数列表中,LLM可以理解“武器”这个词被人类频繁使用,而不是其他三个词。在这个假设的例子中,我们只显示了四种可能的替代方案。而在现实中,词汇列表将更长,涉及更多变量。

人们必须理解,人工智能处于持续学习的阶段。它将深入研究并计算字母的出现频率。就像在“w”之后,“e”是最常出现的字母。所有这些都是通过先进的机器学习算法实现的。

一些非常常见的LLM包括:

  • Open AI的GPT 3、3.5和4
  • Google的LaMDA和PaLM
  • Hugging Face的BLOOM
  • Meta的LLaMA
  • NVIDIA的NeMO LLM

在这个列表中,Meta的LLaMA是一个开源的LLM,全世界的开发者都可以利用它来创建可定制的私有模型。虽然LLM(语言模型)和生成式人工智能是相关概念,但它们在关注点、能力和应用方面有着明显的区别。

近年来硬件的进步已经加快了AI模型的训练速度。强大的GPU和TPU可以在几天内而不是几周内训练大型神经网络。例如,NVIDIA A100 GPU训练BERT-large模型的速度比V100 GPU快7倍,比T4快11倍。谷歌的TPU甚至比A100 GPU的性能更高。这一进展大大提高了模型训练效率,并使更大、更复杂的AI模型成为可能。

:: 04

理解生成式人工智能模型及其类型—

现在我们已经讨论了GANs,可能还会想要更多地了解其他类型的生成式人工智能模型。那就让我们深入了解一下当今使用的关键生成式人工智能模型。

生成式人工智能模型是人工智能(AI)模型的一个子集,旨在生成与现有数据类似或遵循现有数据中的模式的新数据。生成式人工智能模型与其他专注于分类、预测或强化学习的AI模型不同。以下是生成式人工智能模型的一些关键特征和类型。

数据生成: 生成式人工智能模型具有创建新内容的能力,该内容模仿训练数据中观察到的模式或风格。这些内容可以是文本、图像、音乐等各种形式。

无监督学习: 许多生成模型采用无监督学习技术,模型在没有明确标签或目标的情况下学习数据中的模式和结构。这使它们能够生成数据,而无需具体地生成示例。

变化性: 生成模型通常以其产生多样化输出的能力而闻名。例如,它们可以生成不同风格的艺术作品,以不同方式重新表述相同的文本段落,或者图像的多个版本。

现在,让我们探索一些常见的生成式人工智能模型类型。

生成对抗网络(GANs): GANs由两个神经网络组成,一个是生成器,一个是鉴别器,它们之间存在竞争关系。生成器创建数据,而鉴别器评估该数据的真实性。这种对抗性过程导致生成器改善其创建真实数据的能力。GANs已被广泛用于图像生成、风格转换和内容创作等领域。

变分自动编码器(VAEs): VAEs是一种基于概率建模原理的生成模型。它们旨在学习数据的潜在概率分布。VAEs通常用于图像生成、数据压缩和图像重建。

循环神经网络(RNNs): RNNs是一种专门设计用于顺序数据的神经网络架构,例如文本和时间序列数据。它们用于文本生成、机器翻译和语音识别。然而,传统的RNNs在捕获长期依赖关系方面存在局限性。

长短期记忆(LSTM)网络: LSTM是一种特殊类型的RNN,可以捕捉顺序数据中的远程依赖关系。它们在自然语言处理任务中表现出色,包括语言建模、文本生成和情感分析。

生成式预训练变换器(GPT) : GPT模型是生成式人工智能的一个最新突破。这些模型利用变换器架构和大规模的文本数据预训练,生成连贯且语境相关的文本。它们在包括聊天机器人、内容生成、翻译等广泛的自然语言理解和生成任务中表现出色。

除了以单一的人工智能模型类型进行划分,我们还可以 从多模态模型的视角 来了解——

多模态生成是人工智能的一个重要方面,涉及通过理解不同模态之间的连接和交互来学习生成多种类型数据的模型。多模态生成模型经常用于实际应用中,例如视觉语言生成,文本音频生成,文本图形生成和文本代码生成。

文本到文本: 解码器分为两种类型:一种是联合训练模型,另一种是冻结模型。联合训练模型需要在预训练期间进行完整的跨模态训练,以确保两种模态(比如文本和图像)能够协调一致;而冻结模型则是固定语言模型的部分,只对图像编码器进行训练。

文本到为图像: 解码器分为基于生成对抗网络(GAN)的方法和基于扩散(Diffusion)的方法。基于GAN的方法使用鉴别器和生成器,它们接收文本嵌入和噪声向量来生成图像。StackGAN和AttnGAN是在指令学习中使用简单文本编码器的基于GAN的模型的例子,而StyleCLIP则使用对比学习来匹配文本和图像特征。

文本到音频: 模型专注于合成或识别任务。然而,文本到音频的生成涉及使用多模态模型创造新的音频或文本,这与合成或识别任务不同。AdaSpeech和Lombard是提出的用于声音定制和生成高度可理解语音的模型。跨语言生成也是跨语言转移声音的重要工作。这项工作的目标是专注于文本到音频的生成,而不是合成或识别任务。

文本到音乐生成: 模型被训练来根据文本输入创造音乐,或者为音乐生成描述和标题。一些工作使用跨模态学习来发现音频和歌词之间的相似性或结合与音乐相关的多种类型的信息。一个例子是JTAV,它使用跨模态融合和注意力池化技术融合文本、声学和视觉信息。另一个例子是MusCaps,这是一个音乐音频字幕模型,它通过多模态编码器处理音频-文本输入,并利用音频数据预训练来获取有效的音乐特征表示。

文本到图谱生成: 可以通过将自然语言文本转换为结构化的知识图谱来增强NLP系统。这可以帮助机器处理组织良好和压缩的内容,并且有许多工作集中在从文本中提取知识图谱以协助文本生成。文本到图形生成也可以通过将分子图谱与语言描述相桥接来帮助计算机辅助药物设计。

文本到分子结构: Text2Mol是一个系统,它使用基于BERT的文本编码器和分子编码器根据语言描述检索分子图谱,而MolT5提出了一个自监督学习框架,用于分子结构生成。

文本到代码生成: 使用大型语言模型(LLM)从自然语言描述中生成编程代码,需要策略来捕捉NL(自然语言)和PL(编程语言)之间的相互依赖关系。此外,文本到代码模型需要能够理解PL的丰富结构信息和语法,并且需要是多语言的,以实现更好的泛化(能生成多种类型的代码语言)。

:: 05

生成式人工智能的跨行业应用—

生成式人工智能的顶级应用有哪些?它的影响无处不在,彻底改变了行业、功能和角色的光谱。从增强内容创作到提升个性化教育、医疗保健、客户服务和营销,生成式人工智能的应用是无限的。我们将其分为两个不同的类别,你可以通过行业和功能探索生成式人工智能的应用。

**按行业分**

_Θ_营销、广告和娱乐行业

内容创作: 生成式人工智能驱动艺术、音乐、文学等形式的内容创作。艺术家和音乐家利用AI生成新作品,探索创新的创作方向。

视频游戏开发: AI驱动的生成系统创建游戏环境、角色,甚至对话,减少了游戏开发所需的时间和资源。

剧本写作: 编剧和内容创作者利用生成式人工智能在剧本写作中生成对话、情节和角色互动,以提供帮助。

_Θ_教育行业

个性化学习: 生成式人工智能通过生成定制的作业、测验和学习材料,根据个人学生的需求调整教育内容,促进个性化学习体验。

知识库: 生成式人工智能可以用来创建详尽的知识库,学生可以以对话式风格获取即时信息。

虚拟实验室: 生成式人工智能驱动虚拟实验室,为学习科学、工程和其他实践学科的学生模拟实验和场景。

_Θ_医疗保健行业

医学图像生成: 利用生成式人工智能生成合成医学图像用于训练机器学习模型,提高诊断准确性,并为教育目的模拟罕见的医学状况。

药物发现: 制药公司利用生成式人工智能通过生成分子结构来发现新的药物化合物,加快药物开发过程。

个性化医疗: AI驱动的生成模型分析患者数据,生成个性化的治疗方案,考虑到基因因素、病史和当前健康状况。

_Θ_制造业

产品设计: 生成式设计利用AI算法生成优化的产品设计,考虑材料、重量和结构完整性等因素,简化产品开发流程。

质量控制: 生成式人工智能模型为质量控制测试生成合成数据,确保制造过程符合质量标准。

供应链优化: AI生成的需求预测和供应链场景帮助制造商就生产和分配做出明智决策。

_Θ_软件与科技行业

代码生成: 生成式人工智能可以通过生成常见编程任务的代码片段和模板来协助开发人员,加快开发过程。

漏洞检测: AI驱动的工具可以生成合成测试用例和场景,帮助更有效地识别和修复软件漏洞。

IT安全: 生成式人工智能模型可以模拟网络攻击场景,帮助IT部门识别漏洞并加强网络安全措施。

**按功能应用分**

_Θ_客户服务

聊天机器人和虚拟助手: 生成式人工智能驱动智能聊天机器人和虚拟助手,处理客户查询,提供信息,并解决问题,全天候为客户服务。

情感分析: AI生成的情感分析报告,帮助客户服务团队了解客户的情感和反馈,实现更具同理心和有效性的回应。

自动票务路线: 生成式人工智能算法协助客户查询路由到正确的部门或座席,优化响应时间和问题解决方案。

_Θ_市场营销

内容生成: 生成式人工智能协助营销人员生成高质量且引人入胜的内容,包括博客文章、社交媒体更新和广告文案等。

个性化: AI算法利用客户数据生成个性化的营销活动,为个别客户量身定制内容和推荐。

A/B测试: 生成式人工智能可以提出A/B测试的想法,帮助营销人员通过预测哪种变体会产生最佳结果来完善其策略。

_Θ_人力资源

自动化简历筛选: 生成式人工智能通过根据不同参数(如资格、教育、技能等)对简历进行分类来加速筛选过程。

个性化学习路径: AI通过生成定制的培训建议、自动化评估等,为员工制定个性化的发展计划。

虚拟人力资源助理: 由生成式人工智能驱动的聊天机器人可以与员工分享政策信息,顺利引导新员工入职,回答组织问题等。

_Θ_销售

潜在客户生成和评分: 生成式人工智能分析客户档案,识别潜在客户,并通过将它们分组到优先级中,生成有针对性的销售团队列表。

销售内容: AI协助创建销售资料,如推销文稿、销售电子邮件和产品演示,以增强销售流程。

价格优化: 生成式人工智能模型可以根据市场动态和客户数据推荐定价策略,并生成报价。

_Θ_运营与采购

维护规划: 生成式人工智能协助预测设备维护需求,优化维护计划,减少停机时间。

供应商选择: 生成式人工智能分析供应商数据和市场趋势,建议合适的供应商,帮助采购部门做出明智的决策。

供应商谈判: 生成式人工智能提供谈判策略,协助采购专业人员获得有利的条款和价格。

:: 0 6了解生成式 AI 的局限性

—

“(生成式)人工智能就像一个被美化了的录音机。它获取了人类在网络上创建的片段,将它们拼接在一起,并将其作为自己创造的东西呈现出来。人们会说,‘哦,天哪,它就像是一个人类,很像人类。’”

—— 世界知名理论物理学家和未来学家迈克·卡库

每个人都关心的一个关键问题是“ChatGPT会取代我的工作吗?”可以非常肯定的是,这些担忧是没有根据的,因为生成式人工智能是没有意识的,至少现在还没有。有意识的设备仍然是一个未来的梦想。在对它的热烈的讨论中,从现实角度区分这项突破性技术的炒作和现实非常重要,让我们从实际角度理解生成式人工智能的局限性。

_Θ_理解语境

生成式人工智能在理解语境方面存在困难,导致在自然语言处理任务中偶尔出现荒谬或不相关的回复。

_Θ_真正的创造力

虽然它可以模仿创造性的风格,但生成式人工智能缺乏真正的创造力、想象力和情感深度。它依赖于模式和数据,而不是真正的灵感。

_Θ_幻觉

生成式人工智能有一种倾向,即患上一种称为幻觉的病症。人工智能幻觉会根据其对情景或语境的理解生成虚假内容。

_Θ_偏见和公平性

生成式人工智能模型可能无意中延续了其训练数据中存在的偏见,导致产生反映社会偏见的有偏倚的输出。

:: 07

生成式人工智能的未来

—

生成式人工智能的故事远未结束,因为它不断地学习和成熟。它的未来前景也令人瞩目,将重塑我们与技术互动和解决复杂问题的方式。在利用其潜力的同时,解决其挑战是至关重要的。我们相信生成式人工智能将在以下三个领域的未来影响。

_Θ_快速频繁的内容创作

尽管生成式人工智能在实现真正的创造力方面存在局限性,但它可以以快速和大规模的方式创建跨广泛主题的多种形式的内容。同时,这可以在跨行业、功能和角色中利用,推动组织目标。

_Θ_自然和直观的对话

虚拟助手和聊天机器人将变得更加能够处理复杂的查询,提供个性化的推荐,并进行情感智能对话。它们将在客户服务、医疗保健和教育领域发挥重要作用。

_Θ_规模化的个性化

生成式人工智能将在各个行业实现超级个性化,从营销到医疗保健。AI系统将分析大量数据,提供定制的体验和建议。个性化的广告活动、内容和产品推荐将成为常态,增强用户的满意度和参与度。

_Θ__基于__提示(Prompt)的学习_

提示学习是一种新兴的预训练大型语言模型的方法,它通过找到一个模板来直接预测基于提示的预测概率。这种方法允许模型在大量文本上预训练,并能够轻松适应新领域,节省了调优的时间和精力。提示工程是关键步骤,涉及设计有效的提示,而答案工程则确保生成的答案与真实答案相匹配。上下文学习作为提示学习的一部分,通过在提示中加入示例和指令,有效提升了模型性能,展现了生成式AI在语言理解与生成方面的进展。

生成式人工智能的未来肯定是属于新世代的,你准备好迎接了吗?

🚀 跟上最新技术发展

📈 学习技术趋势

📱 公众号后台回复【人工智能趋势】

💡 领取斯坦福人工智能指数报告


ABOUT US

本文原载于微信公众号,正文与配图已转存至本站以便长期访问。 查看原文 ↗

有想具体聊聊的问题?把你的情况说一说。

联系咨询