Post

OpenAI:塑造人工智能新纪元的奠基者

OpenAI是一家美国的人工智能(AI)研究实验室,由非营利性的OpenAI Incorporated和其营利性子公司OpenAI Limited Partnership组成。OpenAI的宣称目标是推动和发展友好的AI。自2015年成立以来,它在AI领域取得了众多令人瞩目的成就。其最新的语言模型GPT-4更是在AI的发展历程中创下了新的里程碑。

OpenAI logo

OpenAI的发展历程如下:

1. 2015-2018:非盈利开始阶段

OpenAI成立于2015年,由Sam Altman, Greg Brockman, Reid Hoffman, Jessica Livingston, Peter Thiel, Elon Musk, Amazon Web Services (AWS), Infosys, 和 YC Research共同宣布,并承诺向该项目投入超过10亿美元。

OpenAI logo

在这个阶段,OpenAI的目标是与其他机构和研究者自由合作,将其专利和研究公开给公众。在这个阶段,OpenAI发布了一些重要的产品,如OpenAI Gym,Universe和GPT-1。其中,GPT-1模型基于transformer架构,它展示了语言的生成式模型如何通过对具有长段连续文本的多样化语料库进行预训练来获得世界知识和处理长程依赖,该模型拥有1.17亿个参数。

OpenAI logo

2. 2019:转变为盈利公司

2019年,OpenAI从非盈利转变为“有盈利上限”的盈利公司,盈利上限为任何投资的100倍。这一转变使OpenAI能够合法地吸引风险投资基金的投资,并能够向员工授予公司股权。这样应聘者就可以说“我要去OpenAI,从长远来看,这对我们一家人来说并不会有什么不利影响。”因为许多顶级研究员之前在Google Brain、DeepMind或Facebook工作,这些公司提供的股票期权是非盈利组织无法提供的。在这一年,OpenAI与微软建立了合作关系,微软向OpenAI投资了10亿美元,公司随后向员工分发了股权。从那时起,OpenAI的系统就运行在微软的Azure-based超级计算平台上。OpenAI随后宣布了其商业化许可技术的意图,OpenAI计划在“五年内,甚至可能更快”的时间里花费这10亿美元。Altman表示,即使是10亿美元可能也不够,实验室可能最终需要“比任何非盈利组织都要多的资金”来实现人工通用智能。这一年应该是OpenAI历史上里程碑的一年,在获得资本巨头的金钱加持之下,很快他们的工作就有了更多的进展和回报。也正是在这一年,OpenAI推出了GPT-2,这是一个相较于GPT-1更大的模型,能够生成连贯的文本。当时出于对潜在人工智能滥用的担忧,例如用于编写假新闻,GPT-2的完整版本一直拖到了11月才发布。它所训练的语料库被称为WebText,包含了略高于800万份文件,共计40GB的文本,这些文本来自于在Reddit提交的至少有3个赞的URL。它通过使用字节对编码,避免了某些用单词标记编码词汇的问题,这允许通过对单个字符和多字符标记的编码来代表任何字符串。

OpenAI logo

3. 2020年至今:指数成长

从2020年开始,OpenAI发布了GPT-3,这款模型拥有1750亿的参数,相比其前身GPT-2的15亿参数,无疑是一个巨大的飞跃。在语言模型中,规模确实很重要。GPT-3能够生成各种类型的文本,包括吉他曲谱或计算机代码。例如,通过调整GPT-3生成HTML而非自然语言,网络开发者Sharif Shameem展示了他如何通过给出“看起来像西瓜的按钮”或“大红色的欢迎来到我的新闻简报文字和蓝色的订阅按钮”等提示,让它创建网页布局。GPT-3旨在自然语言回答问题,但它也可以在语言之间进行翻译和连贯地生成即兴文本。GPT-3的内部究竟发生了什么,我们并不清楚。但它似乎擅长的是合成它在互联网上找到的文本,使其成为一个由数百万个文本片段创建的巨大、多样的剪贴簿,然后根据需求以奇特和美妙的方式将这些片段粘贴在一起。

OpenAI logo

2022年3月15日,OpenAI发布了GPT-3.5。这是OpenAI在GPT-3之后的一个重要迭代,它在GPT-3的基础上增加了编辑和插入的能力。2022年12月,OpenAI在发布基于GPT-3.5的新AI聊天机器人ChatGPT的免费预览版后,受到了广泛的媒体关注。据OpenAI称,预览版在前五天内就收到了超过一百万的注册。

OpenAI logo

根据2022年12月路透社引述的匿名消息来源,OpenAI预计在2023年的收入将达到2亿美元,在2024年的收入将达到10亿美元。

到2023年1月,OpenAI正在进行的融资谈判将公司的估值提高到290亿美元,这是2021年公司估值的两倍。2023年1月23日,微软宣布对OpenAI进行了新的多年期100亿美元的投资。这笔投资被认为是微软将OpenAI的ChatGPT集成到Bing搜索引擎的努力的一部分。

2023年3月14日,OpenAI发布GPT-4,能够接受文本或图像输入。OpenAI宣称,这项更新的技术通过了模拟的法学院律师考试,得分排名在应试者的前10%左右;相比之下,之前的GPT-3.5,得分排名仅在后10%左右。GPT-4还可以阅读、分析或生成多达25,000字的文本,并可以所有主要编程语言进行代码编写。

OpenAI logo

OpenAI的发展历程充分展示了AI技术的指数级增长。从最初的GPT-1,到现在的GPT-4,每一次的迭代都在参数数量、处理能力和应用范围上实现了质的飞跃。

OpenAI logo

我们即将进入一个正在经历巨大变革的世界,我们正处于AI的起跑线上,每个行业都将被革命、重生。在过去40年的时间里,人类创造了个人电脑、网路、移动设备、云端技术。现在的AI时代,我们又将创造什么?没有人会知道。但无论是什么,请全力以赴去追求它。跑吧!不要慢慢走。不论是为了食物而奔跑,或不被他人当做食物而奔跑。你往往无法知道自己正处在哪一种情况,但无论如何,都要保持奔跑。

OpenAI logo

This post is licensed under CC BY 4.0 by the author.

Comments powered by Disqus.