区块链澳洲幸运5开户（www.eth0808.vip）:ChatGPT背后的经济账

区块链澳洲幸运5开户（www.eth0808.vip）区块链澳洲幸运5开户（www.eth0808.vip）是用以太坊区块高度哈希值开奖的区块链澳洲幸运5游戏，区块链澳洲幸运5开户有别于传统澳洲幸运5游戏，区块链澳洲幸运5开户绝对公平，区块链澳洲幸运5开户结果绝对无法作假。

,

来源 | OneFlow

ChatGPT能否取代Google、百度这样的传统搜索引擎？为什么中国不能很快做出ChatGPT？当前，对这些问题的探讨大多囿于 大型语言模型（LLM）的技术可行性，忽略或者非常粗糙地估计了实现这些目标背后的经济成本，从而造成对 LLM的开发和应用偏离实际的误判。

本文作者从经济学切入，详细推导了类 ChatGPT模型 搜索的成本、训练GPT-3以及绘制LLM成本轨迹的通用框架，为探讨 LLM成本结构和其未来发展提供了可贵的参考视角。

作者｜Sunyan

翻译｜杨婷、徐佳渝、贾川

重点概览：

LLM驱动的搜索已经在经济上可行 ：粗略估计，在现有搜索成本结构的基础上，高性能LLM驱动搜索的成本约占当下预估广告收入/查询的15%。 但经济可行并不意味着经济合理 ：LLM驱动搜索的单位经济性是有利可图的，但对于拥有超1000亿美元搜索收入的现有搜索引擎来说，添加此功能可能意味着超100亿美元的额外成本。 其他新兴的LLM驱动业务利润很高 ：比如Jasper.ai使用LLM生成文案，很可能有SaaS服务那样的毛利率（超75%）。 对于大公司而言，训练LLM（即使是从头开始）的成本并不高 ：如今，在公有云中训练GPT-3仅需花费约140万美元，即使是像PaLM这样最先进的模型也只需花费约1120万美元。 LLM的成本可能会显著下降 ：自GPT-3发布的两年半时间里，与GPT-3性能相当的模型的训练和推理成本下降了约80%。 数据是LLM性能的新瓶颈 ：与增加高质量训练数据集的大小相比，增加模型参数的数量能获得的边际收益越来越小。

1

动机

LLM的惊人表现引发了人们的广泛猜想，这些猜想主要包括LLM可能引发的新兴商业模式和对现有模式的影响。

搜索是一个有趣的机会，2021年，仅谷歌就从搜索相关的广告中获得了超1000亿美元的收入[1]。ChatGPT（一个使用LLM的聊天机器人，它可以生成高质量的答案，以回答类似于搜索的查询）的“病毒性”传播已经引发了许多关于搜索领域潜在影响的思考，其中一个就是LLM如今的经济可行性：

一位声称是谷歌员工的人在HackerNews上表示，要想实施由LLM驱动的搜索，需要先将其成本降低10倍。 与此同时，微软预计将在3月份推出LLM版本的Bing[3]，而搜索初创公司如You.com已经将该技术嵌入到了他们的产品之中[4]。 最近，《纽约时报》报道，谷歌将在今年推出带有聊天机器人功能的搜索引擎[5]。

更广泛的问题是： 将LLM纳入当前产品和新产品的经济可行性如何？在本文中，我们梳理了当今LLM的成本结构，并分析其未来可能的发展趋势。

2

重温LLM工作原理