这就对算力的要求就降到很低,训练可能有十张消费级显卡在一个场景就能用起来,非常适合我们国家,这也是我们弯道超车的一个场景。
但如果把大模型越做越小,场地走垂直化、场地产业化、企业化、场景化的道路,可能不需要万亿、千亿的参数,只需要百亿的参数,再加上一些私有的核心数据加持,在一个垂直单元上是可以超过GPT-4的。能不能做这个大模型取决于两个因素:训练一是场景下有没有数据知识,因为没有知识、光有场景,训不出大模型。
而大纵深是什么概念呢?大模型像发动机,场地现在大模型厂商在造世界上最牛、最快的发动机,但是B端企业要的不是发动机,而是一辆车。大模型做小也能弯道超车靳强:训练OpenAI发布Sora,训练掀起新一轮对人工智能的讨论热潮,国产大模型能达到Sora的水平吗?张鹏:Sora确实令人惊艳,但我们仔细研究了它的技术报告之后,发现它并没有外界看起来的那么新奇。2024年两会期间,场地人工智能+首次被写入《政府工作报告》。
我觉得,训练国产大模型能否做到Sora这种水平就是一个资源和时间的问题。大模型与产业的结合:场地小切口,大纵深张志伟:周鸿祎先生说过,今年是大模型场景应用元年。
所以,训练我谈的小切口,就是刚开始宁可保守一点,积小胜于大胜。
张鹏:场地通用大模型的能力提升所衍生的能力,能让我们去寻找到大模型原生的应用或者大模型原生场景。对于上述两个问题,训练本文撷取了相关节目要点。
如果GPT-4是100分的话,场地GPT-3.5差不多应该有75分到80分,我认为这个速度就很快了。张鹏:训练通用大模型的能力提升所衍生的能力,能让我们去寻找到大模型原生的应用或者大模型原生场景。
我现在说话比较谨慎,场地你说大了,别人说你自卑。但如果把大模型越做越小,训练走垂直化、训练产业化、企业化、场景化的道路,可能不需要万亿、千亿的参数,只需要百亿的参数,再加上一些私有的核心数据加持,在一个垂直单元上是可以超过GPT-4的。