您的位置:首页 >互联网 >

AI军备竞赛Meta加入:发布号称优于ChatGPT的开源大语言模型

2023-02-27 18:35:10   编辑:包彬全   来源:
导读 Meta官网于当地时间的2月24日,发布了一款新型的人工智能大型语言模型LlaMA,Meta首席AI科学家杨立昆表示,LLaMA 130亿参数规模的模型性能在一些基准测试中由于OpenAI推出的GPT3。

Meta官网于当地时间的2月24日,发布了一款新型的人工智能大型语言模型LlaMA,Meta首席AI科学家杨立昆表示,LLaMA 130亿参数规模的模型性能在一些基准测试中由于OpenAI推出的GPT3。

从参数规模上来分析,Meta所提供的有130亿,360亿,70页和330页这4种参数规模,使用的是20种语言进行训练。据Meta的首席执行官马克扎克伯格称LlaMA发布这一模型的宗旨就是帮助研究人员不断的推进工作,再生成对话文本以及总结书面材料,预留蛋白质结构,和证明数学定理等复杂的任务方面会有很大的前景。

LLaMA 130亿参数规模的模型能够在单个的CPU上运行,650亿参数的模型可以和谷歌5400亿参数的PaLM模型,DeepMind 700亿参数的Chinchilla模型进行竞争。与OpenAI的GPT和谷歌的LaMDA机密训练资料和演算所不同的在于LlaMA不仅性能更好,更小,而且是基于公开资料进行训练的。