百度演示大模型微调过程 “文心一言”调用成本下降近九成

近期在技术交流会上百度带来对“文心千帆大模型平台”能力的现场演示。本次演示的主要目的是展现该模型的推理能力调用和模型微调两部分。

演示结果为文心一言下属的数据可视化应用Sugar可以对结构化的数据采集进行理解并快速输出图饼。面对模型无法理解的画折线图需求，工作人员则通过文心千帆大模型平台的微调功能导入100条标注数据后对Prompt进行现场改写，实现折线图功能。百度集团副总裁侯震宇表示：即便从头训练模型的成本依然高昂，但使用大模型以及基于大模型底座训练和微调模型的成本已经显著降低，现在调用文心一言的成本已经降低到模型高发布时的10%。对于大模型，各个公司都在使出全力，已经从最初的研发到达竞争最激烈的中断时期，未来低成本和高性能也会成为各个厂商追求的目标。