A100芯片热卖,AI创业者会不会被黄牛割韭菜?
目前科技圈中关于大模型算法和硬件底座的竞争。尽管大型科技公司如阿里、腾讯已经在云服务领域发展出了适合大模型算法的软硬兼备的基础设施,但新进入市场的公司仍面临着订购高性能芯片的困难。
这是因为AIGC的算法竞争已经演变成为算力竞争。根据市场调查机构 TrendForce 的数据,GPT-3.5大模型需要2万块GPU来处理训练数据,而A100芯片已经难以从官方渠道购得。即使英伟达推出了H800,其综合使用效率只有A100的60%,价格也很昂贵,还需要排队购买。
大公司已经积累了大量的A100和H800芯片,例如阿里云和腾讯云。但新进入市场的创业公司很难订购到足够的高性能芯片。一些黄牛在市场上提供A100芯片,售价为15万元/张,这相当于100%的溢价。但是,另一个黄牛提供的现货售价是155万元/张。这意味着,如果有人以原价屯了A100芯片,他们现在最高能获得2000%的投资回报率。
因此,虽然创业公司难以订购到高性能芯片,但仍有一些渠道可以获得芯片。大模型和芯片黄牛的话题,尤其是在当前市场上,芯片黄牛因为炒作而变得越来越热门,而大模型创业者们则需要大量的算力来训练他们的模型。文章指出,为了估值着想,大模型创业者们最好是宣传准备自建算力矩阵,但由于成本较高,许多创业者可能会面临困难。相比之下,芯片黄牛似乎更容易获得利润,因为芯片价格飙升,黄牛可以利用自己手里的芯片来赚钱。虽然黄牛的行为有些不道德,但在当前市场上,这种行为似乎是可以取得成功的。
文章还提到了一个有趣的话题,即OpenAI首席执行官Sam Altman所说的公司需要筹集到1000亿美元以支付训练AI模型的高昂费用。如果OpenAI真的能融到这么多钱,那么其他创业者也可以效仿这个例子,融资额度可能会越来越高。不过,这也可能导致类似军备竞赛的局面,导致市场上的人们都在不断地炒作和涨价。因此,大家需要深入思考这个话题,想方设法避免这种情况的发生。