Brett Winton: 在 AI 中拥有数据优势可能会带来巨大的性能/成本优势。 相对于 8000 亿个 token，1.2 万亿个 token 可以让你在同样的性能输出下，训练成本降低 1/3，推理成本降低一半。 https://t.co/dTvGHzbQjE 引用来自@wintonARK 的推文： Meta 开源了一种基于公开可用数据构建的语言模型，其性能优于 GPT-3（推理成本不到 1/10） ！ twitter.com/GuillaumeLampl…

Posted on 2023-02-25

原推：Having a data advantage in AI…

Brett Winton: Meta 开源了一种基于公开可用数据构建的语言模型，其性能优于 GPT-3（推理成本不到 1/10） ！ https://t.co/70oGIRsXap 引用@GuillaumeLample 的推文： 今天我们发布了LLaMA，4个基础模型，参数从7B到65B不等。 LLaMA-13B 在大多数基准测试中优于 OPT 和 GPT-3 175B。 LLaMA-65B 可与 Chinchilla 70B 和 PaLM 540B 竞争。 所有模型的权重都是公开的，可在 research.facebook.com/publications/l… 1/n https://t.co/DPyJFBfWEq

Posted on 2023-02-25

原推：Meta open sources a language …

孤岛存储

Posted on 2023-02-25

原文： https://xkcd.com/2742/