Brett Winton: 在不使用人工反馈的情况下，AI 成本下降 3 倍（对于相同的性能） 我们预计今年的成本下降约 3 倍；我们勉强到了二月 https://t.co/qfq3dJannd 引用来自@sytelus 的推文： 指令调优被证明是减小 LLM 大小的最重要武器。去年，我们展示了 T0 模型在零射击中击败了 16 倍大的 GPT-3。下面的论文现在突破了极限，仅 3B 模型就击败了 58 倍大的 OPT-IML！！ 单 GPU LLM 越来越近了！ twitter.com/shayneredford/…

Quoted tweet from @sytelus:

Instruction tuning is proving to the most important weapon to reduce size of LLMs. Last year we show T0 model beating 16X larger GPT-3 on zero shot. Below paper now pushes the limits with mere 3B model beating 58X larger OPT-IML!!

Single GPU LLMs getting closer! twitter.com/shayneredford/…