原推：@CZ_1977 @paulg @Liv_Boeree ?…
Brett Winton: 将模型有效地卸载到成本较低的内存中也可以降低每个令牌的成本。 当然，它不如在价值 20 万美元的 GPU 上进行云推理那么快，但它可以将生成的每个令牌的成本降低 75%
原推：Efficiently offloading the mo…
Brett Winton: （请注意原始 GitHub 存储库中的论文链接已关闭，所以我链接了一个分支；原始 GitHub 存储库位于：github.com/Ying1123/FlexG …）
原推：(note paper link in the origi…
Brett Winton: （成本是通过家庭系统而不是通过云计费实现的，这也显着打开了经济模型。） （虽然每秒一个令牌的速度不是*快*，但它将允许开源社区更轻松地进行试验和优化。）
原推：(That the cost is realized ag…
Brett Winton: 假设您想在桌面上运行一个 chatGPT 大小的语言模型。 不可能。 到目前为止。 （除非你想为每个单词等待一分半钟。） 本文介绍了如何以每秒 1 个令牌在单个 GPU 上执行此操作 github.com/mrcodechef/Fle…
原推：Say you wanted to run a chatG…
Elon Musk: @cb_doge ?
原推：@cb_doge ? https://twitter.co…
Elon Musk: @AdamLowisz @paulg @Liv_Boeree ?
原推：@AdamLowisz @paulg @Liv_Boere…
Elon Musk: @paulg @Liv_Boeree GPU大合集，既不是男的也不是女的，而是二元的 lol
原推：@paulg @Liv_Boeree A large co…
Elon Musk: @Rainmaker1973 ！
原推：@Rainmaker1973 ! https://twit…
Elon Musk: @paulg @engineers_feed 理想的空调应该优化温度和湿度，同时过滤掉微粒和病原体
原推：@paulg @engineers_feed An ide…
Elon Musk: @davidad 互联网是它的记忆
原推：@davidad The Internet is its …
Elon Musk: @whyvert 我是那些错误地认为监禁率增加的人之一。如此大的减少令人惊讶。
原推：@whyvert I was one of those w…
育碧的捕鼠器系统延长了惩罚“彩虹六号围攻”作弊者的延迟
骗子是我们不能拥有好东西的原因。一直以来，本可以用于扩展 DLC…
Strive 获得 Y Combinator 的支持，向孩子们展示编码的乐趣
Strive是一个在线学习平台，可以教孩子们编程，但它想做的不止…
Ram 1500 REV 预订在不到一周的时间内售罄
Ram 在 CES 上揭开了其 1500 REV 电动卡车概念的…
Elon Musk: @KanekoaTheGreat @DavidSacks @amuse 非常重要的线程
原推：@KanekoaTheGreat @DavidSacks …
Elon Musk: @KanekoaTheGreat @DavidSacks @amuse 主要问题
原推：@KanekoaTheGreat @DavidSacks …
2023-02-20 每日黑客新闻
2023 年 2 月 20 日Hacker News上收视率最高…
这个 AI 聊天机器人“Sidney”行为不端 – 2022 年 11 月 23 日 Microsoft 社区主题
这个 AI 聊天机器人“Sidney”行为不端 – …
Max Q：只是时间问题
您好，欢迎回到 Max Q！ 在这个问题上： Intuitive…