在昨天的文章（一位代理人通过电子邮件以原始大纲的形式推送了这篇文章！）中，我探讨了人工智能电子邮件的未来。而这个未来需要付出怎样的代价？
如果您使用最先进的测距仪，每月费用在 22 美元到 130 美元之间。您愿意为此付费吗？我想，在工作中，很多人都会。我们假设每月 26 美元的原始成本是中间值。
一家软件公司如果想要获得 75% 的毛利率，那么这款产品每年的售价大约是 350 美元，这还不包括托管和服务成本。所以我们姑且算作每年 500 美元，规模化推广后可以享受 15% 的折扣。
Google 企业版套餐每月收费 11-18 美元。而完全基于代理的解决方案，价格大约是其两倍。
小型化设计确实有帮助，可以降低成本10到20倍，但我们还可以做得更好。
当模型在本地运行时，成本骤降至零：用户的 GPU 完成工作。
我认为，我在这里粗略地做的这种成本优化将决定未来12到24个月人工智能软件的发展方向：确定哪些组件可以确定性地执行，例如电子邮件过滤器，它们本质上就是一些规则。下一步是将模型与工作负载相匹配。
利用一些基本的启发式方法和技术，我们可以将总成本降低100倍。鉴于GPU的严重短缺，这种推理过程的分割是不可避免的。