这只是一个 alpha 版本,所以我不打算广泛推广它,但我的LLM项目刚刚增加了一个我近两年来一直在努力的功能:工具支持!
明天我将在美国 PyCon 上举办一场关于在大型语言模型之上构建软件的研讨会,这是我真正需要将其他所有内容整合在一起的一个功能。
可以像这样从命令行使用工具(受到sqlite-utils –functions的启发):
llm——函数' def 乘法(x: int, y: int) -> int: “”“两个数字相乘。”“” 返回 x * y ' ' 34234 * 213345 是什么' -m o4-mini
或者从 Python 库中这样:
导入LLM def乘法( x : int , y : int ) -> int : “”“两个数字相乘。”“” 返回x * y 型号= llm 。 get_model ( “gpt-4.1-mini” ) 响应=模型。链( “34234 * 213345 是多少?” , 工具= [乘法] ) 打印(响应。文本())
还有一个新的插件挂钩,因此插件可以注册工具,然后可以使用llm --tool name_of_tool "prompt"
按名称引用这些工具。
在将其纳入稳定版本之前,我还想做很多事情,最值得注意的是添加对 Python asyncio 的支持。不过,这是一个非常令人兴奋的开始!
标签: llm ,生成人工智能,项目, llm 工具使用, ai , llms
原文: https://simonwillison.net/2025/May/14/llm-adds-support-for-tools/#atom-everything