笔者也没有想到在短短的3个月时间内，大型语言模型（LLM）应用会呈现出爆发性的增长态势...

“面向目标进行AI编程”、“语义编程”、“目标规划”、“决策因果生成”、“路由提示词”、“推理函数”、“本机函数”、“链式记忆”、“原语组件”、“范式纠错”...实在没有精力写长文介绍这些先进理念和技术了，全是不学习马上就会被淘汰的焦虑，这些理念和技术已经在重塑整个行业...

偷偷给大家分享6个具有代表性的LLM应用开发框架及工具，笔者只有一个建议，抓紧学习！！！

LlamaIndex

大型语言模型（LLM）应用的中间件框架，用于连接LLM和任何外部数据。

https://github.com/jerryjliu/llama_index

Semantic Kernel

微软语义核心SDK，可以轻松地将传统编程语言与最新的大型语言模型（LLM）“提示词”相结合，具备模板化、链式记忆和规划能力。

https://github.com/microsoft/semantic-kernel

LangChain

基于大型语言模型（LLM）开发应用程序的框架。具备数据感知特性，可以将LLM连接到其他数据源。具备代理中间件特性，允许语言模型与其环境进行交互。

https://github.com/hwchase17/langchain

Haystack

开源自然语言处理框架，使用LLM模型与数据进行交互，提供了开箱即用的工具，可以快速构建复杂的决策制定、问答、语义搜索、文本生成应用程序等。

https://github.com/deepset-ai/haystack

Patterns

智能APP低代码开发平台，用户可以使用不同的原语工具和模板开发任何复杂度的人工智能应用或LLM知识机器人。

https://www.patterns.app

Guardrails

Guardrails是一个实验性的Python包，可以让用户为大型语言模型（LLM）的生成添加范式结构、类型和强制检查纠错保证。

https://shreyar.github.io/guardrails/