主要观点总结
该文章讨论了软件架构与设计领域的最新发展趋势,特别是与AI相关的趋势。文章指出,随着AI的普及,与AI相关的趋势如Agentic AI、小语言模型(SLM)、检索增强生成(RAG)、AI辅助开发等已成为行业创新重点。同时,绿色软件和隐私工程等也是值得关注的创新趋势。此外,文章还讨论了架构师角色的演变以及架构实践方式的变化。
关键观点总结
关键观点1: AI趋势的发展和创新,包括Agentic AI、小语言模型(SLM)、检索增强生成(RAG)等。
文章指出Agentic AI、小语言模型等是软件架构师需要关注的新兴AI趋势,它们在设计、性能、可扩展性等方面提供了新的思路和解决方案。
关键观点2: 绿色软件和隐私工程的重要性。
文章强调绿色软件和隐私工程是值得关注和创新趋势,它们涉及到软件的碳足迹和隐私保护问题,是软件架构师需要考虑的重要因素。
关键观点3: 软件架构与设计的新趋势。
文章指出软件架构师需要关注软件架构与设计的新趋势,包括社会技术架构、平台架构等,这些趋势反映了软件架构师角色的演变和架构实践方式的变化。
正文
读者可以关注 InfoQ 的
AI、ML & 数据工程
话题,以便获取更多信息。
除了 LLM,软件架构师应该关注的 AI 创新领域还有 Agentic AI 和小语言模型(SLM)。Agentic AI 之前叫作“AI 智能体”,其理念是设计能够自主完成任务的 AI 模型。在某些情况下,多个智能体可以协作以获得更好的结果。在传统软件中,我们可能会看到用于管理工作流的编排模式。Agentic AI 从让智能体执行特定任务开始,后续可能发展成为一种监督式的方法,由 AI 来决定在业务流程中遵循哪些步骤。由于公司对非确定性软件做出重要决策的信任度存在较大差距,因此这种方法仍处于创新者阶段。
架构师在设计 Agentic 工作流时可以借鉴微服务的一些模式,让每个智能体都有明确的边界和交互模式。这种设计能带来更好的结果,因为智能体之间的响应和执行任务的质量可以被观察和调整。可维护性也得到了提升,随着新模型的出现,个体智能体模块可以被升级或替换。为了确保智能体响应得当,需随着智能体或其行动的演变持续进行测试。
观看
Shruti Bhat 在 QCon San Francisco 的主题演讲:开拓未来:推进 AI 智能体的基础设施
以获取更多信息。
架构师正在将小语言模型(SLMs)视为利用 LLM 特性的一种选择,同时也在改进它们的一些缺点。SLM 通常比 LLM 更专业化,因此能够在某些任务中超越 LLM 的表现。这种专业化也意味着它们的训练过程更简便、成本更低,使得更多的公司能够创建专业化的模型。它们较小的规模还带来了较低的运营成本、更小的碳足迹以及更多的部署选项。与通过云托管的 API 访问 LLM 不同,SLM 可以部署在自托管的硬件上,或者部署在边缘计算机上,从而消除了网络流量延迟并提升了数据安全性。
关注 InfoQ 的
大语言模型话题
(大多数 SLM 内容与 LLM 相关)以获取更多信息。
要从 LLM 获取更高质量的结果,最常用的技术是 RAG。尽管 RAG 已迅速成为一种主流方法,但要实现有效应用仍需付出努力。软件架构师正在调整他们的系统,以便提供更易于被 RAG 场景使用的数据。在未来,系统的设计可能会直接围绕着将数据应用于 RAG 场景来进行。这与数据驱动架构的趋势相契合。