TOWARDS RESPONSIBLE AI IN THE ERA OF GENERATIVE AI: A REFERENCE ARCHITECTURE FOR DESIGNING FOUNDATIO

阅读总结报告

1. 研究背景

随着大型语言模型（LLM）如ChatGPT的发布，基础模型（Foundation Models, FMs）引起了广泛关注。这些模型在大量通用数据上进行预训练，能够适应执行多种任务。预计FMs将成为未来AI和人工通用智能（AGI）系统的基础构建块。然而，目前缺乏关于FMs系统架构设计的系统性指导，尤其是FMs不断增长的能力可能会吸收AI系统的其他组件，带来架构设计中的边界移动和接口演化挑战。此外，将FMs整合到AI系统中引发了关于负责任AI的重要问题，因为它们的不透明性和快速发展的智能。

2. 过去方案和缺点

过去在设计FMs系统时，提出了许多可重用的解决方案来应对各种挑战，但尚未对FMs整合到软件架构的影响进行全面研究。FMs的集成可能会使多个利益相关者的责任变得更加复杂，需要支持可追溯性的机制。此外，信任度是一个重要障碍，需要确保用户提示、FM输出和中间步骤与人类目标一致并满足信任度标准。AI/AGI的潜在滥用也是一个重大挑战，需要持续的风险评估以确保人类为基于FM的系统设置的指令是值得信赖和负责任的。

3. 本文方案和步骤

本文首先讨论了FMs时代AI系统的潜在架构演化，从“基础模型作为连接器”转变为“基础模型作为单一架构”。然后，文章确定了关键的设计决策点，并提出了一种面向模式的参考架构，用于设计负责任的基于FM的系统。这些模式可以在最小化相关风险的同时，发挥FMs的潜力。

4. 本文创新点与贡献

• 提出了一种面向模式的参考架构，为设计基于FM的系统提供了负责任AI的模板解决方案。

• 考虑了架构的演化，以确保随着时间的推移，系统能够适应变化。

• 强调了适应性和可修改性作为构建FMs系统的重要软件质量属性。

5. 本文实验

本文通过将提出的参考架构映射到一个真实世界的FMs系统——负责任AI（RAI）聊天机器人的架构，来评估所提出参考架构的完整性和实用性。RAI聊天机器人使科学家能够理解和评估他们AI项目中的潜在AI风险。

6. 实验结论

RAI聊天机器人的架构成功地映射到了所提出的参考架构，表明参考架构是完整且可用的。观察到FMs系统架构的基本层次包括系统层、操作层和供应链层。

注：

“基础模型作为连接器”（Foundation Model as a Connector）和“基础模型作为单一架构”（Foundation Model as a Monolithic Architecture）是描述基础模型在AI系统架构中角色和集成方式的两种不同概念。

基础模型作为连接器（Foundation Model as a Connector）

在这种架构中，基础模型（FM）充当AI系统内部各种组件之间的桥梁或连接器。FM可以提供多种连接服务，例如：

• 通信连接器：在软件组件之间传输数据，例如从用户提示中提取任务描述并传递给其他组件进行进一步处理。

• 协调连接器：规划工作流程并协调任务执行。

• 转换连接器：作为软件组件之间的接口适配器，处理不同数据格式的通信。

• 促进连接器：促进组件之间的交互，例如创建日志或决定调用本地模型。

在这种架构下，FM与狭义AI模型和非AI组件共同存在，它们相互作用以完成复杂任务。随着FM能力的扩展，许多这些组件可能会逐渐被FM吸收，最终消失。

基础模型作为单一架构（Foundation Model as a Monolithic Architecture）

在这种架构中，FM发展为一个单一的、大型的模型，它能够执行多种任务，而不需要依赖于其他AI或非AI组件。这种架构可能包含一个超大型的FM，它通过跨训练不同类型的传感器数据来整合多种功能。例如，PaLM-E就是一个用于执行语言、视觉语言和推理任务的模型。在这种架构中，不再需要外部组件，包括提示组件。非AI组件可能包括上下文工程组件（如多模态上下文注入）、提示工程组件（如提示生成器）和负责任AI组件（如持续风险评估）。

这种架构的特点是将FM作为中心，它能够处理从输入到输出的所有步骤，而不需要额外的代码实现。这种集成化的方法可能会提高性能，但同时也可能降低系统的可维护性，并可能带来供应商锁定的风险。

总的来说，“基础模型作为连接器”强调的是FM在现有AI系统架构中的集成和协调作用，而“基础模型作为单一架构”则预示着FM将发展成为一个自包含的、能够独立执行多种任务的系统。随着FM技术的发展，我们可能会看到从前者向后者的转变。

7. 全文结论

本文提出了一种面向模式的负责任AI设计参考架构，以应对基于FM的系统中负责任AI和架构演化的挑战。文章讨论了架构演化，确定了构建FMs系统的两个重要软件质量属性：适应性和可修改性。总结了架构设计中的七个关键设计决策，并讨论了负责任AI相关软件质量之间的权衡。最后，提出了一种面向模式的参考架构，为开发者设计负责任和可适应的基于FM的系统提供了具体指导。未来，将为构建FMs系统建立一个模式目录。