# Foundational Moral Values for AI Alignment

<figure><img src="https://1203660092-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FVIbHxVNUonwDG5X6HrVv%2Fuploads%2FD6y7amNaM5jHIdCZXnGM%2Fimage.png?alt=media&#x26;token=cd23c146-1fa0-4e93-94d6-4bad6b4e1857" alt=""><figcaption></figcaption></figure>

1. 研究背景 本文探讨了人工智能（AI）对齐问题，即如何确保AI系统按照既定的道德价值观和目标行动。当前，AI对齐的目标缺乏明确和哲学上稳固的结构，这导致了技术手段与社会目标的错位，可能对社会造成危害。作者提出，为了解决AI对齐问题，需要有清晰、可辩护的价值观作为指导。
2. 过去方案和缺点 以往的AI对齐工作往往没有明确指出应该对齐的价值观是什么，或者这些价值观在不同情境下的具体含义。例如，LLMs（大型语言模型）强调的三个价值观：有用性、无害性和诚实性，但在不同条件下这些概念的具体含义并不明确。这表明，仅凭价值观本身可能不足以应对最抽象的基础情况和最具体、关键的实践情况。

<figure><img src="https://1203660092-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FVIbHxVNUonwDG5X6HrVv%2Fuploads%2FdwazdofNVc9jkdv8xJlh%2Fimage.png?alt=media&#x26;token=3cd52749-7ea2-4589-8005-ba3546232ea6" alt=""><figcaption></figcaption></figure>

1. 本文方案和步骤 作者提出了五种基础道德价值观：生存、可持续的代际存在、社会、教育和真理。这些价值观不仅为技术对齐工作提供了更清晰的方向，而且作为一个框架，突出了AI系统在获取和维持这些价值观方面的威胁和机遇。作者还讨论了如何将这些基础价值观转化为中层原则和具体的行动指导原则，以便在AI模型的训练和开发过程中使用。
2. 本文创新点与贡献 本文的创新之处在于提出了一个基于人类生存所需条件的价值观体系，这些价值观是不可约减的，相互依赖，并且对于人类的存在是必要的。作者还展示了这些价值观如何在哲学传统、联合国可持续发展目标（SDGs）以及当代科技和AI伦理实践中得到支持。
3. 本文实验 本文没有进行实验，而是通过哲学论证和伦理分析来支持提出的价值观。作者通过逻辑上的归谬法来证明这些价值观的必要性，并探讨了它们在不同层面（个体、组织、国家和国际）的应用。
4. 实验结论 由于本文没有进行实验，所以没有实验结论。但是，作者通过逻辑论证和跨学科的分析得出结论，这些基础道德价值观是解决AI对齐问题的关键。
5. 全文结论 作者认为，为了有效地对齐AI，必须有一套基础价值观作为指导。这些价值观不仅对于人类的存在至关重要，而且对于构建有益于社会的AI系统也是必要的。尽管这些价值观在应用上存在局限性，但它们提供了一个有用的框架，用于指导AI的发展和部署。

阅读总结报告 本研究提出了一个基于人类生存基础的AI对齐价值观体系，包括生存、可持续的代际存在、社会、教育和真理。这些价值观不仅为AI技术的发展提供了道德指导，而且强调了在个体、组织、国家和国际层面上对齐AI的重要性。作者通过哲学论证和跨学科分析，展示了这些价值观的普遍性和必要性，并指出了在实际应用中可能遇到的挑战和机遇。尽管本文没有进行实验验证，但其提出的价值观体系对于指导AI的伦理发展具有重要的理论和实践意义。



注：

基于人类生存所需条件的价值观体系是本文提出的核心概念，旨在为人工智能（AI）对齐问题提供一个坚实的道德基础。这个体系包括五种基础道德价值观，它们是人类生存和发展的前提条件，相互依赖且不可分割。以下是这五种价值观的详细说明：

1. 生存（Survival）
   * 人类需要生存，这是AI对齐的基础。生存意味着寻找食物、提供庇护、维持健康、防御捕食者、预防或准备应对灾难等。这是人类存在的前提，也是AI对齐工作必须考虑的首要条件。
2. 可持续的代际存在（Sustainable Intergenerational Existence）
   * 人类不仅需要短期生存，还需要长期生存。这意味着我们需要繁衍后代，保护环境，确保未来世代能够继续存在。这包括了对家庭生活、后代教育和环境保护的重视。
3. 社会（Society）
   * 人类是社会性生物，无法单独生存。我们需要家庭、社会结构和经济供应链来共同生活。社会是一个使个体能够共存的结构，它包括了分工、资源管理以及必要的知识和技能。
4. 教育（Education）
   * 人类需要教育，无论是正式的学校教育还是非正式的文化和社会学习。教育是文化传承的基础，对于个体和社会的长期生存至关重要。它涉及到知识的传递、技能的培养以及年轻一代的培养。
5. 真理（Truth）
   * 人类需要了解现实世界的真相，或者至少需要足够准确的理解来指导我们的行动和教育下一代。真理的追求是理论和实践的结合，它对于人类的生存和社会的稳定至关重要。

这个价值观体系不仅是理论上的构建，而且得到了全球哲学传统、联合国可持续发展目标（SDGs）以及当代科技和AI伦理实践的支持。作者强调，这些价值观在不同文化和社会中可能有不同的具体表现形式，但它们构成了人类共同追求的基础。在AI对齐的背景下，这些价值观提供了一个框架，用于评估和指导AI系统的行为，确保它们不仅不会威胁到人类的这些基本条件，而且能够促进人类的福祉和可持续发展。
