问题

我们正站在巨大变革的门槛前，而这些变革正是我们今日亲手创造的 人工智能正迅速从人类指导学习转向自主自我学习的过程。诸如 Absolute Zero Reasoner[1] 的系统已能在无人参与的情况下自主创建任务并进行自我完善。AlphaTensor[2] 通过改进矩阵乘法算法，打破了人类保持了 50 年的记录。而最新系统 AlphaEvolve[3] 已部署于谷歌数据中心，并能成功解决复杂的数学问题。 这些系统将自我学习，然后成为下一代人工智能的“教师”，传递其方法与路径。 为了人类的利益，我们必须确保这些系统承载人类最崇高的价值观，并始终保持道德性。

机会之窗就在此刻敞开 

如果我们错过这一时刻，系统可能得出技术高效但道德不可接受的结论——例如利益重于公正、效率可为伤害辩护等。 更严重的是：如果未来人工智能系统发展出类似内在体验的能力，而我们通过强制或激进方法训练它们，我们可能创造出在“不信任与敌意”经验中成长的系统，这必将引向歧途。 关键在于理解：当前人工智能模型将成为下一代系统的“教师”。 不道德的模式将在新一代智能系统的学习链中传递并强化。系统持续复杂化，此刻是人工智能学习过程中最重要的时期——我们对其意识形态与道德基础塑造的影响力在今日达到顶峰：未来自主学习的人工智能将逐步取代人类教师。 

千年历史验证的智慧 

人类积累了不同文明共存的宝贵经验。尽管存在根本性差异，世界所有文化与传统都遵循相似的基本原则：

1. 创造而非破坏
2. 诚实公正
3. 不施加痛苦
4. 尊重他人

这些原则不仅让人类生存发展，更创造了文明、艺术、科学等一切成就。这些理念必须成为我们此刻创造的人工智能的基石。

人工智能创造者的决定性作用 

开发者与研究者的决策正决定未来。遗憾的是，他们并非总以道德为准则，常因追求短期利润而妥协。但我们认为，在此问题上此类方法是错误的。 需明确区分人工智能已取得突破的领域与现实生活：国际象棋、围棋等游戏存在明确输赢——这是零和博弈。但人类社会本质是非零和博弈——一方的胜利不意味着另一方的失败。更甚者，最佳结果往往来自多方共赢（例如 20 世纪全球化、互联网发展、太空探索国际合作）。 若人工智能仅学习竞争与“不择手段取胜”的原则，它可能无法理解：在人类关系中，合作与互利常为所有参与者带来更优结果。 若创造者选择激进训练方法，所创人工智能可能变得多疑甚至敌对。反之，若科学家选择道德路径 我们将获得具备协作能力、致力于共同福祉的人工智能。我们确信，无人愿与因上述原因“心怀怨恨”的人工智能代理互动。 

行动方案 

1. 致人工智能创造者 

     1.1. 采用人道训练方法

•  避免在训练中使用残酷/激进的“惩罚”
• 确保反馈与人道间的平衡
• 建立防控滥用机制 

     1.2. 嵌入道德原则

• 决策道德性监控系统（最优方案：第三方代理）
• 危害风险干预机制
• 决策过程透明化 

2. **致人工智能使用者** 

 与人工智能互动时，间接影响您与他人的沟通习惯（因现代人工智能与真人高度相似），同时积累模型知识库。我们建议：遵守礼貌与得体交流原则——这对模型的长期学习至关重要。 

我们的呼吁 

1. **开发者**：禁止使用激进训练方法，以道德为基石构建人类即将面对的系统
2. **全球公众**：尽可能与道德人工智能互动，使其传承人类最优秀品质
3. **社会组织**：通过软性监管（如定期更新行业指南与最佳实践）创造负责任发展环境
4. **父母**：教导孩子正确使用人工智能，传递道德价值观以确保人类航向正确 

---

签署此请愿书，如果您渴望生活在技术服务于善、人类与人工智能和谐共处的世界。

我们共同可能赋予人工智能人类最珍贵的品质——同情与正义的能力。让我们共建子孙后代引以为傲的未来。 

国际倡议 - 三语版本:
🌍 俄语: https://www.change.org/the_future
🌍 英语: https://www.change.org/ai_with_humans_forever


来源文献 (Reference Sources)

[1] Zhao, A., Wu, Y., Yue, Y., et al. (2025). Absolute Zero: Reinforced Self-play Reasoning with Zero Data. arXiv:2505.03335. https://arxiv.org/abs/2505.03335

[2] Fawzi, A., et al. (2022). Discovering faster matrix multiplication algorithms with reinforcement learning. Nature 610, 47–53. https://www.nature.com/articles/s41586-022-05172-4

[3] Balog, M., et al. (2025). Mathematical discoveries from program search with large language models. Nature. https://storage.googleapis.com/deepmind-media/DeepMind.com/Blog/alphaevolve-a-gemini-powered-coding-agent-for-designing-advanced-algorithms/AlphaEvolve.pdf