最近 Anthropic 的联合创始人兼首席执行官 Dario Amodei 发布了一篇万字长文，在推特上引爆了一场讨论。
Dario 在这篇长文里深入剖析了人工智能的未来如何让世界变得更美好，被不少人称赞为“近来对人工智能发展最理性、最深刻的分析之一”。
在文章开头，Dario Amodei 就特别说明了，虽然他一直在关注人工智能风险，但这并不意味着他是人工智能末日论的支持者，恰恰相反，他很看好人工智能的积极潜力。
“我关注风险的主要原因之一是，它们是我们与我所看到的基本积极的未来之间的唯一障碍。我认为大多数人都低估了人工智能的巨大优势，就像大多数人低估了风险的严重程度一样。”
那为什么Dario 和 Anthropic 总在谈论风险与安全，却很少宣传人工智能的好处？
Dario 直言有以下四点原因：
- 最大化杠杆：强大的市场力量能够保证人工智能发展带来的益处。另一方面，风险不是预先定好的，我们的行动可以极大地改变风险发生的可能性。
- 避免让人觉得是宣传：很多公司大谈特谈人工智能的好处，很容易分散公众注意力，让人们忽略掉潜在的风险。并且，“花太多时间‘高谈阔论’对你的灵魂有害。”
- 避免浮夸：很多公众人物和科技公司也喜欢在宣传人工智能时夸大自己的使命，就像先知带领他们的人民走向救赎一样。这种从宗教角度看待实用技术目标是很危险的。
- 避免“科幻”包袱：当前一些关于人工智能未来的讨论过于“科幻化”，充满了未被阐明的技术假设和文化包袱，“读起来就像是狭隘亚文化的幻想，同时让大多数人感到反感。”
换言之，“上帝的归上帝，凯撒的归凯撒。”对于AI带来的经济利益的“世俗”部分，应该交给市场来完成；而能力越大，责任也越大，作为对人工智能更了解的从业者，更应该向公众提示当中的风险。
Dario 的这些想法也体现在了 Anthropic 对人工智能的透明度与可控性的执着追求。
这种坚持不无缘由：毕竟 Dario 从 OpenAI 离开正是因其对 OpenAI 在商业化上加速发展的理念存疑，Dario 更强调在构建强大的人工智能系统时需要更加严格的安全保障。
Dario 和其他几位 OpenAI 前员工创业时，也将 Anthropic 定位为更注重安全的 OpenAI 替代方案，将透明和可控置于首位。
OpenAI 联合创始人 John Schulman、 Durk Kingma 和前安全主管 Jan Leike 也因为认同这份理念加入了 Anthropic。
这份安全执念背后是 Dario 对人工智能潜力的深刻信念：人工智能能够将人类未来 50-100 年取得的进展压缩到 5-10 年。这也被他称为“压缩的 21 世纪”。
Dario 把未来 5-10 年内实现的人工智能定义为强大的人工智能，认为其能力将超越诺贝尔奖获得者，能够在多个领域（如数学、编程、写作等）表现出色。
强大的人工智能将拥有多种人机交互接口（文本、音频、视频等），以较快的速度吸收信息和生成结果，自主完成复杂任务。它还可以控制物理工具和设备，甚至可以设计自己的机器人。
Dario 预测，强大的人工智能可能在 2027 年实现大规模应用。
关于技术进步，部分人持有两种极端观点：一种认为技术会迅速引发“奇点”，立刻解决所有问题，一种认为技术进步已经趋于饱和，而且优于人类的智能进展有限。
因此，Dario 借用经济学的观点，提出了智能的边际效应：当智能达到较高水平时，与智能互补的其他因素就会成为限制因素。他认为人们应该考虑在特定情况下其他生产要素如何与智能互补，并且可能成为限制因素。
在这一框架下，Dario 构想了 5-10 年内拥有强大的人工智能的未来蓝图。
首先是生物学领域，许多生物学家长期以来一直对人工智能和“大数据”在生物学中的价值持怀疑态度。但 Dario 认为人工智能并不只是分析数据的工具，它能执行、指导和改进生物学家所做的几乎所有事情。
Dario 指出，生物学进步往往依赖于某个重大发现。如果我们能拥有更有才华更有创造力的研究人员，这些发现的出现频率可以提高 10 倍或更多。
例如，人们在 80 年代就发现了 CRISPR 是细菌免疫系统中天然存在的组成部分，但花了 25 年才意识到它可以用于一般基因编辑。
而人工智能能够把发现的速度提高 10 倍，但由于实验不可能一次成功，相关的硬件设施的更新速度也有限，人工智能不可能凭空把发现的速度提升至 100 倍。
Dario 认为未来人工智能能够帮助我们预防或治疗大部分疾病，包括传染病、癌症、阿尔茨海默病等，还可能让人们可以自由改变外貌、体重等，并极大地延长人类的寿命。
类似的加速效应也适用于神经科学、心理健康、经济等领域，不过 Dario 警告，人工智能不会主动促进民主和和平，而是需要我们作为个体行动者去推动这一结果。
文章的最后，Dario 谈到了一个经典的问题，“有了人工智能做一切，人类还有什么意义呢？人类将如何在经济上生存？”
对此，Dario 表示认为意义主要来自人际关系和联系，而不是经济劳动。
短期内，人工智能和人类之间会保持良性竞争的状态，人工智能的优秀工作表现实际上会催生一系列新的人类工作，用以补充和放大人工智能所擅长的领域。
长远来看，现有的经济格局将会被颠覆，到那时人们也许不需要参与经济劳动就能获得资源。
雷峰网
Opus 3.5 什么时候来？
在讨论文章内容的同时，也有很多网友提问 Opus 3.5 什么时候抬上来？大家等得花都谢了。
写得很好，所以为什么Opus 3.5还不发布！
根据过往经验，Claude 系列的更新频率大约为三到四个月。Claude 3 Haiku 于 3 月发布，Claude 3.5 Sonnet 则在 6 月底上线。
Dario 自己也说他的计划是每三个月左右推进一次前沿工作。说不定月底我们就能用上最新的 Claude 3.5 Opus 了。
插播一句，Dario 认为像 AGI 这种强大的人工智能最早可能会在 2026 年实现。
不过，Dario 构想的未来人工智能和 Claude 这样的大模型只是形式上类似，可能基于不同的架构，也可能涉及多个交互模型，还可能以不同的方式进行训练。
这不禁让人猜测，Claude 3.5 Opus 有没有可能会在多模态技术上发力，推出类似于 GPT-4 的图像识别功能？迟迟没有推出是不是因为有了类似 AGI 的重要改进？
人工智能如何让世界变得更美好
生物学与健康
生物学可能是科学进步最有可能直接、明确地改善人类生活质量的领域。
上个世纪，我们成功消灭了天花等古老疾病，但仍有许多疾病等待被攻克。生物科学不仅能治愈疾病，还能延长健康寿命、增强我们对身体的掌控力，并解决一些看似无解的健康问题。
然而，人工智能在生物学中的应用面临数据、现实世界速度和内在复杂性等挑战。这些因素相互关联，使得临床试验进展缓慢。
例如，细胞培养或化学反应可能需要数天到数周，而动物和人体实验则可能耗费数月或数年。此外，数据质量常常不高，因果关系模糊，令科学家们难以理解生物现象。
生物过程的复杂性使得精确干预变得困难。想象一下人类新陈代谢的生物化学图表，你就会明白这其中的挑战。再加上临床试验中官僚和监管的要求，进展往往受到拖延。
因此，许多生物学家对人工智能和大数据的有效性持怀疑态度。尽管过去 30 年取得了一些进展，但真正的突破却屈指可数。
例如，CRISPR 早在 80 年代就被发现，但花费了 25 年才得到应用。这表明科学界对有前景方向的支持不足。
我认为，对人工智能的悲观看法是一种误解。我想重申：我讨论的人工智能是用于执行、指导和改进生物学家几乎所有工作的。
生物学的进步往往源于少数重大突破，这些突破通常与新技术和测量工具相关。每年都会有约一项重大突破，这些突破推动了 50% 以上的生物学进展，使我们对生物过程的理解和控制得以提升。
我相信，强大的人工智能将大幅加速这些发现的速度，让我们在 5 到 10 年内实现 50 到 100 年的生物进步。虽然实验时间和序列依赖性等因素仍然存在，但大规模的并行研究可能会推动这一进程。尽管临床试验面临官僚主义，但严格的药物评估也促使进展加快。例如，新冠疫苗的批准速度就远快于传统药物。
最终，生物医学的成功部署记录相对较强。尽管药物开发过程复杂，但一旦成功，它们通常会被有效利用，使生物医学在技术领域具有独特优势。
综上所述，我的基本预测是，人工智能支持的生物学和医学将使我们能够将人类生物学家在未来 50-100 年取得的进展压缩到 5-10 年。我将其称为“压缩的 21 世纪”。
虽然预测强大的人工智能能做什么有难度，但我们可以参考 20 世纪的成就，来想象未来可能的进展。
以下是我们可能期待的变化：
- 对抗传染病：在压缩的21世纪，我们有望有效预防和治疗几乎所有 17 种自然传染病。借助 mRNA 疫苗等技术，我们可能能根除传染病，当然，这也取决于贫困和不平等的问题。
- 消除癌症：随着癌症死亡率每年下降 2%，我们可能在本世纪消灭大多数癌症。人工智能将帮助我们开发个性化的治疗方案，预计癌症的发病率和死亡率能大幅降低。
- 预防遗传病：通过更好的胚胎筛选和 CRISPR 技术，我们将能够预防和治疗大多数遗传病，但对全身疾病的干预可能仍具挑战。
- 阿尔茨海默病的突破：虽然该病因复杂，但通过人工智能，我们有望找到更好的治疗方法，甚至预防这种疾病。
- 改善其他疾病的治疗：糖尿病、心脏病等疾病的治疗效果将大幅提升，许多疾病的死亡率已显著下降。
- 生物自由的实现：个人将能更好地控制自己的生物特征，如体重和生育，这将使每个人都有机会选择自己的生活方式。
- 人类寿命的延长：如果我们能找到减缓衰老的有效方法，预期寿命可能从75岁增加到150岁。这并非不可能，已有药物能显著延长某些动物的寿命。
如果这些预测在未来 7 到 12 年内实现，世界将会大变样。这将是人类的一次巨大胜利，消除长期以来困扰我们的疾病。未来的孩子们可能再也听不到关于癌症或阿尔茨海默病的故事，而是享有更高的生物自由和更长的寿命。
这些变化将对我们的社会产生深远影响，特别是在社会保障和医疗保健方面。若新技术得以广泛应用，未来的挑战可能会转向如何确保人人能享有这些成果。虽然生物学可能是人工智能成功加速的唯一领域，但即使如此，世界也会因此发生翻天覆地的变化。
神经科学与心理
在前一节中，我讨论了身体疾病和生物学，但没有提到神经科学和心理健康。
其实，神经科学是生物学的重要部分，心理健康对我们的生活影响更直接。数亿人因成瘾、抑郁等心理问题生活质量受到严重影响，还有数十亿人在面对轻度心理挑战。
改善这些问题不仅能提高健康，还能提升整体幸福感。
之前提到的生物学框架同样适用于神经科学。这个领域的进展往往依赖一些关键发现，比如光遗传学和 CLARITY 技术。人工智能有潜力加速这些进展，因此“5-10 年实现 100 年进展”的观点也适用神经科学。20 世纪，神经科学取得了显著进展，例如 20 世纪 50 年代人们明白了神经元如何放电，因此期待人工智能推动神经科学迅速发展是合理的。
此外，人工智能的一些知识可以助力神经科学。
可解释性就是一个重要例子，虽然生物神经元和人工神经元不同，但它们在“如何协同计算”的问题上相似。这种可解释性最近在小鼠大脑中得到了验证。
在人工神经网络上实验比在真实神经网络上简单，因此可解释性成为理解神经科学的重要工具。强大的人工智能可能比人类更有效地开发和应用这些工具。
同时，人工智能教给我们的训练方法可能会引发神经科学的革命。许多人关注的学习问题与我认为的不一样。简单的目标函数和大量数据可以驱动复杂行为，使我们更关注目标，而忽视细节。尽管我没有密切关注这一领域，但我觉得计算神经科学家还没有完全吸取这些教训。
我认为神经科学家应结合这些基本见解与人脑的独特性，寻找神经科学中的关键难题。尽管某些问题与人工智能有关，人工智能神经科学家可能更有效地利用这一思路，加速研究进展。
我认为人工智能将通过四个主要途径加速神经科学的进步，从而帮助治愈精神疾病和提升功能：
- 传统生物学：人工智能将加速药物研发，这些药物能调节神经递质、影响情绪和认知。它还可能加快对精神疾病遗传基础的研究。
- 细致的神经测量与干预：使用光遗传学和神经探针等技术，我们能测量和干预单个神经元的活动，从而改善神经科学的理解。
- 先进的计算神经科学：现代人工智能的见解可以应用于复杂疾病的研究，帮助揭示精神病和情绪障碍的根本原因。
- 行为干预：尽管我在讨论中没有深入，但精神病学和心理学已有很多行为干预方法，人工智能有潜力加速这些方法的发展，并帮助患者坚持治疗。
我猜测，即使不考虑人工智能，这四个途径的共同作用可能在未来 100 年内治愈或预防大多数精神疾病，可能会合理地完成在人工智能加速的 5-10 年内。具体来说，我认为：
- 治愈大多数精神疾病：例如，创伤后应激障碍（PTSD）、抑郁症和成瘾等疾病可能通过这四个方向得到有效治疗。
- 某些结构性问题仍然困难：例如，精神病患者的大脑结构差异可能使得某些条件更难治疗。
- 有效的基因预防：精神疾病具有遗传性，人工智能可能帮助我们通过基因筛查预防疾病，尽管这涉及复杂的伦理问题。
- 改善日常心理问题：我们日常面临的心理问题，比如焦虑和集中注意力困难，也可能得到解决。
- 提升人类的体验：许多人渴望更深的创造力、同情心和满足感，人工智能有潜力改善我们的认知和情感能力。
虽然“思维上传”的概念常常被提及，但我认为这一想法面临巨大的技术和社会挑战，短期内难以实现。
总之，人工智能将极大改善精神健康，提升我们的认知和情感能力，为人类创造一个更加美好和人性化的未来。这不仅会影响个体，还可能改善社会中许多其他看似无关的议题。
经济发展与贫困
前两节讨论了新技术在治愈疾病和提升人类生活质量方面的潜力，但一个显而易见的问题是：“每个人都能享受到这些技术吗？”
开发治疗疾病的方法是一个方面，但要在全球范围内根除这些疾病则是另一个挑战。目前，许多健康干预措施尚未在全球普及，技术改进也同样如此。
许多地区的生活水平依然贫困。例如，撒哈拉以南非洲的人均 GDP 约为 2，000 美元，而美国则达到 75，000 美元。
如果人工智能只帮助发达国家，而对发展中国家贡献甚微，那将是一个严重的道德失败。因此，理想情况下，强大的人工智能应当帮助发展中国家追赶上发达国家的步伐。
我对人工智能能否有效解决不平等问题的信心没有对其发明基础技术的信心强。这是因为经济问题往往涉及许多复杂的人类因素，而技术创新则能更轻易地克服复杂性和数据不足的障碍。
即使在理论上，人工智能也无法解决“社会主义计算问题”，我对政府将经济政策托付于这样的实体持怀疑态度。
此外，如何让人们接受那些有效但可能令人怀疑的治疗方法，也是一个问题。
在发展中国家，腐败现象的普遍存在使情况更加复杂。腐败造成恶性循环，贫困加剧腐败，而腐败又导致更多贫困。因此，人工智能驱动的经济发展计划需要考虑到这些人类面临的挑战。
尽管如此，我仍然保持乐观。历史上已经有国家成功根除疾病，很多地方也从贫穷走向富裕，这表明这些决策的高智力回报。人工智能或许能够比现有做法更有效地解决这些问题。
针对性干预措施也许能避开人类的局限，人工智能应当关注这些方面。
最重要的是，我们必须努力去尝试。人工智能公司和发达国家的政策制定者需要确保发展中国家能够参与其中，这不仅是道德责任，也是我们集体努力的目标。虽然成功没有保证，但我们的行动可以带来改变。
在强大的人工智能诞生后的 5 到 10 年，我对发展中国家的未来有以下一些乐观的预测：
健康干预措施的普及
我认为，最有希望的领域是全球健康干预措施的广泛分发。
许多疾病已经通过集体努力得以消灭，比如天花和脊髓灰质炎的病例已降至极低水平。人工智能可以在这一过程中发挥重要作用，它能够更有效地进行疾病模型分析和优化物流配送。
希望人工智能能帮助提升健康慈善机构的效率，让更多人受益。新型疫苗的研发，比如针对疟疾的单针注射疫苗，正在简化疫苗分发的复杂性。
此外，通过释放经过基因改造的蚊子来消灭病原体的可能性也在增加。总体而言，我预计未来 5 到 10 年，发展中国家的健康状况将显著改善，甚至有可能超过一些发达国家。
经济增长的潜力
在经济方面，发展中国家有机会迅速追赶发达国家。
上世纪末，东亚一些国家实现了年均 10% 的 GDP 增长，成功弥补了与发达国家的差距。未来，人工智能或能帮助这些国家创造类似的经济奇迹。
通过实施有效的经济政策和发展关键产业，发展中国家的政府可以在尊重自决的前提下，吸收人工智能带来的增长红利。
许多健康干预措施的落实，将极大地推动生产力提升，进而促进经济增长。
此外，人工智能在非健康领域的应用，比如更高效的能源和运输技术，也将为发展中国家带来新的机遇。尽管面临挑战，经济增长率达到 20% 是一个可实现的目标。
粮食安全的改善
在农业领域，先进的作物技术，如更高效的肥料和农药，将帮助提高作物产量。基因工程的应用可以进一步推动这一进程，为发展中国家带来第二次绿色革命，减轻饥饿问题。
应对气候变化
发展中国家更易受到气候变化的影响，因此，人工智能在应对气候变化方面的技术进步，可能会帮助这些国家找到减少碳排放的方法，比如清洁能源和实验室培养的肉类。这不仅能缓解环境问题，还能助力经济发展。
国家内部的不平等
随着先进健康技术的出现，不平等现象可能会加剧，但我对发达国家的情况持乐观态度。市场机制通常会降低高成本技术的门槛，加上政治机构的响应能力，能更好地推动技术的普及。
不过，确保技术普惠是我们共同的责任。
选择退出的问题
发达国家和发展中国家都担心的一个问题是人们选择退出人工智能带来的福利，最终可能会出现糟糕的反馈循环。但历史表明，尽管存在反对声音，大多数人最终会接受有益的技术。因此，我们需要努力提高公众的科学素养，让他们理解人工智能的价值。
总的来说，我对人工智能能够为发展中国家带来生物学进步和经济增长持乐观态度。尽管面临挑战，我们仍需共同努力，推动这一进程，以便让每个人都能享受到技术发展的红利。
和平与治理
假设一切顺利：疾病、贫困和不平等显著减少，人类生活水平大幅提升。然而，这并不意味着痛苦消失，人类仍然面临彼此的威胁。
尽管技术和经济发展有助于促进民主与和平，但这种进步并不稳固，历史上经常出现倒退。例如，20世纪初人们认为战争已成过去，随后却经历了两次世界大战。
三十年前，弗朗西斯·福山预测自由民主将最终胜利，然而这一理想并未实现。
二十年前，美国政策制定者认为与中国的自由贸易会推动中国自由化，但结果却是我们面临一个复兴的独裁集团的挑战。
因此，了解人工智能如何影响和平、民主和自由显得尤为重要。
遗憾的是，我并不相信人工智能会自然而然地促进民主和和平，尽管我认为它在健康和减贫方面有积极作用。人类冲突往往对抗性强，人工智能可能同时服务于“好人”和“坏人”。尤其是，人工智能可能增强宣传和监视的能力，这些都是独裁者的工具。
因此，作为个体，我们必须努力推动人工智能朝着促进民主和人权的方向发展。这比关注国际不平等更为紧迫：自由民主的胜利并非理所当然，反而可能需要巨大的努力和牺牲。
这个问题可以分为两个部分：国际冲突和国家内部结构。
在国际层面，强大的人工智能出现时，民主国家在全球舞台上占据主导地位至关重要。
人工智能推动的威权主义令人忧虑，因此，民主国家需要制定条件，引导强大的人工智能进入世界，以避免被威权主义压倒并保护人权。
实现这一目标的最佳方式可能是“协约战略”，即民主国家联盟通过保护供应链、加快发展等手段增强实力。这种联盟可利用人工智能获得军事优势，并将其好处分配给更多国家，以换取对其民主战略的支持。目标是孤立对手，使其在谈判中处于劣势，从而放弃与民主国家的竞争。
如果能够做到这一点，民主国家将在全球舞台上处于领先地位，能够抵御独裁国家的破坏，并可能将人工智能的优势转化为持久力量。
这可能带来“永恒的 1991 年”，实现福山的梦想。但这需要私营人工智能公司与民主政府紧密合作。
即使一切顺利，国家内部的民主与专制斗争依然存在。虽然难以预测未来，我对人工智能促进民主持乐观态度。强大的人工智能环境下，民主政府可利用优势赢得信息战，反制独裁政权。通过全球信息渠道，民主国家能创造自由信息环境，限制独裁政权对信息的控制。
总体而言，生活质量的提升应能促进民主，历史上在某种程度上确实如此。
心理健康、福祉和教育的改善可能推动民主，因为这三者与对独裁的支持呈负相关。满足其他需求后，人们更希望自我表达，而民主正是自我表达的一种形式。相反，威权主义则因恐惧和仇恨而繁荣。
此外，信息流通有助于削弱独裁统治。未经审查的人工智能可能为个人提供工具，帮助推翻专制政权。专制政府往往通过剥夺人们的常识而生存，导致他们无法意识到真实问题。
我们还应考虑如何利用人工智能让民主国家更好，而不仅仅是防止独裁。尽管法律承诺人人平等，实践中仍存在不公。人工智能能否提高决策公正性？虽然人们担心它加剧歧视，但也应关注其增强民主的潜力。
法律的初衷是公正，但通常由有偏见的人来解释。人工智能可能是解决这一难题的钥匙，因为它能以可重复的方式进行模糊判断。我建议人工智能作为决策辅助工具，与人类协作，而非替代法官。这样的系统需透明，允许人们理解其训练过程并评估可能的偏见。
此外，人工智能可汇总公众意见，帮助寻找共识，解决冲突。知情的公民能更好地强化民主制度。在政府服务方面，人工智能能帮助人们获取健康福利和社会服务，以通俗易懂的方式理解法规，增强对民主治理的尊重。
尽管这些想法可能显得模糊，但我们应追求人工智能作为自由、个人权利和法律平等的保障者的愿景。在21世纪，人工智能支持的政体可以成为个人自由的有力保护者，成为全球向往的政府形式的灯塔。
工作与意义
即使我们在减少疾病、贫困和不平等方面取得了进展，自由民主成为主流形式，现有的民主国家也变得更好，但仍然面临一个重要问题：在人工智能如此先进的情况下，人类的存在意义何在？他们将如何生存？
这个问题比其他问题更复杂，主要因为它涉及社会组织的宏观问题，通常只能随着时间的推移自然而然地解决。历史上的狩猎采集社会可能会觉得，没有狩猎和相关仪式的生活毫无意义，而对我们如今的社会缺乏理解。
尽管如此，我仍想谈谈这个问题。认为人工智能做得更好就意味着人类的任务毫无意义，未必正确。大多数人并不是在任何领域都是最优秀的，但这并不妨碍他们找到价值。
人们喜欢参与那些并不创造经济价值的活动，比如玩游戏、游泳或与朋友聚会。
意义更多来自人际关系，而不是单纯的经济劳动。在后人工智能的世界中，追求复杂任务的成就感和竞争感依然存在。
然而，关于经济的问题更棘手。我们可能面临的挑战是，未来大多数人可能无法为高度依赖人工智能的经济做出有意义的贡献。
尽管短期内，比较优势可能会帮助人类保持相关性并提高生产力，但长期来看，人工智能的广泛应用可能会改变这一格局。
历史上，文明成功地经历了多次经济转型，例如从狩猎采集到农业、再到工业。未来我们可能需要新的解决方案，这些解决方案今天尚不可预见，可能包括普遍基本收入等方法。
或许经济模式会依赖于人工智能的判断，给予人类所需的资源，虽然这些想法还有待验证。
面对这些挑战，我们需要探索、试验并努力避免潜在的剥削和反乌托邦的局面。未来将需要更多的讨论和思考，才能找到合适的出路。
总结
在前面的讨论中，我描绘了一个美好的未来：如果人工智能发展顺利，世界将比现在更美好。然而，要实现这个愿景，需要很多勇敢的人共同努力。每个人，包括人工智能公司，都要积极参与，以防范风险、分享收益。
这是一个值得奋斗的目标。
如果在接下来的五到十年内，我们能战胜大多数疾病、推动人类自由和民主，帮助数十亿人摆脱贫困，那么每个人都会为这种变化感到震惊。我们不仅会惊叹于新技术带来的好处，更会为长久以来的理想逐步实现而感动。
在写作过程中，我意识到这个愿景相当激进，可能让许多人觉得荒谬，甚至有人不同意其中的价值观和政治选择。
但这个愿景也展现出一种迷人的可能性，仿佛不同的美好世界设想都在朝着同一个方向前进。
在 Iain M. Banks 的《文化》系列中，主角来自一个与我描述的原则类似的社会。他们在一个专制帝国中，通过复杂的战斗游戏决定领导权。主角以文化的价值观战胜皇帝，表明即使在竞争激烈的环境中，合作与同情依然是胜利的关键。
Scott Alexander 也提到，竞争往往会导致一个以同情与合作为基础的社会。
我相信，文化的价值观是一种成功的策略。这些价值观源自人们对公平、合作和自主权的共识，让我们能更容易形成团结的力量。大家都认同儿童不应因疾病而死，每个孩子都应该平等享有权利。在这个基础上，我们可以携手运用智慧实现这一目标。
人们普遍同意，惩罚那些不必要攻击或伤害他人的行为是合理的，并且这种一致性应该体现在法律和制度中。同时，个体对自己生活和选择的自主权也是显而易见的。
最终，这些直觉的逻辑推导将引领我们走向法治、民主和启蒙价值观。人工智能的出现为我们实现这些目标提供了机会，清晰了未来的方向。
尽管如此，它仍然是一种超然的美。我们有机会在实现这一目标方面发挥一些小作用。
雷峰网