我们为什么要构建一个人类必须与机器竞争的社会？
在DeepSeek用代码绘制的新世界里，机器开始理解情感、创造艺术、决策战略。随着AI逐渐发展成熟，创造出AI的人类究竟会成为造物者还是被控者？我们与AI的关系是恐慌替代还是协同进化？探寻人机共生的底层逻辑与利弊，我们应该怎样定义AI发展的目标？
从技术层面来说，给AI编程目标并不困难，其难点在于如何让机器达成共识，当前普遍的看法认为，人类群体甚至都难以达成共识，更何况机器。实际上，在Max Tegmark看来，尽管人们会争论哪种食物更美味、社会应该如何组织等，但几乎全球所有国家都认同联合国的可持续发展目标，包括消除饥饿、保护环境等。其实人类在许多基础目标上早已形成默契，只是习以为常所以不再谈论，如何让AI认同这些基本目标，正是尚未解决的安全问题的核心所在。我们应当先攻克这一难题，不用太过纠结人类存在分歧的次要目标，它们只是细枝末节。
这也是Max Tegmark提出“生命3.0”概念的初衷，我们都憧憬着一个人人充满同理心与爱、紧密连结的未来，但从现状到理想世界仍困难重重。当前研发通用人工智能（AGI）的企业是否真的在帮助我们迈向“生命3.0”，仍待验证。我们既需要发展出更强大的AI，更要确保对其的控制力。
当前的困境在于，尽管各国企业领导者都向往美好未来，但激烈竞争迫使他们在安全问题上走捷径，优先追逐短期利益，忽视人类的安全福祉。毫不夸张地说，我们正在制造的只不过是能为制造者赚钱的机器。如果放任用机器取代人工的企业淘汰传统企业，AI决策的公司碾压人类管理的公司，AI指挥的军队战胜人类军队，AI管理的国家超越其他国家，届时人类将置身何处？我们创造的世界将不属于人类，这不符合任何国家的利益，也不符合人类文明的根本诉求。
过去全球政界普遍将人工智能与国力直接挂钩，认为“多多益善”。但如今人们逐渐意识到：无论是哪个国家率先开发出人类智能，在尚未掌握控制技术的当下，都将可能导致人类文明终结。这种认知转变使各国利益达成空前一致：人类不应急于创造超越自身掌控的超级存在。
我们本可以借助科技创新享受更美好的明天，解决现有的问题，甚至探索宇宙的奥秘，为何要冒险葬送这一切？我们今天之所以急于求成，都是源自于竞争压力，但这与人类整体命运相比，完全不值一提。
更让Max Tegmark担忧的是，某些科技巨头发展过于迅猛，以至于能够干预政治、游说政府，在经济领域已初现端倪，为我们敲响警钟。假如人工智能领域重蹈覆辙，我们在未来可能见证雨林消失、社会礼崩乐坏、全民陷入精神困境，最终彻底丧失对文明发展方向的主导权。
Max Tegmark有三个孩子，他坦言，每当自己看着仅八个月大的儿子的眼睛时，内心总感到担忧。虽然孩子逐渐学会说话，各项能力也日益精进，但人工智能的发展速度会比他的成长速度更快。未来，面对充满疑虑、向他寻求建议的孩子，Max Tegmark唯一能确定回答的是：世界正以前所未有的速度发生巨变。
过去“寒窗苦读二十年、按部就班四十年”的范式已经过时，我们必须保持高度灵活性，并做好需要不断适应的心理准备。然而，当前的教育体系恰恰很难传授“灵活性”，即便是在MIT教学的Max Tegmark，也承认MIT变革的速度都不够快，现有教育体系亟需变革。
在适应未来的教育里，批判性思维至关重要，可以让人具备独立判断能力，避免被轻易操控。同时，所有人，包括从未学习任何有关AI知识的非专业人士，也必须密切关注AI在自己所属领域的最新动态，思考如何将其转化为自身优势。当前趋势表明，真正的竞争鸿沟并不是人机对抗，而是善用AI者与尚未掌握AI工具者之间的差距。
若人类决定继续发展超级智能，未来5到20年内或将出现以电力成本就能全面超越人类工作效率的机器，届时社会必须建立保障体系。政府需要通过税收或其他方式，让技术持有者或相关企业承担责任，确保每个人都能享有充实且幸福的生活。此外，也要明确划分AI的工作范畴，如教学、育儿、景观设计等领域，即便AI在这些领域中可能更高效，我们仍可选择保留这些赋予人类意义的职业。归根结底，我们为什么要构建一个人类必须与机器竞争的社会？政府的根本使命是保障人民福祉，而非服务于机器的利益。