去中心化加速主义:Vitalik对未来的展望
摘要: 本文围绕去中心化加速(d/acc)理念,探讨其在技术发展中的应用与挑战,比如人工智能的安全与监管、与加密货币的关系,以及公共物品资助等,强调了 d/acc 在构建更安全美好世界中的重要性,以及未来面临的机遇与挑战。作者深入分析了 d/acc 的内涵,通过对比不同策略,探讨其如何应对人工智能风险,论述加密货币的价值和公共物品资助机制的探索,最后展望未来技术发展中的挑战与人类利用现有工具和理念构建优质世界的机会。
特别感谢 Liraz Siri、Janine Leger 和 Balvi 等志愿者的反馈与审阅。
一年前,我写了一篇关于技术乐观主义的文章,表达了我对技术的热情和它带来的巨大潜力,同时对一些特定问题保持谨慎态度,特别是超级智能人工智能的风险,包括它可能对人类权力造成的不可逆转的影响。
我在那篇文章的一个核心观点是坚持去中心化、民主且差异化的防御性加速,既要推动技术发展,又要专注于那些能提升我们的防御能力而非危害的技术,努力分散权力,而不是让少数精英掌控一切,避免由他们来决定是非善恶。防御的模式应如同民主的瑞士和历史上准无政府主义的佐米亚,而不是中世纪封建主义下的领主和城堡。
过去一年,这些理念和看法经历了显著的发展与成熟。我在「80,000 小时」这个平台上分享了这些想法,得到了许多积极的反馈,当然也有一些批评的声音。 这项工作持续推进并取得了显著成果:
- 可验证开源疫苗领域的进展不断;
- 健康室内空气的价值认知日益深入;
- 社区笔记继续发挥积极作用;
- 预测市场作为信息工具迎来了突破;
- 零知识简洁非交互式知识论证(ZK - SNARKs)在政府身份识别和社交媒体领域得以应用,确保以太坊钱包的安全;
- 开源成像工具在医学和脑机接口(BCI)中获得应用。
去年秋季,我们迎来了首个重要的 d/acc 活动:在 Devcon 举办的 「d/acc 发现日」(d/aDDy),汇聚了来自各个支柱领域(生物、物理、网络、信息防御和神经技术)的演讲者,活动持续了一整天。多年来致力于这些技术的人们愈发了解彼此的工作,外部人士也开始意识到这一更宏大的愿景:推动以太坊和加密货币发展的核心价值观能够拓展至更广阔的世界。
d/acc 的内涵与外延
时光来到 2042 年。你在媒体上看到一个消息,称你所在的城市可能爆发新的疫情。这样的消息你早已见怪不怪:人们对每种动物疾病的突变往往反应过度,但大多数情况下,这些突变不会引发实际危机。之前两次潜在疫情均通过废水监测和社交媒体开源分析被及早察觉并成功遏制。然而这次情况不同,预测市场显示至少 10,000 例病例的概率高达 60%,让你感到不安。
就在昨天,该病毒的基因序列已被确定。你口袋里的空气测试仪软件更新随即推出,这个更新让测试仪能检测新病毒(无论是通过呼吸检测,还是在房间内暴露于室内空气 15 分钟后检测)。与此同时,全球任何现代医疗设施都能获取的设备生成的疫苗开源指令和代码预计将在几周内发布。大多数人还未采取行动,主要依赖普遍采用的空气过滤和通风措施来保护自己。 由于你的免疫系统有点脆弱,所以你做事时更加小心翼翼。你用的那款开源的本地运行AI助手,除了给你推荐路线、餐厅和活动,还会结合实时的空气质量和二氧化碳数据,确保推荐给你的都是最安全的地方。这些数据来源于成千上万的用户和设备,通过 ZK - SNARKs 和差分隐私技术来降低数据泄露或滥用的风险(如果你想为这些数据集贡献信息,还有其他AI助手可以验证这些加密手段的有效性)。
两个月后,疫情奇迹般地消退了:大约 60% 的人都遵守了基本的防疫措施。当空气质量检测仪发出警报并显示有病毒时,他们会佩戴口罩,若检测结果阳性则选择居家隔离。正是这种举动,使得因被动强力空气过滤而大幅降低的传播率进一步降至 1 以下。一项模拟结果显示,原本可能比二十年前的新冠疫情严重五倍的疾病,如今却没有造成严重影响。
微小发报道:Devcon 的 d/acc 活动
Devcon 举办的 d/acc 活动取得了极为积极的成果,成功将来自不同领域的人们聚集在一起,激发了他们对彼此工作的浓厚兴趣。
举办一场有「多样性」的活动并不难,但让不同背景和兴趣的人真正建立起紧密联系却非常不容易。我还记得初中和高中被迫观看冗长歌剧的日子,那时我觉得它们实在无聊透顶。我知道自己「理应」欣赏这些作品,不然就会被视为没有文化的计算机科学懒虫,但我始终无法与它们产生深层共鸣。然而,d/acc 日的氛围却截然不同:大家都真心享受着了解各个领域的乐趣。
如果我们想要构建一个比统治、减速和毁灭更为光明的未来,就必须开展这样的广泛联盟建设。d/acc 在这方面似乎取得了显著成效,这一点足以显现其理念的珍贵价值。
d/acc 的核心思想简单明了:去中心化、民主且差异化的防御性加速。目标是构建促使攻防平衡向防御倾斜的技术,并在实施过程中不依赖于将更多权力交给中央机构。这两者之间有着内在的紧密联系:任何一种去中心化、民主或自由的政治结构,在防御容易实施时通常能够繁荣发展,而在防御面临困难时则可能遭遇严重挑战——在这种情况下,大家更有可能陷入一场混乱的斗争,最终由最强者来主导局面。 理解去中心化、防御性和加速性的重要性,可以通过与放弃其中任意一项的理念对比来实现。
微小发报道
在去年的《我的技术乐观主义》中,有个图表指出:
去中心化加速,但忽视「差异化防御」的部分 🛡️
其实这就像是在当一名了不起的加速主义者(e/acc)的同时还想要去中心化。很多人都这么干,其中一些自称为 d/acc,乐于把自己描述成「进攻型」。然而,还有更多人对「去中心化人工智能」等话题表现出温和的兴趣,但我觉得,他们在「防御」方面的关注明显不够。
我觉得,这样的方法可能会减少某个团体对全球人类的独裁风险,但却没能解决根本的结构性问题:在一个鼓励进攻的环境中,灾难随时可能降临,或者某些人会自我标榜为保护者,长期占据统治地位。就人工智能而言,这种方法也无法有效应对人类相对于人工智能权力被削弱的风险。
差异化防御加速,但忽视「去中心化和民主」 ⚖️
为了安全目标而接受集中控制,对某些人来说,始终是个诱人的选择,大家肯定也听过不少这样的故事,以及随之而来的问题。最近,有些人担心极端集中控制可能是应对未来极端技术的唯一出路。想象一下,如果每个人都戴着一个「自由标签」——这可是比现在的可穿戴监控设备更进一步的产品,类似于某些国家用作监狱替代的脚踝标签……加密的视频和音频被持续上传,机器实时解读。然而,集中控制存在着其固有的问题。一种常被忽视但依然有害的集中形式,体现在生物技术领域(比如食品、疫苗)对公众监督的抵制,以及这种抵制行为长期不受挑战的闭源规范。
这种方法的风险显而易见,中心本身往往会成为风险源。新冠疫情期间,我们就见证了这一点,由多个主要世界政府资助的功能获得性研究可能是疫情根源,而集中控制的思维导致世界卫生组织多年来拒绝承认新冠病毒通过空气传播,强制社交距离和疫苗接种令引发了可能数十年的政治反弹。类似的事情很可能再次在与人工智能或其他技术相关的风险情境中出现。相比之下,去中心化的方式能够更有效地应对来自中心本身的风险。 去中心化防御,但排斥加速
从本质上来看,试图减缓技术进步或经济发展,这就像在为未来挖坑。
面对双重挑战:技术和经济的增长对人类有益,任何延迟都可能导致不可估量的损失;而在一个非极权的世界中,停滞意味着不稳定,能够“作弊”的人或团体将会获得胜利。减速主义在某些情况下如欧洲更健康的食物或核不扩散的成功时有成效,但这并不是万能药。
通过 d/acc,我们想达到的目标有:
-
坚守原则:在当今部落化的趋势中,不是盲目构建,而是创造出让世界更安全美好的东西。
-
理解技术进步将使世界变得奇特,人类在宇宙中的“足迹”会不断扩大。我们需要提升保护脆弱生物的能力,前进才是唯一出路。
-
打造真正保护我们的技术,而不是寄希望于“好人”或“好AI”的假设。我们要创造在构建和保护时更有效的工具,胜过破坏时的使用。
从另一个角度看 d/acc,可以借用 21 世纪 00 年代末的欧洲海盗党运动:赋权。
我们的目标是构建一个能保留人类能动性的世界,实现消极自由,避免他人(如公民、政府、超级智能机器人)对我们命运的干预,同时确保我们有知识和资源去行使这种能力。这与古典自由主义传统相呼应,包括斯图尔特·布兰德对“工具获取”的关注和约翰·斯图尔特·密尔对教育与自由的重视。考虑到 21 世纪的技术格局,d/acc 可以被视为实现这些目标的途径。
第三维度:生存与繁荣的协同发展
在我去年的文章里,d/acc 专注于防御性技术:物理防御、生物防御、网络防御和信息防御。但光靠去中心化的防御可不够,得有个积极的愿景,明确人类在获得新去中心化和安全性后能实现啥目标。
去年文章里有两个方面提到积极愿景:
-
关于超级智能的挑战,我提到了一条路径(这不是我发明的):
- 现在,人工智能应当被视为工具,而不是高度自主的智能体。
- 未来,我们可以利用虚拟现实、肌电技术和脑机接口等手段,强化人工智能与人类之间的反馈机制。
- 随着时间推移,最终目标是超级智能是机器和人类的紧密融合。
-
在谈到信息防御时,顺便提到除了帮助社区在攻击面前保持凝聚力的防御性社会技术,还有进步性社会技术,能帮助社区更容易做出高质量判断:像 Pol.is 这样的工具,以及预测市场。
不过,当时这两点似乎和 d/acc 的核心论点有些脱节:「这里有些关于构建更民主、更有防御性的世界的想法,顺便提一下,还有些关于如何实现超级智能的无关想法」。
但我觉得,所谓「防御性」和「进步性」的 d/acc 技术之间其实有重要联系。让我们扩展去年的 d/acc 图表,添加一个新轴(重新标记为「生存与繁荣」),看看会有什么新发现:
在各个领域都有一个一致的模式,那些能帮助我们在某一领域「生存」的科学、思想和工具,与能助力我们「繁荣」的科技和思想是紧密相连的。以下是一些具体例子:
-
最近的抗新冠研究聚焦于病毒在体内的持续存在,这被认为是长新冠的关键机制。最近还有迹象表明,病毒持续存在可能与阿尔茨海默病有关——如果这个观点成立,解决各种组织中病毒持续存在的问题,可能是攻克衰老难题的关键。
-
低成本和微型成像工具,比如 Openwater 正在研发的那些,在治疗微血栓、病毒持续存在、癌症等方面有很大潜力,同时也能在脑机接口领域发挥作用。
-
促进构建适用于高度对抗性环境的社会工具(如社区笔记)与合理合作环境的社会工具(如 Pol.is)的理念其实很相似。 · 市场预测在高合作与高对抗的环境中都显得格外重要。
· 零知识证明及类似技术在保护隐私的同时,也让我们能够对数据进行计算,增大了可用于科学研究的有益数据量,隐私保护也得到了提升。
· 太阳能和电池对推动下一波清洁经济的增长至关重要,同时在去中心化和物理弹性方面表现出色。
不同学科之间的相互依存关系同样重要:
· 脑机接口是信息防御和协作技术的关键,能够实现我们思想和意图的精细交流。这不仅是机器人与意识的连结,更是意识 - 机器人 - 意识之间的互动,契合多元性理念中脑机接口的价值。
· 许多生物技术依赖信息共享,而人们通常只有在确认信息仅用于特定应用时,才愿意共享。这需要隐私技术的支撑,如零知识证明、全同态加密和混淆技术等。
· 协作技术可以用来协调对其他技术领域的资助。
难题:人工智能安全、紧迫的时间线与监管困境
人们对人工智能的发展时间表看法截然不同。图表来自2023年黑山的Zuzalu。
去年,我的文章中收到的最有力反对来自于人工智能安全社区。他们指出:「假如我们有半个世纪的时间来发展强人工智能,那当然可以专注于构建有益的技术。但实际上,我们可能只有三年时间达到通用人工智能,再过三年便会进入超级智能时代。因此,如果我们不想让世界陷入毁灭或其他不可逆转的困境,不能仅加速有益技术的发展,还得减缓有害技术的进步,这就需要强有力的监管,可能会让权势者不满。」在去年的文章中,除了模糊地呼吁不要构建风险过高的超级智能外,我并没有提出具体的「减缓有害技术发展」的策略。因此,有必要直接探讨这个问题:如果我们处于一个极不理想的世界,人工智能风险极高,时间线可能仅有五年,我会支持什么样的监管措施呢?
对新监管持谨慎态度的理由
去年,加州的 SB-1047 法案引发了人工智能监管的热议。🔍 根据该法案,开发者在发布成本超1亿美金(或微调超1000万美金)的强大模型前,需进行一系列安全测试。若开发者疏忽大意,还会被追究责任。🤔 不少人认为这个法案对开源构成威胁,但我觉得问题的关键在于它只针对最强大的模型,比如 Llama3 可能就不在这个范围内。不过,回头看,这个法案还有更大的问题:它过于依赖现状。💡 训练成本的关注点在新技术面前显得脆弱,例如最近的 DeepSeek v3 模型训练成本仅为600万,而新型模型如 o1 的成本则更多地转向了推理阶段。
谁最可能导致人工智能超级智能的毁灭?🤖💥
说到人工智能超级智能的潜在毁灭者,军队无疑是最有可能的。⚔️ 回顾过去半个世纪的生物安全事件,我们看到军队往往愿意采取极端措施,而且他们容易犯错。目前,人工智能在军事上的应用正在加速(比如在乌克兰和加沙地区)。而且,任何国家的安全监管措施往往会默认免除本国军队及与其紧密合作的企业。🛡️
应对策略🛠️
尽管如此,这些论点并不是让我们放弃的理由。相反,我们可以利用这些担忧,制定起码不会加剧问题的规则。
策略 1:责任
如果某人行为导致了可追究的损害,他们可能面临法律责任。这虽然无法完全消除军队及其他“凌驾于法律之上”行为者带来的风险,但这是个相对通用的方法,因此自由意志主义者通常支持这种做法。📜
目前考虑的主要责任主体如下:
- 用户:使用人工智能的人。
- 部署者:为用户提供人工智能服务的中介。
- 开发者:创建人工智能的人。 将责任归于用户,似乎是个激励机制的好主意。虽然开发模型的方式和最终使用之间的关系常常模糊,但用户才是真正决定如何使用人工智能的那个人。追究用户的责任会施加巨大的压力,推动他们以我觉得对的方式来使用人工智能:专注于为人类思维打造机械助手,而不是创造出自我维持的智能生命。前者会定期回应用户的需求,所以除非用户愿意,基本不会引发灾难。而后者则大有可能失控,导致经典的“人工智能失控”场景。将责任尽量靠近最终用户的另一个好处是,这样可以最大限度减少因责任而导致的其他潜在有害行为(比如闭源、KYC监控,或国家和企业之间的秘密勾结,让部分客户被拒绝服务,导致广阔地区被排除在外)。
当然,单纯把责任推给用户的观点也遭到反对:用户可能是普通人,没啥钱,甚至可能是匿名的,这样就没人能为灾难性损失买单。不过,这种观点可能被夸大了:即使有些用户太小而无法承担责任,人工智能开发者的客户可不是,这样开发者还是会被激励去设计出让用户觉得责任风险不高的产品。也就是说,这个问题确实需要关注。你得找出在这个激励链条中有资源的人,促使他们采取适当的谨慎措施,而部署者和开发者都是显而易见的目标,他们对模型的安全性仍有很大影响。
将责任归于部署者似乎也很合理。一个常见的担忧是这对开源模型不适用,但这看起来是可以管理的,特别是因为最强大的模型更可能是闭源的(如果结果是开源的,虽然部署者责任最终可能不太有用,但也不会造成大危害)。开发者责任也面临同样的担忧(尽管对于开源模型,微调模型以执行一些原本不被允许的操作是有一定障碍的),但同样的反驳理由也适用。原则上来说,对控制施加一种“税”,本质上就是在说“你可以造一些你无法控制的东西,或者你可以造你能控制的东西,但如果你造能控制的东西,那20%的控制权得用于我们的目的”,这似乎是法律系统应有的合理立场。
还有一个似乎尚未被充分探讨的想法是将责任归于链条中其他更有资源的参与者。符合d/acc理念的一个想法是,追究人工智能在执行某些灾难性行动时所接管的设备所有者或操作者的责任(比如通过黑客攻击)。这将创造一种广泛的激励,促使人们努力让世界(尤其是计算和生物技术领域)的基础设施尽可能安全。 策略 2:全球工业硬件的「软暂停」按钮
如果我真的觉得我们需要比责任规章更强硬的手段,这个策略是我的选择。目标是在关键时刻能够将全球计算能力降低约 90% - 99%,持续 1 - 2 年,以便给人类争取更多准备时间。1 - 2 年的价值可不能小觑:一年的「战时模式」在自满的情况下,可能等同于一百年的常规运作。实现这个「暂停」的方式正在摸索中,包括一些具体提案,比如硬件注册和验证位置。
更进阶的办法是利用巧妙的加密技术:例如,工业规模(非消费级)人工智能硬件可以配备一个可信的硬件芯片,只有在每周从主要国际机构(至少一个非军事机构)获得 3/3 签名后,才能继续运行。这些签名与设备无关(如果需要,我们甚至可以在区块链上发布零知识证明),所以这是全有或全无的:没有办法授权某个设备继续运行而不同时授权所有其他设备。
这在最大化利益和最小化风险方面似乎很「靠谱」:
-
有用的能力:如果出现接近超级智能的人工智能开始可能导致灾难性后果的迹象,我们会希望更慢地进行过渡。
-
在关键时刻之前,仅仅拥有软暂停的能力对开发者的伤害很小。专注于工业规模硬件,仅设定目标为 90% - 99%,可以避免一些反乌托邦的做法,比如在消费级笔记本中植入间谍芯片或强制关闭开关,或强迫小国违背意愿采取严厉措施。
-
硬件的专注力似乎对技术变化适应性极强。我们在多代人工智能中已经看到,质量在很大程度上依赖于计算能力,尤其是在新范式的早期。因此,将可用计算能力降低 10 - 100 倍,能轻易让失控的超级智能人工智能在与人类的快速对抗中分出胜负。
-
每周上线获取签名的复杂性将大大抑制将该方案扩展到消费级硬件的想法。
-
随机检查可以验证,而且在硬件层面进行操作将使特定用户的豁免变得困难(基于法律强制关闭的方式不具备这种全有或全无的特性,更容易滑向对军队的豁免)。 硬件监管的热议正在升温,虽然通常是在出口管制的框架内,但这其实反映了「我们自信,但对你不信任」的心态。利奥波德·阿申布伦纳曾提到,美国应该争取绝对优势,然后迫使中国签个协议,限制他们能使用的设备数量。对此,我觉得这方法风险不小,可能会加剧多极竞争和集中化问题。如果我们得要限制,平等地对待每个人,合作组织实施似乎更合理,而不是单方主导。
d/acc 技术在人工智能风险中的关键角色
责任和硬件暂停按钮这两种策略都有缺陷,显然只是权宜之计:如果在某个时间点超级计算机能做的,五年后笔记本也能做到。我们得想出更稳妥的措施来争取时间。这里,许多 d/acc 技术都能派上用场。想象一下,如果人工智能真掌控世界,它会怎么做?
- 它入侵我们的计算机→网络防御
- 它制造超级瘟疫→生物防御
- 它说服我们(要么信任它,要么互不信任)→信息防御
责任规则自然而然符合 d/acc 理念,因为它能有效激励全球采取这些防御措施。最近,台湾在假广告问题上追究责任,可以视为利用责任来推动信息防御的一个例子。我们不应过分追求到处施加责任,毕竟普通自由让小人物能参与创新而不必担心诉讼,但在需要推动安全的地方,责任的灵活性和有效性是值得关注的。
加密货币在 d/acc 中的潜在影响
d/acc 的许多方面远超区块链的传统话题,比如生物安全、脑机接口和协作工具似乎与加密货币人士的讨论相去甚远。不过,我认为加密货币与 d/acc 之间有些重要联系,尤其是:
- d/acc 是加密货币的核心价值(去中心化、抗审查、开放全球经济和社会)向其他技术领域的延伸。 · 加密货币用户天生就是早期采用者,价值观一致,让加密货币社区成为 d/acc 技术的天然实验田。社区的重视程度无论线上线下(像活动和快闪),以及他们愿意承担高风险行动而非只是在那儿闲聊,令加密货币社区对 d/acc 技术极具吸引力。这些技术本质上是群体驱动的,像大多数信息防御和生物防御技术一样,加密货币的人士就是一群共同行动的人。
· d/acc 主题领域里,很多加密货币技术都能发挥作用:区块链能创建更强大和去中心化的金融、治理及社交媒体基础设施,而零知识证明则保护隐私等。目前,许多顶尖的预测市场已经建立在区块链上,正逐渐变得更加复杂、去中心化与民主化。
· 在与加密货币相关的技术领域,双赢的合作机会随处可见,这些技术对加密货币项目至关重要,同时也是实现 d/acc 目标的关键:形式验证、计算机软件和硬件安全,以及具备抵抗性和稳健治理的技术。这些技术增强了以太坊区块链、钱包和去中心化自治组织(DAO)的安全性和稳健性,还实现了重要的文明防御目标,比如降低我们在网络攻击(包括可能来自超级智能AI的攻击)下的脆弱性。
Cursive 是一款运用全同态加密技术(FHE)的应用,允许用户识别与其他用户共同关注的领域,同时保护隐私。清迈的 Edge City(Zuzalu 的众多分社之一)就使用了这款应用。
公共物品资助与 d/acc
我一直在思考如何更好地资助公共物品:那些对大群体有价值但缺乏自然商业模式的项目。我过去在这个领域的探索包括对二次方资金资助的研究,以及我在 Gitcoin 赠款、追溯性公共物品资金(retro PGF)和最近的深度资金资助中的贡献。
对于公共物品,很多人持怀疑态度,这种怀疑通常来自两个方面:
· 公共物品历史上常被当作政府进行强硬中央计划和干预的借口。
· 人们普遍认为公共物品资助缺乏严谨性,往往是基于社会期望偏差运作——即听起来不错,但实际上未必真的好——这使得那些擅长社交游戏的内部人士受益。 在探讨d/acc愿景时,去中心化公共物品资助显得尤为重要,尤其是考虑到其核心目标——减少中央控制,这也成为了传统商业模式的绊脚石。开源基础上建立企业是有可能的,像几个Balvi资助者正在实践,但在某些情况下,重要项目亟需持续的支持。所以,我们需要面对挑战,找到一种既能回应批评又能支持公共物品的资助方式。
🔑 解决方案一:可信的中立性和去中心化
中央计划的问题在于将权力交给可能滥用权力的精英,同时往往过度适应当前情况,导致效率逐渐下降。二次方资金资助等机制旨在以可信的中立和去中心化的方式来支持公共物品。
🔑 解决方案二:应对人气竞赛的挑战
对于二次方资金资助的批评之一是,它很容易演变为人气竞赛,迫使项目资助者投入大量精力进行宣传。那些显眼的项目(比如最终用户应用程序)更容易获得资助,而一些幕后项目(如由内布拉斯加州的某个人维护的依赖项)却常常被忽视。乐观主义追溯性资金依赖于少数专家,而人气竞赛效应则显得不那么明显,但与专家的社会联系却被放大了。
🔍 深度资金资助:我的最新尝试
为了应对上述挑战,我提出了深度资金资助的概念,包含两个主要创新:
- 依赖关系图
我们不再询问陪审员一个普遍性的问题(比如“项目A对人类的价值是什么?”),而是聚焦于局部问题(例如“项目A或项目B对结果C的价值更高?值多少?”)。人类在回答全局性问题时往往表现不佳:一项研究显示,当问及愿意花多少钱拯救N只鸟时,受访者的回答几乎一致,且金额约为80美元,无论N是2000、20000还是200000。局部问题则相对容易解决。接着,通过维护一个“依赖关系图”,我们能够将局部答案整合成全局答案:每个项目的成功依赖于哪些其他项目,以及它们的贡献程度。
-
人工智能的角色:作为人类判断的提炼,陪审员们各自只需处理随机选取的问题小样本。通过开放竞赛,任何人都能提交自己的人工智能模型,目标是有效填补图中的所有边界。最终的答案是与陪审团答案最契合的模型加权总和。这种方法允许机制扩展到庞大规模,同时陪审团只需提供少量的“信息位”,从而降低腐败风险,确保每个信息位的质量。陪审员能够在每个问题上花费更多时间思考,而不是草草点击数百个问题。利用人工智能的开放竞赛,有效减少了单一训练和管理过程带来的偏差。可以说,人工智能是引擎,人类则是方向盘。🚀
-
公共物品资助的演变:深度资金资助只是最新的一例,之前也有其他公共物品资助机制的探讨,未来肯定还有更多。allo.expert在这方面的整理做得相当不错。根本目标是建立一种社会工具,能够以接近市场资助私人物品的公平性和开放性来资助公共物品。它不必完美,毕竟市场也不完美,但足够有效,让高质量的开源项目开发者持续投入,而不必妥协。🤝
-
现状与挑战:如今,大多数d/acc主题领域的前沿项目,如疫苗、脑机接口、边缘脑机接口、抗衰老药物等,都是专有项目。这在建立公众信任方面存在很大缺陷,如我们在多个领域所见。竞争动态往往将注意力转向“我们的团队必须赢得这个关键行业!”而忽视了如何让这些技术快速出现,以保护我们在超级智能人工智能时代的竞争。基于此,强大的公共物品资助或成开放性和自由的重要推动力。加密货币社区可以通过认真探索这些资助机制,助力d/acc,为开源科学和技术做好广泛应用的准备。💡
-
展望未来:未来几十年将面临重大的挑战。我最近思考了两个关键问题:一是强大的新技术浪潮,特别是强人工智能,正在快速涌现,这些技术背后隐藏着我们必须避免的陷阱。“人工超级智能”可能在五年内到来,也可能需要五十年。无论如何,默认结果是否自动积极依然不明朗,正如前文所述,还有多个陷阱需要我们警惕。⚠️ · 世界合作日渐稀缺。那些曾经偶尔坚持高尚原则(如世界主义、自由、共同人性等)的强大行动者,如今愈发显露出追求个人或部落利益的倾向。
然而,面对这些挑战,依然存在希望的曙光。我们现在手中拥有强大的工具,能够更迅速地完成未竟之事:
-
人工智能的崛起:如今的AI不仅能助力其他技术的发展,还能在治理中发挥作用,例如在深度资金资助或信息金融方面。与脑机接口的结合,更是能进一步提升生产力。
-
大规模协调的可能性:互联网和社交媒体的普及使得协调变得更广泛,全球金融(包括加密货币)的崛起增强了其效力,信息防御和协作工具的提升也让这一切更高效,未来脑机接口或许能深化这种人-计算机-人的协作。
-
网络安全的进步:形式验证、沙盒技术(如网络浏览器、Docker、Qubes、GrapheneOS等)、安全硬件模块等技术的改进,使得网络安全的提升变得更加可行。
-
软件开发的便利性:现在编写各种类型的软件比两年前轻松多了。
-
生物防御的新视角:最近关于病毒传播方式的基础研究,尤其是空气传播的简单理解,为改善生物防御指明了方向。
-
生物技术的突破:例如CRISPR和生物成像的进展,使得各种生物技术的应用变得更加容易,无论是用于防御、延长寿命、提升幸福感,还是探索新的生物假设,甚至是创造一些酷炫的东西。
-
计算与生物技术的协同:这使得合成生物工具的应用成为可能,能够帮助我们适应、监测和改善健康。网络防御技术(如密码学)让这种个性化的健康管理更加可行。
接下来,许多我们珍视的原则不再被旧势力的少数部分垄断,它们可以被一个广泛的联盟所重新夺回,欢迎世界各地的人加入。这或许是最近全球政治“重新调整”的最大好处,值得我们加以利用。加密货币已经成功利用了这一点,d/acc也有潜力做到同样的事。
获取这些工具不仅让我们能够适应和改善生物特性与环境,d/acc中的“防御”部分也意味着我们能够在尊重他人自由的前提下实现这一目标。自由多元主义原则为我们提供了实现目标的多样性,而对共同人类目标的承诺则确保这些目标能够得以实现。 人类依然是最闪亮的存在✨。我们面临的挑战是,构建一个更加美好的21世纪,同时在追逐星辰的旅程中,维护人类的生存、自由和活力。这可不是一件简单的事儿,但我坚信,我们有这个能力!🚀