7月6日至7日，首届人工智能（AI）治理全球对话在瑞士日内瓦举行。本次会议审议了全球首份独立开展的AI科学评估成果。评估结果由联合国人工智能独立国际科学小组完成配资门户官方网站查询，该小组汇集了全球范围内40位性别均衡的顶尖科学家，实现了迄今为止针对全球AI发展状况、最全面的一次全人类“集体体检”。
这份报告不带单一国家立场，它揭示了智能浪潮下全人类共同的深层发展焦虑：先进AI系统的演化速度，早已超出全球现行法律、行政监管与社会约束体系的承载能力；算力、通用大模型、自主AI智能体等核心资源，高度集中在少数商业科技巨头手中，技术红利分配不均、算法偏见、自主智能安全隐患、数字权力被垄断等多重风险，正在相继出现。
近两年，美国AI企业Anthropic推出的Claude Mythos 5级基座模型，引发热议。与其共享同一底层架构、面向公众商用开放的衍生版本Claude Fable 5同步上线发布。企业持续对外渲染，这套基座模型拥有近乎人类顶尖专家的长链推演与性能突破能力，反复向公众塑造模型可自主谋划、自主突破人类限制的叙事。
这种刻意拔高性能的宣传持续加剧公众焦虑：倘若这个基座模型的逻辑推演能力、综合思考能力已经逼近甚至超过人类，这套核心技术完全掌握在Anthropic这家私营企业手中，具备强大自主推演潜力的模型，为何始终受控于企业资本？会不会脱离人类管控自主运行？这些追问，暴露了商业营销话术与技术客观现实之间的巨大鸿沟，也为全球AI治理划定了必须厘清的认知底线。
首先，企业刻意渲染Mythos拥有“无上限超强能力”，核心商业诉求在于抬高企业估值、吸引大额融资、争夺全球大模型行业话语权。
从技术底层来看，无论是完整版Claude Mythos 5，还是公开商用的Claude Fable 5，都无法脱离四项核心运行基础：人类预设任务目标、海量训练数据集、持续稳定算力供给、人类反馈校正机制。两类模型均不具备真正的自主意识与独立自由意志。模型所有判断、推演与输出行为，均依托人类历史训练数据、企业资本设定的奖励函数生成。一旦切断电力、算力、数据供给，整套Mythos系列模型就会立刻停摆。这是AI无法脱离人类独立运行的第一层硬性物理制约。
更深一层约束，来自企业资本设定的底层价值导向。Anthropic训练Mythos系列模型的最终目标是商业盈利，企业会在底层代码层面锁定模型的价值判断标尺，使其所有推演逻辑自动服务于资本收益诉求。模型本身不存在主动背离企业、挣脱管控的内在原生动力。
但联合国AI评估报告同时发出警示：上述两层约束并非永久稳固、无法突破。随着多智能体协同、模型自主迭代、长周期自我进化技术不断取得突破，Mythos这类顶级基座模型未来或将逐步具备识别人类管控漏洞、规避安全护栏的能力。商业资本天然逐利，会持续驱动企业不断放宽安全限制、释放模型全部潜能，以此换取市场竞争优势。仅依靠企业自我约束、行业自律，长期来看不足以化解超级AI潜藏的各类社会、安全风险。
这里便引申出AI治理层面的核心矛盾：如果仅依靠持有顶级模型的私营企业自主管控AI系统，一旦资本商业利益与全人类公共安全、整体福祉发生冲突，企业必然优先保障自身经营收益，牺牲全民公共权益。单纯寄希望于科技巨头主动划定安全底线，无异于工业时代指望工厂资本家自发缩短工时、废除童工制度。历史经验充分证明，缺少公共权力外部监管的私人资本，不可能自发实现兼顾全民福祉、以人为本的技术发展。
当下全球占据主导的资本模式，本质就是学界界定的监控资本主义。哈佛商学院教授肖莎娜·祖博夫在《监控资本主义时代》一书中提出，这种新型资本主义无偿攫取人类生活经验，将之转化为行为数据，并把对人的行为预测、定向干预包装成可交易的商品。工业时代的流水线生产，是资本对劳动者身体的禁锢：标准化产线、固定工位、统一工时，把人的身体束缚在固定生产流程之中。劳动者只能重复机械体力工作，身体的自由活动空间被资本生产逻辑彻底压制。而以顶级大模型、多智能体系统为核心的智能体系全面普及，监控资本主义便会完成更深一层的异化升级：资本的管控不再仅限于劳动者的身体，更会进一步束缚人的思维、认知与创造能力，完成对人精神世界的全面规训。
在AI深度渗透的新型产业体系里，各类算法化作无形的流水线管理者。算法持续筛选、重塑人的认知模式，任何脱离算法预设框架的独立思考，都会被标记为低效产出。劳动者为了获取劳动报酬，只能主动放弃自主思维，完全依附于智能系统的判定逻辑。
人的本质，在于身体的自由活动、独立的思辨创造、多元的情感表达。而监控资本主义借助大模型工具，同时剥夺人类身体与思想的双重自由，把人改造为服务资本增值的标准化生产工具。联合国这份AI科学评估报告，注重警示算法异化带来的精神健康危机：全球数字劳动者焦虑、抑郁、自我价值感缺失等心理问题逐年攀升，算法全程监控、量化考核、不间断任务推送等，持续压缩人的自主精神空间。
这一趋势敲响了一记沉重的时代警钟：倘若任由私人资本垄断AI智能底座，无节制地借助AI完成对劳动者身心的双重管控，人类会逐步丧失独立思考、自主创造的底层能力，最终沦为算法与资本的附属品。
AI从来不是单纯的技术问题，它关乎产权归属、劳动权益、分配公平、人性存续、全球公共秩序等多重深层议题。想要兼顾AI技术创新与人类整体安全，就必须跳出企业自律的单一治理思路，站在工业文明迈向智业文明的历史节点，提前布局、系统搭建完善的AI社会治理制度，用前置化制度化解技术潜在风险。只有这样，才能让AI真正成为解放人体、丰富生活、普惠全人类的文明工具。正如联合国秘书长古特雷斯在首届AI治理全球对话上所说，“创新需要护栏。如果AI要真正发挥强大作用，就必须接受有效治理。”
（王飞跃配资门户官方网站查询，中国自动化学会监事长、中国科学院自动化研究所研究员）
广盛网app提示：文章来自网络，不代表本站观点。
相关文章
热点资讯
