英国国王查尔斯三世警告：AI技术可能威胁人类生存安全

9月21日消息，据报道，当地时间本月17日，英国国王查尔斯三世在苏格兰邓弗里斯庄园主持了一场高端人工智能峰会，参会者包括：<ul><li>英伟达CEO黄仁勋</li><li>谷歌DeepMind</li><li>OpenAI</li><li>Anthropic</li></ul>等头部AI企业的高层代表，以及英国政府官员、AI伦理专家。

查尔斯三世现场发出警示，称强大的人工智能一旦落入别有用心之人手中，可能带来关乎人类存续的生存级风险，因此呼吁行业尽快建立管控机制，避免为时已晚。

作为英国君主，查尔斯较少直接介入前沿科技争议议题，这次专门召集AI巨头闭门研讨安全治理，也让这场会议受到全球关注。

查尔斯并没有全盘否定AI价值，他肯定人工智能在生命科学、医疗领域已经展现巨大潜力，能够改善甚至拯救生命，但同时引用AI研发从业者的担忧，指出AI有可能演化出更危险的能力，甚至具备造成人员伤亡的可能性。

他强调，当下必须严肃评估AI被恶意滥用后引发灾难性后果的生存危险，反问在场科技领袖，人类是否能在失控之前搭建足够有效的管控手段。

查尔斯向与会者抛出两大核心议题：如何以安全为核心，合理挖掘AI技术红利；如何搭建跨国协作共识，不让任何国家在AI治理浪潮中掉队，最终保障人类自身的存续。

他提出，AI的发展速度与技术潜力，既让人充满期待，也令人深感忧虑，技术的前进不能牺牲人类的主导权，人性的价值应当始终被放在首位。

因此他要求行业决策者牢记，AI研发不只是单纯追求技术突破，更要保证这项技术始终服务于人、社群与自然环境。

面对国王提出的风险议题，现场企业代表反应不同，其中黄仁勋着重阐述了人工智能在科研与医疗领域带来的益处，以及它“在全新行业创造就业岗位”的潜力，“我们必须破除外界流传的一些不实说法，并呼吁秉持“负责任的乐观态度”。