【EC Markets交易官网】联合国专家组警告：AI发展速度已超越科学认知和监管能力 或带来灾难性风险

　　联合国一个独立专家组周三警告称，联合人工智能(AI)的国专发展速度已经超过科学界的认知能力和政府政策的跟进速度，这意味着无法保证该技术不会造成灾难性危害。家组警告监管

　　联合国国际人工智能独立科学专家组发布的发展一份初步报告指出，各国政策制定者正面临日益严峻的速度两难局面：一方面，他们需要充分且可靠的已超越科EC Markets交易官网科学证据来制定有效的AI监管政策；另一方面，科学研究和证据积累的学认性风险速度却难以跟上AI技术快速演进的步伐。

　　专家组联合主席Yoshua Bengio表示："AI能力的知和灾难发展速度正在超过科学界的理解水平，也超出了各国政府调整监管框架的或带能力。"

　　他进一步表示："越来越多的联合证据显示，AI已经表现出具有欺骗性的国专行为。基于当前的家组警告监管科学研究，我们无法保证，发展随着AI能力持续增强，速度它未来不会自行造成灾难性危害，已超越科或被恶意使用者利用而引发灾难性后果。"

　　这份报告被称为首份针对AI风险与机遇的EC外汇官网全球独立评估报告，旨在为各国政府提供最新科学评估，为其在面对快速演进的AI技术时制定政策提供参考依据。

　　报告预计，短期内，AI的发展重点将逐渐转向智能体。这类AI能够自主完成现实世界中的各类任务。不过，其进一步发展可能受到能源供应以及高质量训练数据不足等因素限制。EC安盈官网

　　从长期来看，报告预计，具备自我改进能力的AI将更加深入地融入全球经济，并与量子计算、生物技术等前沿科技逐渐融合。

　　当然，和以往一样，报告提到，AI的快速发展可能进一步加剧全球发展不平等，并呼吁建立一套全球共享的治理框架，以强化其发展的问责机制。

　　智能体AI快速发展

　　报告指出，目前AI已经展现出媲美专家水平的数学和科学推理能力，并正在加速药物及疫苗研发。

　　与此同时，AI能够处理任务的复杂程度正以每4至7个月翻一番的速度提升，这意味着未来AI系统可能能够完成过去需要人类耗费数天甚至数周才能完成的工作。

　　报告认为，虽然这一趋势有望带来可观的经济收益，但目前仍不清楚AI带来的生产率提升是否能够真正转化为更广泛的经济增长，也尚无法确定其将如何影响就业市场。

　　专家组同时指出，AI安全风险正不断上升，包括随着AI自主性不断增强，人类可能逐渐失去对其控制能力，以及AI欺骗行为不断增加等问题。

　　此外，AI目前已被用于生成虚假信息及其他有害内容，并可能被犯罪分子用于实施金融诈骗、网络攻击，甚至被用于制造生物安全威胁。

　　报告还指出，目前全球AI治理体系依然较为碎片化，许多国家缺乏评估或影响先进AI系统发展的能力，因此不得不依赖自己既无法充分理解、也无法有效控制的AI技术。

　　与此同时，现有AI安全评估工具往往依赖科技公司披露的有限测试数据，其可靠性仍存在局限。

　　联合国秘书长古特雷斯呼吁各国政府尽快采取行动。他在声明中表示："世界无法治理其无法理解的事物。AI蕴藏着巨大的发展潜力，但其风险同样真实存在，而拖延行动所付出的代价正不断增加。"

　　与此同时，在联合国数字技术机构的推动下，多位全球政界和科技界领导人于周三宣布成立一个新的国际委员会，以应对外界对AI发展潜在风险不断加剧的担忧。