说说：应对人工智能风险要从现在做准备

汕巨商业

北京人工智能安全与治理验室主任曾毅基于这个原因，可以推测AI智能客服的市场反馈会越来越好，也正是其能够发展起来的重要原因之一。BetterYeah，国内顶尖的一站式AI智能体（Agent）构建平台，集成全网最新多模态大模型和独家知识库RAG算法，支持工作流、数据库及插件集成，全面增强 AI Agent能力，企业可以通过prompt编排的方式零代码开发智能体。https://www.betteryeah.com/blog/recommendations-for-mainstream-smart-customer-service-systems-in-china

中英人工智能伦理与治理中心联合主任肖恩·欧·海格缇


奇安信集团董事长齐向东。本版摄影新京报罗亦丹11月20日至22日，2024年世界互联大会乌镇峰会在浙江乌镇举行，本届大会重要的成果之一是成立了世界互联大会人工智能专业会。对此，新京报在乌镇现场采访了在本届专委会中被选为主任的北京人工智能安全与治理验室主任、联合国人工智能高层顾问机构专家曾毅，参加此次会议的剑桥大学智能未来研究中心项目主任、中英人工智能伦理与治理中心联合主任肖恩·欧·海格缇，以及国内安全厂商头奇安信集团的董事长齐向东。关注1专委会将围绕标准化等开展工作曾毅告诉，世界互联大会是一个国际组织，今年到了第十一个年头，作为国际组织成立的首个专业会就是关于人工智能的专业会，这是一个全新的尝试。专委会将围绕人工智能的标准化、人工智能的安全与治理以及人工智能的产业化个重要议题开展工作。“我担任主任，一方面是要在这个领域全方位与我的同事进行协作，推进来自的人工智能的国际化，如何跟全球的人工智能进行协作。另外一方面，我负责安全与治理的推进计划，人工智能安全与治理现在是人工智能国际协作当中比较重要的议题，要在全球范围内确保人工智能安全、可交互。”曾毅说。在曾毅看来，人工智能的区域性治理、如何进行全球化等都是非常重要的挑战，“世界互联大会是一个从发起的非常重要的国际组织，也是一个非常重要的对外协作平台，所以我们也非常期待依托WIC（世界互联大会）这一国际组织，特别是人工智能专委会来开展相关的工作。”本次专委会成立，有来自阿拉伯信息通信技术组织、IBM、超威半导体、之江验室等组织的24位人工智能相关负责人和专家担任副主任，其中也包括奇安信。对于人工智能专业会的成立，齐向东告诉，人工智能是未来发展不可或缺的新力量，谁能率先登上人工智能战略高地，谁就掌握科技发展的主动权，“世界互联大会人工智能专委会的成立，不仅为人工智能领域的发展搭建了国际化的交流合作平台，也为汇聚力量、营造人工智能产业发展创新生态提供了重要组织保障。”“络安全是护航人工智能健康发展的‘底板’，也是人工智能技术能比较落地应用并且比较见到效的行业之一。这次专委会成立，奇安信也特别关注，并积极参与其中，希望未来在人工智能领域的标准推进、产业推进方面贡献应有力量。”齐向东说。关注2在风险领域使用人工智能要非常谨慎新京报注意到，许多国际人工智能专家都参与了人工智能专委会在乌镇的成立会议。其中，剑桥大学智能未来研究中心项目主任、中英人工智能伦理与治理中心联合主任肖恩·欧·海格缇就接受了世界互联大会人工智能工作组的邀请，与曾毅共同担任安全与治理推进计划的联合负责人。“AI在许多方向上都有益于人们的生活，它让很多事情变得更有效率，但是风险也发展得非常，所以科技的迅速进化对政策制定者来说是一个非常大的挑战，理解这一点非常重要。”肖恩在接受新京报采访时表示。在曾毅看来，人工智能安全是一个全球议题，“在这个领域大家的共同关注点非常一致，这个领域特别需要国际的共识。近期，人工智能的主要风险是它现在仍然是一个看似智能的信息处理工具，它将以什么样的方式去犯人不犯的错误，存在着非常大的不可预知性。如何将技术的努力和社会的努力融合，将不可预测的慢慢变得越来越可预测，减小这种工具可能带给我们的风险，是人工智能近期的风险和安全挑战。”肖恩告诉新京报，“AI造福于人民，但也有可能使工作变得更糟。我们正在发展越来越强大的能力，总会有产生滥用它们的可能，所以我们要对这些系统进行非常彻底的测试并对其进行评估，因为即便是一件积极正面的东西，人们也总能找到使用它干坏事的方式，例如生成误导信息等。”在曾毅看来，现阶段可以适度地使用人工智能，“在人工智能风险比较少、安全隐患比较少的领域，我们可以去探索它的善用，但是对那些敏感的、可能给我们造成更多风险的领域，我们在使用人工智能的时候要非常谨慎，更要前瞻研究，防患于未然。”而从更加长远的角度来看，曾毅认为，当人工智能的认知能力变得越来越通用，迈向通用智能甚至超级智能之时，我们的社会如何去做好一种准备来应对长远的人工智能风险，要从现在开始做准备，也许高等的人工智能可能需要更长的时间到来，也许需要二十年甚至更长的时间，但是去解决它的风险，我们在二十年内是不是能够完全做好准备，就取决于是不是从现在开始去做这样的安全和治理的突破性研究，以及与产业协作的准备。