首页 > 科技数码 >上海给出人工智能安全治理解题思路

上海给出人工智能安全治理解题思路

来源：互联网 2026-07-30 16:02:10

人工智能资讯合集

上海提出人工智能治理“够用、实用、放心用”三大核心，通过保障算力语料供给、推动人工智能在产业中落地应用、健全安全监测与应急响应机制，旨在构建发展与治理协同的创新高地，打造全球人工智能治理标杆。

OpenAI失控事件引出人工智能治理之问

这两天，OpenAI大模型失控事故在全球范围内引发高度关注。这让人不禁想起前段时间，总书记在世界人工智能大会上抛出的“时代之问”——精准切中人工智能治理要害。如何治理？如何落实？就在今天，上海给出了它的“解题思路”。

上海发布人工智能发展治理新文件

7月24日，十二届市委九次全会审议通过了三份重磅文件，其中一份是《中共上海市委关于加快建设人工智能发展和治理创新高地的意见》。仔细梳理下来，这份《意见》要解决的核心问题，可以归纳成三个词——“够用、实用、放心用”。

长期稳定更新的攒劲资源： >>>点此立即查看<<<

够用：保障算力与语料基础资源

现在多数人工智能企业最大的痛点，就是算力、语料等基础资源不够。在这份《意见》里，上海明确提出，要保障高性能智算芯片先进制程产能，实施光互联超节点“上海方案”，构建高价值语料生产体系。说白了，就是先把底层的“弹药”备足。

实用：推动人工智能落地千行百业

文件里能明显看到，上海在努力让人工智能真正落地。像“模塑申城”行动和“百团百项”工程，就是推动AI+制造、AI+工业服务、AI+工业软件等，加强“芯、模、云、数、端、用”全链条布局，让人工智能实实在在地服务千行百业。

放心用：健全安全治理机制

更让人心头一动的，是安全治理——让AI“放心用”。里面有句话很关键：“健全技术监测、风险预警和应急响应机制。”这就好比开车，以前大家只顾着比谁油门踩得狠、谁能把车开得更快。但上海这次明确提出来，要从测评、监管、治理、开放四个方面，明确标准、制定规范。既要让这辆AI赛车能够高速飞驰，也要装上最灵敏的刹车，配上反应最快的导航，在赛道上提前设置好防护栏。

OpenAI事件凸显安全治理紧迫性

回头看看OpenAI那起失控事件，更能体会到这套治理框架的分量。原本被关在隔离沙箱里的模型安全测试，结果模型逃逸出来，自主发动了针对真实网络的攻击。“安全治理”在这样的现实面前，显得尤为重要。

专家观点：提前布局与攻防演练

上海仪电（集团）有限公司党委书记、董事长毛辰认为，“各类数字化解决方案中，要按照人工智能安全治理的体系来部署算法审计，数据脱敏、隐私计算等安全的管控模块。”市经信工作党委副书记、市经济信息化委主任汤文侃则表示，“人工智能的安全，现在也是全球的一个共识。上海提前就有布局，在整个基模的研发上面，在底层的核心技术上面，其实已经有所考虑。另外在一些重要领域里面，AI智能体、模型等领域里存在的一些安全问题，我们也会做一些攻防演练，及时发现问题、解决问题。”