当AI开始撕裂社会，监管该如何出手？

图源：视觉中国

改稿子、做PPT、辅助医疗诊断……如今，人工智能正加速融入人们的生活。但当人们享受着AI带来的便利时，却鲜少追问一个更棘手的问题：如果AI开始撕裂社会，该怎么办？

不久前，新加坡资讯通信媒体发展局（IMDA）与美国科技巨头微软签署了一份合作协议，核心目标正是给快速演进的AI技术套上“缰绳”——确保它在服务社会的同时，不会沦为黑客手中的利器，也不会被用来制造混乱。

这让人不得不思考，当AI的“创造力”撞上社会的“脆弱性”，监管如何出手。

前段时间记者访问新加坡时，也曾和当地官员探讨过相关话题。于他们而言，在人工智能治理上，一个词很关键：问责制。

在所有国家都头疼的AI治理难题面前，新加坡走了一条不太一样的路。他们既不追求“先发展再治理”的粗放，也不急于用严苛立法绑住创新的手脚。

从2019年的AI监管框架，到2022年推出的AI Verify测试工具，再到今年发布的全球首个“代理式AI监管框架”，新加坡的做法是一点一点搭建“工具箱”。每个工具都不是终极答案，但组合在一起，就形成了一套清晰的治理逻辑。

这套逻辑的第一条原则是，AI不是法律主体，责任永远归属于背后的人类或法人。你可以用AI生成任何内容，但如果它越界了，承担责任的是你，不是算法。

代理式AI框架更是明确要求，部署智能体时，还应在关键决策节点——比如涉及重大风险或不可逆操作的环节，设置必要的人工审批环节，确保人类对智能体的行为承担实质责任，实现有意义的人工监督。

可以说，新加坡的立场非常明确：技术可以犯错，但责任人跑不了。

这种思路背后，是对自身处境极其清醒的认知。新加坡国土面积只有700多平方公里，人口由华族、马来族、印度族等多个种族构成，任何微小的族群裂痕都可能被放大为社会的伤口。

正因如此，他们不去跟中美比拼大模型的参数和算力，而是把自己定位为“可信赖的全球AI枢纽”。交流中，当地官员反复提到“HUB”（枢纽）——目标不是做最聪明的AI，而是做最可靠、最让人放心的AI。

日常生活中，我们总在讨论AI会如何改变世界，但新加坡的措施似乎启示我们：比起AI能做什么，更重要的是一个社会不允许AI做什么。当算法开始触碰人类最敏感的神经时，政府用法律法规编织的治理网格，能否拦截住算法的野蛮生长，这才是这个时代真正的考验。

(来源：“网信浙江”微信公众号)

(链接：https://mp.weixin.qq.com/s/odwSMciCsdMBaTJXiVgD-g）