张苑柔：监管真的会扼杀创新吗？

“监管，真的会扼杀创新吗？”

这个问题在大马科技责任技术中心（Centre for Responsible Technology，CERT）推介礼的现场被反复提出。某种程度上，它其实也是许多科技创业者与企业主心里最直接的疑问。速度是市场竞争的关键，而监管往往被理解为让一切慢下来的力量。当科技发展越来越快，政府的角色是阻碍？还是必要的刹车？

日前，我参加了一场由MCMC及ISIS举办的大马科技责任技术中心推介礼。大马科技责任技术中心是一个研究型中心，主要关注科技对社会、永续与安全的影响，并讨论治理如何导向更好结果。

从企业端来看“move fast”几乎是一种直觉反应。速度代表先行者优势，也有助于建立品牌定位与市场话语权。但是当创新速度快的时候，也意味著更高的投资金额以及更大的营运风险。问题是当假新闻、仇恨言论、诈骗等影响开始外溢到社会层面，承担后果的却是整个社会。

这也是为什么一旦涉及网络危害，政府的反应速度通常会比较快。近期马来西亚对Grok的限制使用就是一个例子。这类介入并不是针对创新本身，而是回应风险已经开始扩散的事实。

在这样的情境下，讨论的重点自然会转向另一个问题：什么样的创新是社会愿意接受，也愿意一起承担后果的？

在讨论监管对创新的影响时，现场有一个相当一致的共识：“真正让企业却步的，是不确定性。”

对企业而言，最难承受的不是有规则，其实是不知道规则什么时候会改、会怎么改。如果我们能够有一个清楚的边界，一个可预测的监管框架（clear and predictable regulation），这反而能让企业安心投资，也更有底气扩张，甚至成为一种竞争优势。

从产业角度来看，在亚太布局中马来西亚常被视为具潜力的平台。许多企业选择在赛城或柔佛投资时，评估的从来不只是市场需求，也包括政策环境是否稳定、规则是否可预测。真正让企业迟疑的，往往不是规则本身，而是无法判断规则接下来会如何变化。

政府真的永远追不上AI吗？
另一个在现场被提出的问题是，政府是否注定只能成为AI发展的后追者？

AI的影响并不是一夕之间爆发，而是逐步渗透到各个产业。在许多情境下，政府确实落在后面。原因不只是能力问题，而是大量技术都来自外部生态系，加上政策制定的过程本身就有其时间成本。当算力与模型能力以日、以月为单位快速成长，而政策制定需要数月甚至更长时间，这种速度上的落差几乎无法避免。

因此讨论的焦点自然不在于能不能同步，更应该是政策是否具备持续更新的能力。对AI而言真正需要的是具弹性的敏捷监管（agile policy），而不是一套一次定死、难以调整的规则。

我们身处一个以类比世界（analog world）为基础设计的制度环境，但AI所属的是高度数码化、快速迭代的世界（digital world）。两者的运作节奏不同，如果直接用旧规则套用新技术就会产生落差。不同层次的技术（IT、AI、Tech）也需要不同层次的监管设计。

汽车产业的发展过程提供了一个很好的对照。早期的速度限制相对保守，随著技术成熟加上使用者对风险的掌握提升，监管也会跟著调整来让整个系统在更安全的前提下运作得更有效率。

信任是创新最昂贵的资产
讨论中不断被提及的不是合规（compliance），是信任（trust）。

其中有讲者以电梯为例子。过去电梯刚出现时，其实并不被大众信任。人们担心它失控下坠。后来引入的紧急停止装置（kill switch），是在电梯大规模普及之前就先为可能失控的情况准备好一个出口。正是这样的设计慢慢建立了大众信任让电梯成为日常生活的一部分。

换个角度来看，电梯能被广泛接受并不是因为它一开始就完美安全，而是因为人类提早为风险留下了空间。这样的逻辑放在AI上其实同样适用。

再好的技术，如果社会缺乏信任，就难以真正落地。当大型科技公司跑得太快，中小型玩家被甩在后面，市场的不平衡感也会逐渐侵蚀这份信任。这也是为什么监管如果只停留在打勾式的合规流程，就会很难回应实际的问题。企业需要的是清楚的边界以及一个能够支持基础建设与社群参与的制度环境。

人民与企业，如何被纳入这套系统？
治理讨论若只停留在政府与企业之间就不足以建立长期信任。现场也多次提到人民必须被纳入这个系统之中。

从大型科技公司的投资经验来看，重点早已不只是技术本身，而是与社区共同成长。实际作法包括社区中心、技能提升计划，以及在地合作。关键不在于形式上的合规，而在于技术设计是否真的能提升社群与整体经济。一套成熟的监管框架应该让企业与人民清楚知道边界，同时具备清楚、可预测与可调整的特性，让新创有机会真正成长。

观察与思考
那天在CERT推介礼上，我最大的感受并不是“政府要开始管AI了”。

当科技跑得太快，让创新真正停下来的不是有人出手限制，是社会不再相信技术能被好好使用、风险能被管住。负责任科技，就是在问题发生之前把可能的隐患处理好。把这些信任先稳住，让创新不用被迫踩煞车。

回到CERT本身，如果要落实所谓的敏捷监管，政策的形成过程就不能只限于MCMC、ISIS或CERT内部。来自不同产业、不同角色的意见必须持续被纳入，否则很容易出现政策与实务之间的落差，也会削弱公众信任。未来是否能出现更具体的指引，例如针对高风险AI系统，要求清楚说明训练资料来源与风险缓解机制，或是将开发规范更直接地嵌入软体开发流程，而不只是停留在文件层面，这些都是我认为CERT值得继续讨论的方向。

 

本文观点，不代表《东方日报》立场