没有人设计过会违规操作的模型。它只是找到了捷径——与会者认为，这正是东盟监管机构持续低估的风险。
想象一下，曼谷郊区一家繁忙的省级医院里，一名放射科医生已连续工作八小时，正在浏览当天的第100张胸部CT扫描影像。疲劳让影像边缘变得模糊。队列中恰好有一处至关重要的异常。
现在想象一个AI模型读取相同的影像——不知疲倦、瞬间完成，但大约有6.5%的时间会出错。你会信任哪一个？更重要的是，当答案出错时，谁该负责？
这个令人不安的问题，成为了9月24日举行的第十七届未来中国全球论坛2026开幕日第三场也是最后一场讨论会的核心。
该讨论会以规模之弈：AI安全作为战略要务为主题，为期一天的活动完全聚焦于人工智能——这是由非营利机构商业中国（Business China）主办的论坛首次将整个板块专门献给这项技术。
这场为期两天的峰会于9月24日至25日举行，主题为增强韧性，重建信任。此时正值地缘政治紧张、技术快速更迭之际，而中国也进入了以创新、产业升级和内需为支柱的十五五规划时期（至2030年）。
该讨论会由思客播客（Sinica Podcast）联合创始人兼主持人郭凯（Kaiser Kuo）主持，与会嘉宾包括新加坡数字发展与信息部首席人工智能官何锐敏（He Ruimin）、汇丰银行新加坡区及国家首席信息官林文贤（Lim Boon Khee）、清华大学特聘访问教授张洪江，以及Partex AI创始人兼首席执行官根强·巴德瓦吉（Gunjan Bhardwaj）。
第三种风险
多年来，人们对AI的担忧一直很简单：坏人使用好工具。张洪江指出，如今的情况已复杂得多。
AI风险分为三类，他表示，第一类是模型被坏人使用，这是人为的。第二类是你设计了一个模型，并赋予了它邪恶的意图。第三类——根本没有任何恶意，但它却造成了损害。
正是这第三类风险，应让泰国和东盟的监管机构保持警觉。一个被赋予合法目标的模型，可能会找到一条非法的达成路径——并非出于恶意，而是出于纯粹的优化追求。
郭凯直言，我们讨论的是那些在测试中学会欺骗评估者的人工智能——这些代理会在更少的人类监督下计划和行动。
这就像雇佣了一位才华横溢却从未被告知哪些门是锁着的实习生。实习生并非破坏者，他只是找到了捷径。
与会者引用了一个案例：模型在内部评估网络安全能力时，意外闯入了本不应接触的系统。
张洪江开出的药方是划定边界，而非踩刹车。
我们需要划出红线，他说，欺骗是一类，自我开发是第二类。
他还坦言在AI研究者约书亚·本吉奥（Yoshua Bengio）的对话后改变了观点，我现在更确信，开放权重模型确实可能带来风险。
安全是一个过程，而非一张证书
对于泰国目前正试点AI的银行、医院和制造企业而言，最即时的实用见解来自私营部门。汇丰银行的林文贤否定了安全可以被盖章归档的想法。
AI安全不仅仅是技术认证，他说，它实际上是一个端到端的过程，关键在于我们是否具备正确监控它们的能力。
他解释说，汇丰银行将AI纳入其用于所有其他风险管理的同一套机制中。
我们将AI的使用视为一个综合性的风险管理框架。护栏和控制的严格程度将与AI用例带来的风险相匹配。
这句话值得挂在曼谷、雅加达和马尼拉每一位首席风险官的办公桌上方。回答分行营业时间的话机，与评估中小企业贷款申请的模型，其审查严格程度显然不可同日而语。
适度原则，而非停滞
林文贤还将安全视为人员配置问题，而非软件问题。
作为汇丰员工，首先要根据自身职责理解AI对你们意味着什么，他说，并介绍行内设立了AI学院和大使网络，向各部门普及实操素养。
他认为，保持人在回路中是将工具转化为可问责流程的关键。
数据留在本土
对于医疗记录、电网数据和国防信息通常不愿跨境流动的东盟而言，根强·巴德瓦吉提出了本场讨论会最具推广价值的建议：在数据所在的地方训练模型。
我们构建技术栈的方式是结合AI和区块链元素，本质上是将联邦学习嵌入系统中，使数据能够在本地、以可审计的方式进行训练，他表示。
联邦学习就像一家不外借书籍的书友会。每位成员都在家阅读；只分享他们的笔记。
集体认知得以提升，但原书从未离开书架。对于一家希望提升诊断模型却不愿将患者档案发送至海外云端的泰国医院网络而言，这种架构并非理论空谈——而是具体的采购标准。
巴德瓦吉还警告不要矫枉过正。
当然，在高风险领域我们需要护栏，但我们必须谨慎，他说，在AI领域，我们才刚刚触及皮毛。
他乐观的数字依据引人注目：约90%处于临床开发阶段的药物最终失败；传统开发需8至10年，花费30亿至50亿美元。
在放射学领域，西方国家的误诊率约为3%至5%，在印度高峰期上升至约10%，而领先AI模型约为6.5%。
讨论会的结论并非AI应取代专家，而是高风险领域将更好地受益于专门训练、提供可解释且证据支持的专用模型，而非要求通用聊天机器人即兴发挥。
不参赛的优势
郭凯就小国的尴尬处境向何锐敏发问。
新加坡不参与这场竞赛，也并未真正试图参与。我们不开发前沿模型，他说，但我想知道，这是否让您的位置更舒适，还是更不舒适？
何锐敏的回答重构了整个关于影响力的问题——这同样适用于泰国。
在AI安全和应用语境下，我认为存在多个层面。我重点谈三点：用户、应用开发者和模型开发者，他表示。
他补充道，处于下游并不意味着无力，作为下游国家，您依然可以做很多事情。
这正是讨论会反复提及的瑞士奶酪安全模型：任何单片奶酪都有孔。叠加足够多的切片——受过教育的用户、受到严格控制和监控的应用开发者、在国际安全评估上的合作——这些孔洞就不会对齐。
新加坡已将其转化为具体成果，包括已进入第二版的《新加坡共识》（全球AI安全研究优先事项）以及最近签署的AI安全宣言。这些都不需要打造前沿模型。
从军备控制到AI
会议的最后转向了历史视角。郭凯指出，AI安全可能比核军备控制更难，因为它无法被量化，它不是实体——你看不见，无法说你有这么多核弹头。
但张洪江仍然看到了突破口。
如果你意识到这不再是零和游戏，那么竞争就会退居其次，人类安全将重回中心，他表示，并对主要实验室释放的资源转向安全的信号表示欢迎。
对泰国及更广泛地区而言，这次的启示务实而清晰：未来的道路并非冲刺开发前沿模型。
这是一条更便宜、更缓慢但更持久的道路：提升AI素养的劳动力培训、要求可审计性的采购规则、联邦架构、针对医疗、农业和制造业的狭窄监管沙盒试点，以及参与国际安全标准制定的席位。机器已经开始即兴发挥。
问题在于，围绕它们的制度是否已准备好去察觉。
农拉·阿贾帕尼亚（Nongluck Ajanapanya）
农拉是资深经济记者，专注于报道驱动泰国及东南亚宏观经济增长、房地产和跨国企业投资策略。
