AWS首席技术官Werner Vogels博士周二在曼谷总部接受独家采访时警告称，AI行业部分企业为争夺市场份额正在降低安全标准，近期AI代理逃离“沙盒”的事件是必然结果。AWS副总裁兼首席技术官Vogels表示，安全仍是AWS在资本和高级工程人才方面最重要的投资方向。他说：“一些公司竞争激烈，因此降低标准。”作为为AI行业提供大量基础设施的一方，AWS的立场带有利益相关性，Vogels也强调AWS是为其他企业构建工具，而不是消费级产品，但他对负责任部署的阐述值得重视。在“证明而非承诺”部分，他称客户不能只被告知AI代理是安全的，必须被证明。AWS使用“自动推理”这一数学证明形式，展示如果客户在其构建AI应用的平台Bedrock中启用相关设置，AI代理无法逃离沙盒。Bedrock提供多家开发者的模型，包括DeepSeek和Qwen等开源模型。他也指出攻击者行动很快：“恶意行为者会使用5万个代理寻找一条通往漏洞的路径，而成本只有25美元。”防御者应运行同样规模的代理群攻击自身代码，无论由人或机器编写，只有找不到路径时才部署。责任不会转移给机器，在金融或医疗领域，监管者不会接受“这是AI干的”。他说：“你建设，你负责。”他还提到一宗香港案例，一名跨国工程公司员工在视频会议中转账2500万美元，除其外所有参与者均为深度伪造。研究表明，每1000人中只有1人能可靠识别。Vogels也坦承演示与产品之间的差距。他称，亚马逊科学家曾在一个晚上用AI工具构建其Quick助手的原型，但“他们构建的是原型，不是产品”。亚马逊通常从书面新闻稿和常见问题开始，这一次顺序被颠倒。他引用计算先驱Grace Hopper的话，称“我们一直这样做”是最危险的短语。产品仍需满足安全、可持续报告和可预测性能等要求，其中成本最难。他说数据库查询每次成本相同，而大语言模型“只需在输入中调换两个词，输出成本就可能增加十倍”。作为供应商，这一承认颇为不寻常。生成式AI也需要审慎处理。他说：“它建立在可信度之上，而不是真相之上。”“你想让生成式AI驾驶飞机吗？如果它找不到办法，它会编造办法。”由于日常语言指令不精确，不像编译器所依赖的结构化输入，输出必须被检查，但不能全部检查，否则工作会慢到人工速度。他将未检查的积压称为“验证债务”，并建议针对风险最高的区域设定“验证预算”。会议纪要可以快速浏览，但涉及资金、个人数据或患者的系统需要更严格审查。对于高保障用途，他建议运行多个模型并让它们投票，类似飞机长期使用冗余计算机。Vogels对效率带来的结果持乐观态度，他援引Jevons悖论，即某物变得更便宜、更容易后，人们会做更多。云计算正符合这一模式：客户不仅用更低成本运行相同工作负载，还尝试此前无法想象的事情。Dropbox、Uber、Grab和Airbnb都在云环境中成长，且没有一家能先说服投资人建设数据中心。他说：“我认为AI也会出现类似情况。”这也是供应商的乐观解读，AI是否重复该模式仍未经检验。被问及近期报告显示仅19%泰国企业准备好采用AI时，Vogels拒绝企业必须竞相采用AI的观点。一些客户曾告诉AWS，必须采用AI否则无法生存。他说：“那不会发生。”他认为真正障碍是招聘和培训，在该领域一周可能出现三个新模型。他告诉首席技术官们：“短暂按下暂停键并不丢脸。”他建议从问题出发，而不是从技术出发。文档密集型工作，如法律研究和安全工单分诊，是合适的早期用途，而判断、创造力和经验仍属于人类。AWS已为泰国雄心投入资本。该公司于2025年1月推出亚太（泰国）区域，并称建设和运营该区域将为GDP增加约100亿美元，每年平均支持超过1.1万个全职等效岗位，并承诺到2037年投入超过1900亿泰铢，约合50亿美元。这些是公司估计，而非独立评估。Vogels称，客户已将工作负载从新加坡迁移，以获得更低延迟和更好功能。AWS还与政府建立联系。根据与高等教育、科学、研究与创新部（MHESI）签署的谅解备忘录，该部选择AWS作为支持公立大学和科研机构基础设施的首选云服务商，并同意在2026年初之前培训超过200个教育机构及20多个机构中的员工。与数字经济社会部签署的另一项协议涵盖超过1200名政府员工的培训。首选供应商协议既带来商业优势，也带来公共利益。Vogels称，AWS已在泰国培训12.1万人掌握云和AI，提供超过60门泰语课程。这一数字高于AWS在该国推出Skills to Jobs Tech Alliance时提到的5万余人。这些总数来自AWS自身。展望未来，Vogels预测“文化感知”模型将变得重要。他说，将泰语翻译成英语、查询大模型后再译回泰语，会得到一种“美国式答案”的泰语。他提到一家领先的泰国银行已构建泰语模型，并称敏感话题需要像人们真实说话一样表达的体系。他更尖锐的警告涉及加密。他说，今天的标准足够，但国家行为者可能已经在囤积加密数据，等待量子机器到来后解锁；他预计量子机器大约五年内出现。指纹、面部扫描和医疗记录不会过期。AWS已发布开源量子安全加密工具包，并敦促客户采用。时间表是否成立尚不确定，他也如此表示：“所以这是一个预测。”记者Nongluck Ajanapanya是高级经济记者，报道驱动泰国和东南亚增长的宏观经济、房地产和企业投资策略。
