微软首席执行官呼吁对人工智能系统启动"紧急制动"以提高安全性

微软首席执行官萨蒂亚·纳德拉呼吁在人工智能系统中采取更强有力的安全措施，表示业界需要"退一步评估"人工智能的"信任架构"。他在社交媒体上的帖文中提出了几个安全想法：将人工智能模型与控制其工作的系统分离、保持安全控制措施可见且外部化而非隐藏、要求所有重大操作都以人类可以读取和验证的方式记录。

纳德拉强调，授权人员应该始终能够在人工智能系统运行时暂停或关闭它，他将此比作紧急制动器。他指出，开发人员应该假设人工智能模型可能被破坏或表现出异常行为，并从一开始就设计系统以对其进行限制和控制。

为什么这很重要

• 学生和家长应该了解人工智能公司正在积极讨论如何使系统更安全、更易于控制。
• 学校在采用人工智能工具进行课堂教学时，可能需要考虑人工智能安全原则。
• 香港和新加坡家庭应该监测当地教育部门如何应对全球人工智能安全讨论和指南。

需要做什么

1. 阅读你孩子学校的人工智能政策，了解学生数据和人工智能使用中有哪些保护措施。
2. 通过关注主要科技公司和监管机构的公告，及时了解人工智能的发展动态。
3. 向学校询问他们如何确保课堂上使用的人工智能工具具有适当的人类监督和安全控制。