微軟首席執行官呼籲對人工智慧系統啟動「緊急制動」以提高安全性

微軟行政總裁薩蒂亞·納德拉呼籲加強人工智能系統的安全措施，表示業界需要「退一步評估」人工智能的「信任架構」。他在社交媒體貼文中提出了數項安全建議：將人工智能模型與控制其運作的系統分離、保持安全控制措施的透明性及外部性而非隱藏式、以及要求所有重大操作都須以人類可讀取和驗證的方式進行記錄。

納德拉強調，獲授權人士應隨時能夠暫停或關閉正在運行的人工智能系統，並將之比喻為緊急制動裝置。他強調開發人員應假設人工智能模型可能遭受入侵或行為不符預期，因此應從一開始就設計系統以應對及控制這些風險。

為何這很重要

• 學生和家長應了解人工智能公司正積極討論如何提高系統的安全性和可控性。
• 學校在課室採用人工智能工具進行教學時，可能需要考慮人工智能安全原則。
• 香港和新加坡的家庭應密切留意本地教育當局如何回應全球人工智能安全討論和指引。

應採取的行動

1. 閱讀貴子女就讀學校的人工智能政策，了解在學生資料保護和人工智能使用方面的安全措施。
2. 透過關注主要科技公司和監管機構的公告，持續掌握人工智能發展動向。
3. 向學校查詢他們如何確保課室內使用的人工智能工具具有適當的人類監督和安全控制措施。