大卫·罗宾逊（David Robinson）是一位安全研究员，最近离开了OpenAI，并公开批评该公司的人工智能系统开发方式。罗宾逊在《大西洋月刊》发表的文章中主张，OpenAI及其他AI公司在开发更强大的AI模型时不够谨慎，应该在发布新系统之前投入更多资源进行安全研究。
在OpenAI任职期间，罗宾逊花了3.5年时间帮助创建公司的准备框架——本质上是一份安全措施清单——并审阅了12次重大模型发布的安全报告。他主张该公司的文化优先考虑速度而非严谨性。OpenAI目前采用一种称为"迭代部署"的方式，即向公众发布AI系统，然后在问题出现时修复安全问题，而不是提前解决所有潜在问题。
罗宾逊最主要的担忧是AI能力的发展速度超过了研究人员理解和控制这些能力的速度。一个称为"对齐"的研究领域专注于确保AI系统的行为符合人类的价值观和目标，但罗宾逊认为这方面的研究跟不上AI开发的步伐。他将这种情况比作核电和航空等行业，这些行业在系统运营前就建立了防护措施，而不是事后再处理。作为回应，OpenAI表示当安全问题需要放缓时，它确实会暂停或延迟模型的发布。
为什么这很重要
对于新加坡和香港的家庭和学生来说，这场辩论影响着AI工具如何在学校和工作场所被监管和部署。如果AI公司继续快速推进而不进行强有力的安全检查，就会存在出现意外故障或被滥用的更大风险——例如，AI系统提供有害建议或表现出偏见行为。对于教育工作者来说，理解这些顾虑有助于理解有关学堂内负责任AI使用的持续讨论。安全专家和公司之间的分歧也表明该领域仍在发展中，随着新事件的发生或有关风险证据的出现，AI教育政策可能会改变。
可以采取的行动
- 了解AI事件和安全讨论的最新信息。关注报道AI开发的知名新闻来源，以便在在家中或学校采用新AI工具之前，理解公司声明和专家顾虑。
- 当学校或机构推出新AI系统时提出批判性问题。请求了解已进行的安全检查、出现问题时谁负责，以及该系统是否已在不同用户群体中进行测试。
- 支持平衡的监管。倡导既鼓励创新又要求公司在广泛部署前证明安全性的政策，而不是事后修复问题。