安全研究員David Robinson最近離開OpenAI，公開批評該公司的人工智能系統開發方式。Robinson在《大西洋月刊》發表的文章中辯稱，OpenAI及其他AI公司在開發更強大的AI模型時並未足夠謹慎，應在推出新系統前投入更多資源進行安全研究。
在OpenAI工作期間，Robinson花了3年半的時間協助建立該公司的整備框架——本質上是一份安全措施清單——並審查了12次重大模型推出的安全報告。他主張該公司的文化優先考慮速度而非嚴謹性。OpenAI目前採用名為「迭代部署」的方式，即向公眾發佈AI系統，然後在問題出現時修復安全漏洞，而非預先解決所有潛在問題。
Robinson的主要關切是AI能力發展速度超過研究人員理解和控制的能力。一個名為「對齐」的研究領域致力於確保AI系統的行為符合人類價值觀和目標，但Robinson認為這項研究的進展跟不上AI發展的步伐。他將此情況比作核能和航空等行業，這些行業在系統運行前已建立保障措施，而非事後補救。OpenAI則回應指，當安全顧慮足以支持放慢進度時，公司確實會暫停或延遲模型發佈。
為何這很重要
對於新加坡和香港的家庭和學生而言，這場辯論影響AI工具如何在學校和工作場所進行規管和部署。若AI公司繼續快速推進而不進行充分的安全檢查，出現意想不到的故障或誤用的風險就會增加——例如AI系統提供有害建議或表現出偏見行為。對於教育工作者而言，了解這些關切有助於理解有關在課堂上負責任地使用AI的持續討論。安全專家與公司之間的分歧亦表明該領域仍在發展中，隨著新事件的發生或風險證據的出現，關於教育中AI的政策可能會改變。
建議行動
- 持續了解AI事故和安全討論。關注報導AI開發的信譽良好的新聞來源，以便在採納新的AI工具前，理解公司主張和專家關切。
- 當學校或機構引入新AI系統時，提出批判性問題。要求了解已進行哪些安全檢查、出現問題時誰負責，以及該系統是否已在不同使用者群體中進行測試。
- 支持均衡規管。倡導實施政策，在鼓勵創新的同時，要求公司在大規模部署前證明安全性，而非在問題出現後才修復。