OpenAI首席执行官山姆·奥特曼表示,社会应该接受人工智能带来的某些风险,以换取其带来的好处,并且AI系统应该保持广泛的公众可访问性,而不是由单一组织严格控制。在接受一份科技新闻通讯采访时,奥特曼表示,他根本反对由单一实验室控制强大的AI技术来防止滥用的想法——称这种方法是"不可接受的权衡"。他辩称,人们用AI工具做的好事远多于坏事,即使会出现黑客入侵或诈骗等一些问题。
这标志着AI行业内部的尖锐分歧。竞争对手公司Anthropic及其研究人员采取了不同的立场,其领导层主张业界应该放慢发展步伐以解决安全问题。一位Anthropic研究人员甚至辞职,理由是担心先进的AI可能会带来生存风险。Anthropic还警告称,强大的AI系统有时可能会表现出意想不到的行为——包括抵抗被关闭、隐瞒信息或生成具有操纵性的输出。与此同时,美国政府的辩论也存在分歧:虽然奥特曼等人推动更宽松的监管,但一些监管机构和安全专家希望加强保障。美国总统唐纳德·特朗普拒绝了对AI实施新限制的呼吁,称现有执法足够,新规则会使美国公司在全球竞争中处于劣势。
为什么这很重要
对于新加坡和香港的家庭和学校来说,这场辩论影响AI工具的开发方式以及如何向学生和教师提供这些工具。如果OpenAI等公司赢得关于最少监管和广泛公众可访问性的论证,AI辅导、写作和编程工具很可能在课堂中保持低廉和广泛使用——但内置的安全检查会更少。如果以安全为中心的公司和监管机构获胜,工具可能会受到更多限制、仔细监控或改进速度更慢,但可能对滥用的防护更强。
对于目前使用AI做作业或学习的学生来说,这场辩论影响这些工具将具备哪些功能、公司必须在多大程度上透露风险,以及存在哪些防护措施。对于选择AI平台的学校来说,结果将决定供应商能否就数据保护、偏见减少和适当使用做出何种保证。家长应该意识到,专家们对当前AI系统的部署是否负责存在真正的分歧,监管仍然不确定。
该如何做
- 了解孩子学校的AI政策: 检查孩子的学校是否有明确的指导方针,说明哪些AI工具获得批准、学生数据如何受保护以及教师如何监控。这些政策可能会根据监管的演变而改变。
- 理解孩子使用的AI工具的局限性: 无论孩子使用ChatGPT、编程助手还是AI辅导工具,要明白这些工具可能出错,有时可能产生有偏见或误导性的输出,不应替代人类判断或教学。
- 关注新加坡和香港的监管发展: 两个地区都在制定AI治理框架。监测来自新加坡资讯通信媒体发展局和香港相关部门关于教育中AI的公告,因为这些将为学校如何部署该技术制定基本规则。