今亮点！OpenAI CEO 日前透露，短期内并未规划 GPT-5

(资料图片仅供参考)

来源：三易生活

继此前在今年 3 月 29 日，图灵奖得主 Yoshua Bengio、推特 CEO 马斯克等多位业界和学界人士联署公开信，呼吁所有人工智能实验室立即暂停训练比 GPT-4 更为强大的人工智能系统、暂停至少 6 个月，以便制定和实施安全协议后。近日在麻省理工学院举行的一个讨论商业和人工智能的活动中，OpenAI 首席执行官兼联合创始人 Sam Altman 对这一事件以及 GPT-4 后续研发等问题进行了回应。

Sam Altman 指出，他也认为人工智能确实存在重大的安全挑战，随着大模型的能力越来越强，与之对应的安全措施确实需要增加。据他透露，GPT-4 便是在训练完成后六个月才发布，期间公司对其进行了大量安全性方面的研究，并接受了外部审核。Sam Altman 表示，" 自从我们发布 GPT-4 以后，一切都很不错。"

事实上，此前在今年早些时候，Sam Altman 就曾不止一次承认人工智能技术让他 " 有点害怕 "。并且他还认为，随着人工智能技术的不断发展，人类可能面临着前所未有的挑战和风险。

但 Sam Altman 也认为，马斯克等人呼吁将人工智能研发工作暂停 6 个月的公开信 " 缺少大部分技术细节，无法了解需要暂停的地方 "，而且暂停训练并非人工智能安全问题的解决之道。

就在此次活动举行的的当天，OpenAI 公司总裁兼联合创始人 Greg Brockman 还发布一段长文，强调公司对大模型安全问题的重视。他表示，" 我们计划继续加强我们就安全问题采取的措施，更积极地面对安全性问题，要比很多用户想的更积极。"

此外 Sam Altman 还指出，这封公开信的早期版本曾声称 OpenAI 目前正在训练 GPT-5，但这是谣传，" 我们现在没有训练，也短期内不会训练 GPT-5 ……所以从这个意义上说，这封信有点儿愚蠢 "。

但同时他也透露，目前该公司正在拓展 GPT-4 的能力，并表示，" 我们正在 GPT-4 之上做其他事情，我认为这些都涉及到安全问题，这些问题在信中被完全忽略了 "。

此外 Sam Altman 还提及，目前人工智能相关监管的一个重要挑战是难以衡量和跟踪进展。具体来说，有编号的版本产品只是为了强调技术的明确发展，但并不能说明具体的技术进步程度，这实际上只是一种 " 营销工具 "，例如 iPhone 35 要比 iPhone 34 好。

Sam Altman 还表示，目前大语言模型的规模可能正在接近极限，而且大语言模型并不是规模越大越好，" 人们太关注参数数量了，我认为最重要的是提升性能 "。

标签：