通信人家园

 找回密码
 注册

只需一步,快速开始

短信验证,便捷登录

搜索

军衔等级:

  四级通信军士

注册:2007-10-293
发表于 2024-10-25 21:04:53 |显示全部楼层

文 | 田哲

编辑 | 苏建勋

OpenAI再次传出新的变动。

近日外媒报道,OpenAI正在解散其“AGI Readiness”团队,团队成员将分配至内部其它团队。

AGI全称为Artificial general intelligence,即通用人工智能,它具备自主的感知、认知、决策、学习、执行和社会协作等能力,且符合人类情感、伦理与道德观念。AGI Readiness团队负责向OpenAI提供AGI发展的政策建议,并进行安全监督。

AGI Readiness团队解散的原因是其负责人离职。本周三,AGI Readiness负责人Miles Brundage宣布离职,计划在OpenAI之外继续从事该领域研究工作,并希望减少偏见。他表示,他已在OpenAI完成所有工作,在外部工作将产生更大的影响。



Miles Brundage


在他看来,OpenAI及世界还未做好准备迎接AGI的到来,因此他计划创建自己的非营利组织,专注于人工智能政策研究和宣传。

相比人工智能产品不断迭代增加,OpenAI对于人工智能的安全建设相对迟缓。2023年7月,成立8年的Open.AI才组建“超级对齐”团队,目标是用20%的算力,在未来4年内解决控制超级智能AI的核心技术挑战。

然而成立不到一年,“超级对齐”团队随着OpenAI 联合创始人、首席科学家Ilya Sutskever离职而解散。

Ilya Sutskever在社交媒体解释了离职原因,他表示:“制造比人类更聪明的机器本身就是一项危险的事业。OpenAI代表全人类肩负着巨大的责任。但在过去几年里,安全文化和流程已经让位于闪亮的产品。”

同一时期离职的“超级对齐”团队联合负责人Jan Leike,也提到类似意见。他认为,应该把更多的带宽用于为下一代模型做好准备,包括安全性、监控、准备、对抗鲁棒性、一致性、保密性、社会影响等,但是OpenAI与他的想法并不一致,团队所需资源不够,研究进展缓慢。

OpenAI是世界上估值最高的人工智能初创公司之一,今年10月,OpenAI获得史上最大一轮融资,融资金额高达66亿美元,这使其估值飙升至1570亿美元。

OpenAI备受资本市场重视的原因,除了其具备领先的生成式AI技术之外,也出于其背后庞大的市场闺蜜,据预计,这一市场未来十年内将产生超万亿美元收入。

一份媒体获得的OpenAI财务数据文件显示,OpenAI的8月收入同比去年增长3倍,预计今年ChatGPT将产生27亿美元收入,去年这一数字为7亿美元。

在商业之路狂奔的OpenAI,似乎已将人工智能安全抛之脑后,而OpenAI 2015年成立时的目标却是,开发AI技术以“造福全人类,不受财务回报需求的限制。

来源:36kr

举报本楼

本帖有 2 个回帖,您需要登录后才能浏览 登录 | 注册
您需要登录后才可以回帖 登录 | 注册 |

手机版|C114 ( 沪ICP备12002291号-1 )|联系我们 |网站地图  

GMT+8, 2024-11-15 09:01 , Processed in 0.559665 second(s), 17 queries , Gzip On.

Copyright © 1999-2023 C114 All Rights Reserved

Discuz Licensed

回顶部