加入收藏

OpenAI:超智能AI或在这个十年出现,将加大资源应对-全球要闻

2023-07-06 11:42:25 来源:黑科技


(相关资料图)

近日,据外媒报道,当地时间周三,ChatGPT的开发者OpenAI表示计划投入更多资源并成立新的研究团队,研究如何确保AI对人类的安全性,最终实现用AI来监督AI。

OpenAI联合创始人伊利亚·苏茨凯弗(Ilya Sutskever)和AI对齐负责人简·莱克(Jan Leike)在官方博客中表示:“超级智能的巨大能力可能导致人类失去力量甚至灭绝。目前,我们还没有解决方案来操纵或控制一个可能的超智能AI,并防止其变成无赖。”该团队的目标是开发达到“人类水平”,由AI驱动的对齐研究员,随后通过庞大的算力推动其发展。OpenAI表示,这意味着将使用人工反馈来训练AI系统,通过训练AI系统来协助人工评估,最终训练AI系统来进行实际的对齐研究。

不过,人工智能安全的倡导者康纳·莱希(Connor Leahy)表示,OpenAI的计划存在根本性缺陷,因为最初的人类水平AI可能会失控并造成严重破坏,而这将迫使研究者去解决AI安全问题。他在接受采访时表示:“在构建人类水平的智能之前,必须先解决对齐问题,否则默认情况下你无法控制它。我个人认为这不是个特别好的、安全的计划。”

AI的潜在危险一直是AI研究员和公众最关心的问题。今年4月,一群AI行业领袖和专家签署公开信,呼吁暂停6个月开发比OpenAI的GPT-4更强大的系统,原因是对社会存在潜在风险。益普索今年5月的调查发现,超过2/3的美国人担心AI可能产生的负面影响,61%的人认为AI可能威胁人类文明。

关键词:

相关新闻

资讯

速递!2023年天津中考成绩查询(附入口)
速递!2023年天津中考成绩查询(附入口)

》》2023年天津中考成绩几点开始查(附入口)7月7日考......更多>

焦点速讯:私家车进站台,恐不是一句“歉意”就说得过去的
焦点速讯:私家车进站台,恐不是一句“歉意”就说得过去的

@广铁集团深圳火车站7月5日发布信息称,对于7月2日社......更多>

6月全球制造业采购经理指数继续下行 全球经济复苏面临较大挑战
6月全球制造业采购经理指数继续下行 全球经济复苏面临较大挑战

中国物流与采购联合会今天(6日)公布6月份全球制造业......更多>

戴康:“增长中枢下滑的十年”,日本三类科技股如何表现
戴康:“增长中枢下滑的十年”,日本三类科技股如何表现

新范式之“杠铃策略”,在上世纪90年代日本演绎充分。......更多>

调理糖尿病的产品
调理糖尿病的产品

糖尿病该如何科学调理?糖尿病是否能逆转或缓解?哪些......更多>

义乌市博物馆全面启动
义乌市博物馆全面启动

2023年7月3日海南方建文大文化产业集团公司,义乌市箱......更多>

北京燃气天津南港LNG应急储备项目(接收站工程)完成规划验收
北京燃气天津南港LNG应急储备项目(接收站工程)完成规划验收

近日,位于天津经开区南港工业区的北京燃气天津南港LN......更多>

7月5日 6股盘前利好公告速递
7月5日 6股盘前利好公告速递

华北制药下属子公司获得注射用比阿培南药品注册证书华......更多>

关注

戏怨第五章通关攻略-戏怨攻略第五章图文+视频
戏怨第五章通关攻略-戏怨攻略第五章图文+视频
《戏怨》是一款具有浓厚中国风的恐怖惊悚解谜类手游,... 更多>
戏怨第五章通关攻略-戏怨攻略第五章图文+视频
《戏怨》是一款具有浓厚中国风的恐怖惊悚解谜类手游,... 更多>
环球简讯:中国卫通旗下鑫诺公司正式开通南美海域卫星通信服务
据航天科技集团官微,近期,中国航天科技集团有限公司... 更多>
【环球播资讯】融资最新持仓曝光!加仓汽车、电子、计算机
上交所融资余额报7839 71亿元,较前一交易日减少0 2... 更多>
天天观察:7.5—秋末悔城:黄金多单再下三城!今日回调逢低持续渣多!
周二,黄金日内保持抗跌,走势慢牛上升;整体震荡向上... 更多>
穿越希腊神话希望女神(穿越希腊神话成初代神) 世界观焦点
来为大家解答以上的问题。穿越希腊神话希望女神,穿越... 更多>
每日精选:数字人民币使用场景持续丰富
近日,人力资源和社会保障部印发《数字人社建设行动实... 更多>
国米签B罗替身已达成协议 租借+强制买断签约五年-焦点精选
北京时间7月5日,据多家意媒报道,意大利中场弗拉泰西... 更多>
美媒:TOP500富豪上半年财富飙涨8520亿美元
【环球时报特约记者甄翔】据美国彭博社3日报道,彭博... 更多>
临空港大剧院迎来首届“打开艺术之门” 18场演出为孩子们带来欢声笑语
临空港大剧院迎来首届“打开艺术之门”18场演出为孩子... 更多>
胡继勇仍为公司高管?中石油北京项目管理公司回应|全球百事通
中国石油北京项目管理公司微信公众号7月4日发布情况通... 更多>
天天热点评!“大唐荔乡”广东高州今年荔枝产销两旺 果农收入普增两成
在“大唐荔乡”广东茂名高州市,一年一度的荔枝采收目... 更多>
星辰变升级顺序_星辰变升级攻略-环球滚动
1、副本。2、日常。3、循环(不推销经验少,浪费时间... 更多>