研究如何确保AI对人类的安全性,最终实现用AI来监督AI
07月06日 11:42
(相关资料图)
近日,据外媒报道,当地时间周三,ChatGPT的开发者OpenAI表示计划投入更多资源并成立新的研究团队,研究如何确保AI对人类的安全性,最终实现用AI来监督AI。
OpenAI联合创始人伊利亚·苏茨凯弗(Ilya Sutskever)和AI对齐负责人简·莱克(Jan Leike)在官方博客中表示:“超级智能的巨大能力可能导致人类失去力量甚至灭绝。目前,我们还没有解决方案来操纵或控制一个可能的超智能AI,并防止其变成无赖。”该团队的目标是开发达到“人类水平”,由AI驱动的对齐研究员,随后通过庞大的算力推动其发展。OpenAI表示,这意味着将使用人工反馈来训练AI系统,通过训练AI系统来协助人工评估,最终训练AI系统来进行实际的对齐研究。
不过,人工智能安全的倡导者康纳·莱希(Connor Leahy)表示,OpenAI的计划存在根本性缺陷,因为最初的人类水平AI可能会失控并造成严重破坏,而这将迫使研究者去解决AI安全问题。他在接受采访时表示:“在构建人类水平的智能之前,必须先解决对齐问题,否则默认情况下你无法控制它。我个人认为这不是个特别好的、安全的计划。”
AI的潜在危险一直是AI研究员和公众最关心的问题。今年4月,一群AI行业领袖和专家签署公开信,呼吁暂停6个月开发比OpenAI的GPT-4更强大的系统,原因是对社会存在潜在风险。益普索今年5月的调查发现,超过2/3的美国人担心AI可能产生的负面影响,61%的人认为AI可能威胁人类文明。
关键词:
研究如何确保AI对人类的安全性,最终实现用AI来监督AI
07月06日 11:42
美东时间7月5日,美联储公布6月议息会议纪要。会议纪要显示,几乎所有
07月06日 11:39
瑞星股份超额配售430 2万股。
07月06日 11:33
晋江新闻网7月6日讯即将启动的第六届夏日送清凉请喝一瓶水大型公益行动
07月06日 11:36
根据世界核新闻网7月3日报道,俄罗斯乌拉尔电化学工厂(UEIP)拟对其场址
07月06日 11:37
据光明日报报道,江西南昌西湖区教育体育局提供的一份材料显示,随着国
07月06日 11:31
“贡康桑,您好……”近日,拉萨市城关区八廓街道鲁固社区的活动室内,
07月06日 11:31
今天,大学路小编为大家带来了法学第二学位开设院校2023年第二学位修法
07月06日 11:35
》》2023年天津中考成绩几点开始查(附入口)7月7日考生可通过以下渠道
07月06日 11:28
股价突破横盘区间箱体高点,并且成功站在年线之上,走势明显强于大盘。
07月06日 11:22
中国物流与采购联合会今天(6日)公布6月份全球制造业采购经理指数。6月
07月06日 11:34
数据显示,红旗新能源汽车2023年上半年销量突破33091辆,同比增长282%。
07月06日 11:31
原标题:家长会开三天,问题在哪里“学校将在8月19日到21日举行首次家
07月06日 11:25
郑州东站、机场网约车“入场费”调查
07月06日 11:30
厦门市住房公积金中心发布关于做好2023年度住房公积金缴存基数和缴存比
07月06日 11:27
2023世界人工智能大会于6日至8日在上海举行。本届大会涵盖核心技术、智
07月06日 11:16
第一使徒:亚当亚当,地球自古以来便有的生命之卵,可理解为原生生命,
07月06日 11:16
人民日报客户端安徽频道徐靖7月4日,文化和旅游部网站公布2023年全国戏
07月06日 11:24
AI大模型落地产品迭出互联网巨头上演“速度与激情”
07月06日 11:18
中北大学获团中央表扬,主流媒体,山西门户。山西新闻网是经国务院新闻办
07月06日 11:13
暑假来临,各大医院迎来了就诊高峰,眼科门诊中也多了不少扎堆就诊的“
07月06日 11:16
“21希望01”发行金额15 2亿元,期限4年,票面利率5 25%,受托管理人为
07月06日 11:18
图片来源:摄图网区块链以其去中心化、安全可信的特点,引领着数字经济
07月06日 11:20
新华社北京7月5日电题:积极融入数字社会我国多措并举推动“智享养老”
07月06日 11:16
@广铁集团深圳火车站7月5日发布信息称,对于7月2日社会车辆违规进入车
07月06日 11:10
《戏怨》是一款具有浓厚中国风的恐怖惊悚解谜类手游,游戏中将特有的戏
07月06日 11:17
深圳新闻网2023年7月6日讯(深圳晚报记者赵伟君)在经历了近三个月的更
07月06日 11:19
新华社青岛7月5日电(记者肖世尧、许东远、吴书光)5日,中国女足在青
07月06日 11:17
咸宁网讯记者谭宏宇报道:7月3日,,第四届全国老年人体育健身大会闭幕
07月06日 11:06
近日,重庆市多地遭受暴雨袭击,引发洪涝和地质灾害。洪涝灾害发生后,
07月06日 11:06