一位曾任 OpenAI 安全研究人员的人正在发出警告,提醒人们人工智能可能最终导致人类终结的严峻前景。前OpenAI 基金会员工保罗·克里斯蒂亚诺在一个播客节目中说,“我认为人工智能取代人类的可能性大约为10-20%,又或者大多数人类已经死亡,需要非常严肃对待这个问题。”
克里斯蒂亚诺认为机器会逐渐地崛起,人类的终结不是一场突如其来的事件,而是人工智能逐渐地崛起,人类与机器已经透过诸如自动驾驶汽车、无人机等已经渗透到了生活中。而当AI超越人类智商阈值时,一切皆有可能。
克里斯蒂亚诺认为,AI杀消灭人类的最可能方式是日常生活中部署的所有AI联合起来,而不是突然消灭人类。
克里斯蒂亚诺的新非营利组织 Alignment Research Center 基于人工智能对齐的概念,该概念早在2018年就被广泛定义为让机器的动机与人类的动机保持一致。尽管 OpenAI 口头上说要对齐,声称它“旨在使人工智能 (AGI) 与人类价值观保持一致并遵循人类意图”,但仍需要进行更多的研究和开发,以确保安全和合乎道德地开发人工智能。确保机器的动机与人类的动机一致对于防止人工智能毁灭的可能性至关重要。
原文链接: 前OpenAI安全研究员警告:AI毁灭人类的可能性为 20%
© 版权声明
本站所有文章,仅代表文章作者个人观点,如对观点有疑义时不用怀疑,您绝对是对的。
您也可以联系文章作者本人进行修改,若内容侵权或非法,可以联系我们进行处理。
任何个人或组织,转载、发布本站文章到任何网站、书籍等各类媒体平台,必须在文末署名文章出处并链接到本站相应文章的URL地址。
本站文章如转载自其他网站,会在文末署名原文出处及原文URL的跳转链接,如有遗漏,烦请告知修正。
如若本站文章侵犯了原著者的合法权益,亦可联系我们进行处理。
您也可以联系文章作者本人进行修改,若内容侵权或非法,可以联系我们进行处理。
任何个人或组织,转载、发布本站文章到任何网站、书籍等各类媒体平台,必须在文末署名文章出处并链接到本站相应文章的URL地址。
本站文章如转载自其他网站,会在文末署名原文出处及原文URL的跳转链接,如有遗漏,烦请告知修正。
如若本站文章侵犯了原著者的合法权益,亦可联系我们进行处理。
THE END
暂无评论内容