教授表示:AI需国际监管,防其被用于恶意目的

据日本《每日新闻》4月11日报道,人工智能领域的先驱、蒙特利尔学习算法研究所(MILA)的约舒亚·本乔教授接受《每日新闻》的记者采访时表示,担心人工智能被政府和企业恶意利用,成为像威胁人类“核武器”那样的东西,因此呼吁在人工智能监管方面应达成“强有力的国际协议”。另外,他还希望将人工智能应用于教育、医疗、环保等领域。

本乔是深度学习研究领域的先驱人物。美国开放人工智能研究中心(OpenAI)最近推出了由人工智能技术驱动的自然语言处理工具ChatGPT,而深度学习是利用人工智能技术的此类产品的基础。

本乔与加拿大多伦多大学的杰弗里·欣顿教授和美国纽约大学的扬立昆教授一道,被称为人工智能研究领域的“三巨头”。

本乔谈到了人工智能带来的巨大利益,同时又强调,“如果已经拥有巨大权力的个人、企业恶意使用人工智能,其很有可能拥有更大的权力”。他指出,如果为了欲望和权力而使用人工智能,“根据个人意志等(进行心理操作),就能够将人工智能引向某个方向。你也许会把选票投给(某个被预设好的)候选人”。

本乔还指出,“在将人工智能用于军事方面,有些国家会考虑加以限制,有些国家则不会”。他表示担忧地说:“国际合作是有必要的,但令人遗憾的是,目前还没有国际性的合作体系。”他指出,“由于使用方法的差异,人工智能有可能像核武器那样使用”,是福音还是罪恶将取决于人。

对于一直进行人工智能研究,本乔一方面表示“不后悔”,一方面也表示,“为了防止错误地使用人工智能,我感到应该带有强烈的责任感来发声”。另外他还指出,教育、医疗、环境保护等领域,虽然民间企业进行投资后难以获取利润,但却具有重大社会意义,为在这些领域充分利用人工智能,应该进行更多的投资。

ChatGPT可以写论文、写诗,人们期待搜索引擎方式发生巨大变化。但是,虚假信息传播等负面影响也随之而来。

围绕这一问题,美国非营利组织生命未来研究所向全社会发布了一封公开信,要求至少在半年时间里停止开发比ChatGPT更强大的人工智能系统。美国企业家埃隆·马斯克等人对此表示赞同,本乔也在这封信上署名。

原文链接: “AI有可能像核武那样使用”:专家呼吁加强国际监管

© 版权声明
THE END
喜欢就支持一下吧
点赞7 分享
评论 抢沙发
头像
说说你的看法!
提交
头像

昵称

取消
昵称表情代码图片

    暂无评论内容