你的位置:开云官网kaiyun皇马赞助商 (中国)官方网站 登录入口 > 新闻资讯 > 云开体育然后通过让行东谈主使用来测试其安全性"-开云官网kaiyun皇马赞助商 (中国)官方网站 登录入口

新闻资讯

云开体育然后通过让行东谈主使用来测试其安全性"-开云官网kaiyun皇马赞助商 (中国)官方网站 登录入口

2025-08-14 08:27    点击次数:76

云开体育然后通过让行东谈主使用来测试其安全性"-开云官网kaiyun皇马赞助商 (中国)官方网站 登录入口

IT 之家 3 月 5 日音书,两位草创性科学家安德鲁・巴托(Andrew Barto)和理查德・萨顿(Richard Sutton)因其在东谈主工智能教师技能范畴的不凡孝顺云开体育,今天荣获了 2024 年图灵奖。但是他们在领奖之际,却对现时东谈主工智能拓荒中的安全隐患抒发了潜入担忧。

巴托是马萨诸塞大学的连络员,而萨顿曾是 DeepMind 的连络科学家。他们指出,很多东谈主工智能公司在居品尚未经由充分测试的情况下便急于推向阛阓,这种作念法无异于"成立一座桥,然后通过让行东谈主使用来测试其安全性"。

图灵奖被誉为"狡计机界的诺贝尔奖",奖金高达 100 万好意思元(IT 之家备注:现时约 726 万元东谈主民币),这次巴托和萨顿凭借拓荒"强化学习"技能而共同获奖。强化学习是一种通过试错教师东谈主工智能系统作念出优化有打算的机器学习法子。谷歌高档副总裁杰夫・迪恩(Jeff Dean)称这一技能是"东谈主工智能特出的关键",而且一直是鼓励东谈主工智能发展的"中枢因循",包括 OpenAI 的 ChatGPT 和谷歌的 AlphaGo 等摧残性模子齐受益于此。

巴托在经受《金融时报》采访时暗示:"在莫得安全门径的情况下向数百万用户发布软件,这并不是精湛的工程握行。工程握行的演进本应是为了削弱技能可能带来的负面影响,但我并未看到拓荒东谈主工智能的公司遵守这一原则。"

东谈主工智能拓荒的安全性问题早已引起正常温雅。被称为"东谈主工智能教父"的约书亚・本吉奥(Yoshua Bengio)和杰弗里・辛顿(Geoffrey Hinton)曾经对这一问题建议月旦,他们通常是图灵奖的得回者。

巴托月旦东谈主工智能公司过于"受贸易利益运行"云开体育,而淡薄了东谈主工智能连络的深入发展。