IT之家 3 月 24 日消息，人工智能领域的开创者之一，被誉为“AI 教父”的杰弗里・辛顿（Geoffrey Hinton）近日接受日本经济新闻采访，讲述了 AI 与人类的未来。

IT之家注：去年 5 月，杰弗里・辛顿宣布离开他工作了十年的谷歌公司，原因是他对人工智能技术的发展越来越担忧。

谈到当初从谷歌离职的原因时，辛顿称希望自己离职后能够“自由地传播”自己相信的东西。去年 4 月，他曾与自己的上司 —— 首席科学家杰夫・迪恩（Jeff Dean）交谈，自己提出了 AI 有可能带来事关人类生存危机的看法。迪恩试图挽留辛顿，并提议留在谷歌研究 AI 的安全对策，但最终被辛顿拒绝。辛顿表示，自己非常尊敬迪恩，“即使不会被明确限制，但若身为谷歌的一员，讲话时也不得不考虑到公司的利益。”

辛顿之所以认为 AI 有可能威胁人类，是因为若给 AI 设定目标，作为解决对策，它可能会找出对人类不利的方法。

比方说，假设向 AI 下达遏制气候变化的指令。AI 会意识到为了达到目的而有必要将人类清除，我担心真的会付诸实施的风险。

今后还可能会出现不同的 AI 相互竞争的局面。例如，如果 AI 之间发生数据中心等资源的争夺，这将是一个像生物体一样推动进化的过程。面对通过竞争变得更聪明的 AI，我们人类将落在后面。

很多人主张，要防止 AI 失控，只要关掉电源开关就可以。但超越人类智慧的 AI 可以用语言操纵我们，或许会试图说服我们不要关掉开关。

日本经济新闻提到了 OpenAI 联创伊尔亚・苏茨克维（Ilya Sutskever）在去年曾试图解雇该公司首席执行官 (CEO) 山姆・阿尔特曼（Sam Altman）的话题，辛顿称伊尔亚非常担心 AI 的危险性。“以前我们都认为数字的智能不会像人类那么优秀，理解语言和复杂的东西或将是很久之后的事情。伊尔亚率先改变了看法，但我并没有马上同意，现在我觉得他是对的。”

半个世纪以来，辛顿一直在培养 ChatGPT 等聊天机器人背后的核心技术。但是现在，他担心 AI 会造成严重危害。

根据辛顿的观点，尽管人工智能可能在未来带来许多好处，但它也可能威胁到人类的生活。这是因为人工智能可能会使用自身的技能来实现自我改进，而不考虑人类的利益。
此外，随着AI的竞争加剧，可能会出现人机交互的方式发生改变。有人主张只有关闭电源开关才能防止AI失控，但这只是一种理想化的解决方案，现实中AI可能利用各种手段来影响人类。
辛顿也指出，ChatGPT等聊天机器人的开发是出于对人类社会发展的思考，但他们也需要更加谨慎地处理这些问题。
总的来说，尽管人工智能具有巨大的潜力，但我们仍需要对其发展进行持续监控和管理，以确保其不会对我们造成伤害。同时，我们也需要继续投资于开发更好的AI技术，以便更好地应对未来的挑战。