作者：厄尔・诺顿
“真正的问题在于：如果你认为应当放慢脚步 ，那就不要一味高速狂奔 ，不要等到外力逼迫你才停下来 。 ”
这是微软副董事长兼总裁布拉德・史密斯，于联合国大会期间对艾伦・默里所说的一番话 。他所探讨的议题是：前沿大模型厂商是否应当踩下减速踏板，确保自己研发的技术不会给人类带来灭顶之灾。
就在他发表此番言论的同一天 ，Anthropic 首席执行官达里奥・阿莫代伊与 OpenAI 首席执行官萨姆・奥尔特曼在联合国发言 ，呼吁各国建立 AI 安全防护机制，避免 AI 发展超出人类管控能力。
拥有多年行业经验的史密斯表示：“如果你身为一家公司的 CEO ，判断自家产品存在安全隐患 ，那还应该继续推向市场吗？我认为答案显而易见 —— 不应该 。企业对公共安全负有责任 。 ”
即便如此，他补充道：“某些监管措施的出台终将不可避免。” 历史上 ，有不少产品正是依靠监管才实现安全落地 。比如曾经牛奶存在污染问题 ，“于是我们设立农业监察部门，出台相关法律 。如今走进超市 ，各类牛奶全都安全可饮用。”
当史密斯提出 ，应当拥有 “放慢运行或是直接关停 AI 系统 ” 的能力时，主持人艾伦确认他所说的正是 AI紧急关停开关（kill switch） ，随即问道：“你觉得这是个好主意吗？ ”
史密斯答道：“当然 。…… 模型开发者应当拥有关停它的权限；像微软这样的云基础设施提供商应当掌握该权限；负责管控 AI 智能体的机构也应当具备关停能力 。就算通过立法强制要求配备这套机制 ，也并非坏事。”
艾伦向他提问，企业管理者在公司内部应当如何处理 AI 安全问题 。 “我的观点是，不要停止使用 AI 。AI 是极具根本性的创新 ，也是提升生产力的重要工具。但务必记住 ，技术需要治理 。…… 对这项技术的治理，其重要性不亚于技术本身 。 ”
他还作出提醒：“我并不会每天一睁眼就觉得人类有 10% 的灭绝概率。但我宁可我们过度担忧 ，也好过做得太少。我们讨论的毕竟关乎人类存续 。看在上帝的份上 ，这件事比最新技术更加重要，我们必须严肃对待 。 ”
本文来自作者[德化]投稿，不代表德化号立场，如若转载，请注明出处：https://tq.taocisuyuan.com/dehua/9775.html
评论列表（4条）
我是德化号的签约作者“德化”！
希望本篇文章《AI需要紧急关停开关？微软布拉德・史密斯给出肯定答案》能对你有所帮助！
本站[德化号]内容主要涵盖：德化号,生活百科,小常识,生活小窍门,百科大全,经验网,游戏攻略,新游上市,游戏信息,端游技巧,角色特征,游戏资讯,游戏测试,页游H5,手游攻略,游戏测试,大学志愿,娱乐资讯,新闻八卦,科技生活,校园墙报
本文概览： 作者：厄尔・诺顿 “真正的问题在于：如果你认为应当放慢脚步，那就不要一味高速狂奔 ，不要等到外力逼迫你才停下...