德阳吧谷歌预测AGI 2030年出现：可能永久毁灭人类！
快科技4月7日消息，近日，谷歌旗下DeepMind实验室发布了一份长达145页的人工智能安全报告，预测具备人类智能水平的通用人工智能（AGI）可能在2030年左右问世，并可能“永久毁灭人类”。
在报告中研究人员指出，AGI可能带来导致人类永久灭绝的生存风险，他们强调，这一重要议题无法由DeepMind一家公司单方面解决，而应由整个社会共同参与讨论。
报告并未具体说明AGI将如何导致人类灭绝，主要篇幅集中在风险防控措施上。
报告将AGI带来的风险分为四个主要类别：
滥用风险（人类故意利用AI实施危害行为）、错位风险（系统发展出非预期的有害行为）、失误风险（因设计或训练缺陷导致的意外故障）和结构性风险（不同主体之间的利益冲突）。
研究人员还概述了DeepMind的风险缓解策略，重点在于防止滥用，并强调了尽早识别危险能力的重要性。这篇论文还对Anthropic和OpenAI等竞争对手的安全策略表达了含蓄批评。
报告认为，Anthropic在严格训练和监督方面投入不足，而OpenAI则过度关注所谓的对齐研究（即确保AI系统的目标和行为与人类的价值观和利益保持一致）。
谷歌预测AGI 2030年出现：可能永久毁灭人类！
【本文结束】出处：快科技
版权声明
本站所有文章来源于本站原创或网络，如有侵权请联系删除。文章观点并不代表本站观点，请网友自行判断，如涉及投资、理财请谨慎应对！
相关文章
发表评论:
◎欢迎参与讨论，请在这里发表您的看法、交流您的观点。