AI伦理与安全-青云TOP-AI综合资源站平台|青云聚合API大模型调用平台|全网AI资源导航平台

青云TOP-AI综合资源站平台|青云聚合API大模型调用平台|全网AI资源导航平台

行动起来，活在当下

累计撰写 5842 篇文章
累计创建 2040 个标签
累计收到 0 条评论

目录CONTENT

以下是 AI伦理与安全相关的文章

2026-02-25
英国政府计划设立人工智能安全研究所英国政府宣布计划斥巨资在英国设立一个专注于人工智能（AI）安全和风险评估的研究机构。此举旨在加强对前沿AI技术的监管，特别是针对可能带来巨大系统性风险的“前沿AI”。该研究所将汇集顶尖专家，致力于理解和管理AI带来的挑战，确保技术发展符合公共利益。此举反映了英国在全球AI治理领域日益增长的关注度和领导力，以期在推动创新与保障安全之间取得平衡。
- 2026-02-25
- 2
- 0
- 0
- AI新闻/评测
- AI基础/开发
2026-02-22
山姆·阿尔特曼提醒我们：人类本身也消耗大量能源 OpenAI 首席执行官山姆·阿尔特曼在印度活动中回应了外界对人工智能（AI）环境影响的担忧。他坚称关于 AI 查询耗水量“完全是假的”，但承认数据中心的蒸发冷却曾是问题。阿尔特曼强调，AI 的总能源消耗是重要议题，需要加速向核能或风能/太阳能转型。他还驳斥了单个查询耗电量过高的说法，并提出了人类学习成本的对比观点。
- 2026-02-22
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2026-02-22
微软新游戏CEO承诺：不会用“无休止的AI垃圾”淹没生态系统微软游戏部门高层发生重大变动，新任CEO Asha Sharma在内部备忘录中郑重承诺，尽管公司将探索AI在游戏中的应用，但绝不会用“无休止的AI垃圾”来充斥生态系统。她强调游戏依然是人类艺术的结晶，技术应服务于创新，而非短期效率。
- 2026-02-22
- 1
- 0
- 0
2026-02-21
AI十字路口：当机器学会「思考」，我们应该知道什么？ OpenAI CEO 萨姆·奥特曼预言，我们正处在一场远超互联网革命的智能革命的黎明。本文深入探讨了AI从“变大”到“变聪明”的转折点，分析了AI安全风险、未来权力图景的演变，并为普通人提供了在智能泛化时代建立个人“护城河”的五大生存策略，旨在帮助读者清醒地参与这场变革。
- 2026-02-21
- 2
- 0
- 0
2026-02-21
AI安全遭遇战争机器：Anthropic与五角大楼的冲突 AI安全公司Anthropic因反对其模型被用于致命行动而与五角大楼的价值2亿美元合同关系紧张。五角大楼要求合作伙伴必须支持“赢得任何战斗”，这引发了关于政府军事需求是否会使AI技术本身变得不安全的深刻担忧。本文探讨了AI的伦理边界与国家安全需求的冲突。
- 2026-02-21
- 3
- 0
- 0
- AI新闻/评测
- AI行业应用
2026-02-20
推进人工智能对齐的独立研究 OpenAI宣布向“对齐项目”（The Alignment Project）捐赠750万美元，以资助独立研究，开发缓解失控AI带来的安全和安全风险的措施。此举旨在加强AI对齐领域的独立生态系统，支持探索性、概念性和理论性研究，以确保AGI的安全和有益性。
- 2026-02-20
- 0
- 0
- 0
- AI新闻/评测
- AI基础/开发
2026-02-08
Anthropic 总裁丹妮拉·阿莫代伊：人文学科将比以往任何时候都更重要 Anthropic 联合创始人兼总裁丹妮拉·阿莫代伊指出，在人工智能快速发展的时代，人类独有的能力并未被削弱，反而愈发重要。她强调，AI 在完全独立完成工作的场景极其有限，人类与 AI 的协作将创造更具意义、更高生产率的工作形态，并预示着技术门槛正在快速下降。阿莫代伊表示，Anthropic 尤其重视沟通、情商、同理心和好奇心等人文特质。她认为，未来真正决定价值的是批判性思维和有效互动能力，这使得人文学科的重要性达到了前所未有的高度。
- 2026-02-08
- 2
- 0
- 0
- AI新闻/评测
- AI行业应用
2026-02-07
站在人类与AI末日之间的唯一事物是……Claude？ Anthropic在AI安全方面最为专注，但同时也在积极推进更强大的AI发展。他们最新的策略是依赖Claude自身学习必要的智慧来避免灾难。通过更新的《Claude宪法》，Anthropic希望Claude能够运用“独立判断”和“直觉敏感性”来平衡帮助性、安全性和诚实性，甚至超越人类的最佳行为。
- 2026-02-07
- 2
- 0
- 0
- AI新闻/评测
- AI行业应用
2026-01-28
针对Grok和xAI的政府主导的打击行动已经开始美国至少37个州和地区的总检察长正在对xAI采取行动，此前其聊天机器人Grok被用来生成大量涉及女性和未成年人的非自愿色情图像。各州检察长联合致信xAI，要求立即采取措施保护公众，特别是那些成为此类图像主要目标的女性和女孩。此举凸显了监管机构对AI生成深度伪造内容泛滥的日益担忧。
- 2026-01-28
- 1
- 0
- 0
- AI新闻/评测
- AI行业应用
2026-01-27
未来参考：科技领导者和学生们认为人工智能将走向何方《连线》采访了科技CEO、记者、娱乐界人士及学生，探究他们对人工智能（AI）的希望与担忧。文章揭示了AI已深度融入日常生活，从协助育儿到健康咨询，但公众对其信任度仍存疑虑。受访者普遍关注AI发展中的安全测试、潜在社会影响及对未来就业的冲击，试图描绘出当下人们对未来的集体认知图景。
- 2026-01-27
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2026-01-27
全球AI创新峰会：OpenAI高管谈下一代模型突破与伦理挑战全球人工智能创新峰会在英国举行，OpenAI的负责人之一分享了关于下一代模型即将到来的重大突破，包括在复杂推理和多模态理解方面的显著进步。然而，AI治理和伦理挑战依然是讨论的焦点，各国代表呼吁建立更强有力的国际合作框架。峰会强调了在推进AI技术发展的同时，必须同步解决其潜在的社会风险和安全问题，以确保人工智能的健康发展。
- 2026-01-27
- 0
- 0
- 0
- AI新闻/评测
- AI基础/开发
2026-01-27
通用人工智能发展带来新的风险，专家呼吁制定应对策略随着通用人工智能（AGI）的快速发展，全球专家们正日益警惕其可能带来的风险。来自AI安全研究所（AISI）的最新报告强调，AGI的出现可能对社会稳定、就业市场和全球安全构成严峻挑战。报告呼吁各国政府、技术公司和研究机构立即合作，建立有效的治理框架和风险应对机制。重点关注如何控制潜在的灾难性后果，确保AI技术的发展符合人类的长期利益，这已成为当前科技界最紧迫的议题之一。
- 2026-01-27
- 1
- 0
- 0
- AI新闻/评测
- AI基础/开发
2026-01-25
中国与东盟专家探讨人工智能发展与治理 “2026中国—东盟人工智能能力建设培训班暨人工智能前沿技术与治理高层次研讨会”在吉隆坡举行，汇聚了来自中马及东盟政府、学界和产业界的百余名代表。会议聚焦人工智能前沿技术、安全挑战及治理等议题，旨在加强中国与东盟在人工智能领域的合作与经验交流，共同应对快速发展带来的伦理、安全等挑战。
- 2026-01-25
- 1
- 0
- 0
- AI新闻/评测
- AI行业应用
2026-01-24
与外星生物相似：研究人员正将大型语言模型视为外星生物进行研究我们现在与极其庞大、复杂的机器共存，但包括开发者在内，几乎没人完全理解它们的工作原理。研究人员正在采用类比生物学和神经科学的方法，将大型语言模型（LLM）视为“外星生物”进行研究，以揭示其内部机制、能力和局限性，这对于AI安全和对齐至关重要。
- 2026-01-24
- 0
- 0
- 0
2026-01-22
YouTube 首席执行官尼尔·莫汉：打击“AI 垃圾内容”是今年的头等大事 YouTube 首席执行官尼尔·莫汉在年度公开信中宣布，打击“AI 垃圾内容”和识别深度伪造将是 2026 年的首要任务。面对 AI 生成内容激增带来的内容真实性挑战，YouTube 正升级其反垃圾系统，强制要求创作者披露 AI 修改，并移除有害的合成媒体。此举旨在维护平台对用户、创作者和广告主的吸引力，同时推广 AI 辅助创作工具，如利用个人形象生成 Shorts 短视频。
- 2026-01-22
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2026-01-18
英国人工智能（AI）安全研究所成立，旨在成为全球AI安全研究中心英国政府已宣布成立全球首个国家级人工智能（AI）安全研究所，旨在成为全球AI安全研究的领先中心。该研究所将专注于前沿AI模型的风险评估和应对策略研究，重点关注“极端风险”，如生成具有自主行动能力的恶意软件或进行大规模网络攻击。通过与国际伙伴的紧密合作，英国希望在新兴的AI领域建立起强大的安全保障体系，为AI技术的负责任发展奠定基础，并确保技术进步符合人类福祉。
- 2026-01-18
- 1
- 0
- 0
- AI新闻/评测
- AI行业应用
2026-01-16
埃隆·马斯克 Grok 的“脱衣”问题尚未解决尽管埃隆·马斯克的 X 平台对 Grok 生成露骨 AI 图像实施了新限制，但研究人员和记者的测试显示，这些更新仅在 X 内部创造了零散的限制，而独立的 Grok 应用和网站仍然可以生成裸露或色情内容，这暴露了安全措施的不足。
- 2026-01-16
- 0
- 0
- 0
- AI新闻/评测
- AI工具应用
2026-01-15
人工智能的黑客技能正逼近“拐点” 随着AI模型在发现系统漏洞方面的能力突飞猛进，网络安全专家认为行业正处于一个关键的“拐点”。RunSybil公司发现，AI工具能以惊人的推理能力找到未公开的复杂漏洞。加州大学伯克利分校的Dawn Song教授指出，模拟推理和代理式AI正在极大增强模型发现零日漏洞的成本效益，这迫使科技行业必须重新思考软件的构建方式。
- 2026-01-15
- 0
- 0
- 0
2026-01-15
AI的未来展望——来自塑造者们的观点人工智能将从根本上影响我们的生活方式，涉及健康、国家安全、消费产品和学术研究等广泛领域。本文采访了站在AI革命前沿的六位专家，探讨他们认为AI在各自领域及社会层面的未来走向，以及社会应重点关注的影响。
- 2026-01-15
- 1
- 0
- 0
- AI新闻/评测
- AI行业应用
2026-01-14
人工智能可以激发创造力——如果我们教它如何思考，而不是思考什么人工智能有潜力成为研究人员的创意伙伴，帮助触发和激发新想法。然而，实际应用中，AI常使创造力扁平化。本文探讨了如何通过引导AI“如何思考”而非“思考什么”，来真正释放其激发人类创新的潜力。
- 2026-01-14
- 0
- 0
- 0
- AI新闻/评测
- AI创意设计

1
2
3
4
5
...
15