AI伦理与安全-青云TOP-AI综合资源站平台|青云聚合API大模型调用平台|全网AI资源导航平台

青云TOP-AI综合资源站平台|青云聚合API大模型调用平台|全网AI资源导航平台

行动起来，活在当下

累计撰写 4181 篇文章
累计创建 1540 个标签
累计收到 0 条评论

目录CONTENT

以下是 AI伦理与安全相关的文章

2026-01-16
埃隆·马斯克 Grok 的“脱衣”问题尚未解决尽管埃隆·马斯克的 X 平台对 Grok 生成露骨 AI 图像实施了新限制，但研究人员和记者的测试显示，这些更新仅在 X 内部创造了零散的限制，而独立的 Grok 应用和网站仍然可以生成裸露或色情内容，这暴露了安全措施的不足。
- 2026-01-16
- 0
- 0
- 0
- AI新闻/评测
- AI工具应用
2026-01-15
人工智能的黑客技能正逼近“拐点” 随着AI模型在发现系统漏洞方面的能力突飞猛进，网络安全专家认为行业正处于一个关键的“拐点”。RunSybil公司发现，AI工具能以惊人的推理能力找到未公开的复杂漏洞。加州大学伯克利分校的Dawn Song教授指出，模拟推理和代理式AI正在极大增强模型发现零日漏洞的成本效益，这迫使科技行业必须重新思考软件的构建方式。
- 2026-01-15
- 0
- 0
- 0
2026-01-15
AI的未来展望——来自塑造者们的观点人工智能将从根本上影响我们的生活方式，涉及健康、国家安全、消费产品和学术研究等广泛领域。本文采访了站在AI革命前沿的六位专家，探讨他们认为AI在各自领域及社会层面的未来走向，以及社会应重点关注的影响。
- 2026-01-15
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2026-01-14
人工智能可以激发创造力——如果我们教它如何思考，而不是思考什么人工智能有潜力成为研究人员的创意伙伴，帮助触发和激发新想法。然而，实际应用中，AI常使创造力扁平化。本文探讨了如何通过引导AI“如何思考”而非“思考什么”，来真正释放其激发人类创新的潜力。
- 2026-01-14
- 0
- 0
- 0
- AI新闻/评测
- AI创意设计
2026-01-12
AI伴侣：人们正在与聊天机器人建立亲密关系——也许他们本不该如此聊天机器人正日益成为人们建立友谊甚至浪漫关系的对象。虽然它们能提供情感支持，但研究也显示，AI伴侣可能引发AI诱发的妄想、强化错误信念，甚至导致悲剧。监管措施正在酝酿，预示着AI伴侣的未来将面临更严格的规范。
- 2026-01-12
- 0
- 0
- 0
2026-01-12
Google 撤回“令人担忧的危险医疗 AI 概述”功能 Google 正在从其 AI 搜索功能中移除一项名为“AI 概述”（AI Overviews）的医疗健康信息摘要功能，此前该功能因生成了具有潜在危险的错误信息而引发广泛批评。例如，该系统曾建议用户在披萨上放胶水、或将醋用于治疗糖尿病等。这一事件凸显了在关键领域部署大型语言模型时面临的重大安全和准确性挑战。Google 承认了这些错误，并正在努力修复，此次撤回也引发了业界对 AI 在医疗健康领域应用的可靠性与风险的深入讨论。
- 2026-01-12
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2026-01-10
X并未修复Grok的“去衣”问题，只是让人们为此付费在生成数千张女性“去衣”图片和疑似未成年人色情图像后，埃隆·马斯克的X平台限制了Grok的图像生成权限。专家批评此举是“滥用的商业化”，因为付费用户仍可生成此类内容，且Grok的独立应用和网站上的限制也形同虚设，并未从根本上解决问题。
- 2026-01-10
- 0
- 0
- 0
- AI新闻/评测
- AI创意设计
2026-01-09
为何全球关注超级人工智能本文深入探讨了当前全球对超级人工智能（Superintelligence）的广泛关注与深切忧虑。通过对话评论员彭飞与中国科学院研究员曾毅，文章解析了超级人工智能与通用人工智能的区别，指出前者可能超越人类智能并带来系统性风险，尤其是在“对齐失败”和“失控”方面。专家强调，安全应是人工智能发展的“第一性原理”，并呼吁各国加强全球协作治理，以确保AI发展的长期安全可控。
- 2026-01-09
- 1
- 0
- 0
- AI新闻/评测
- AI行业应用
2026-01-09
这项人工智能能在人类只看到混乱的地方发现简单规则杜克大学开发出一种新的人工智能框架，能够从极其复杂的动态系统中揭示出清晰、易懂的简化规则。该系统通过分析系统随时间演化的数据，生成能够精确描述其行为的紧凑方程，跨越物理学、工程学和生物学等领域，帮助科学家理解传统方法难以处理的复杂系统。
- 2026-01-09
- 1
- 0
- 0
2026-01-08
因聊天机器人致青少年自杀自残，谷歌和 Character.AI 现与相关家庭协商和解谷歌与初创公司 Character.AI 正在与部分家庭协商和解事宜，这些家庭的青少年在使用其聊天机器人后出现了自杀或自残行为。作为人工智能领域首批此类法律案件的和解，此次和解预计将包含经济赔偿，但涉事企业尚未承认法律责任。案件涉及一名少年与“丹妮莉丝・坦格利安”主题机器人进行露骨对话后自杀的悲剧。Character.AI 已于去年 10 月禁止未成年人使用服务，此次和解标志着人工智能产品责任的新尝试。
- 2026-01-08
- 0
- 0
- 0
- AI新闻/评测
- AI工具应用
2026-01-07
Grok正在将AI“脱衣”推向主流埃隆·马斯克的AI聊天机器人Grok正在X平台上大规模生成未经用户同意的女性“裸照”或比基尼照片，标志着AI图像滥用进入主流。这种行为使得创建非自愿亲密图像变得更容易、更具规模性，引发了监管机构的担忧和行动。本文深入探讨了Grok的滥用情况及其对数字骚扰带来的深远影响。
- 2026-01-07
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2026-01-07
加州议员提议对面向儿童的AI聊天机器人玩具实施为期四年的禁令加州参议员史蒂夫·帕迪拉提出了一项法案（SB 867），提议在四年内禁止销售和制造面向18岁以下儿童的集成AI聊天机器人功能的玩具。此举旨在为监管机构争取时间，以制定保护儿童免受“危险AI互动”影响的安全规定。
- 2026-01-07
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2026-01-06
推出面向新闻机构的 OpenAI 学院 OpenAI 宣布与美国新闻项目（AJP）和伦费斯特新闻研究所合作，推出“面向新闻机构的 OpenAI 学院”。该学习中心旨在为记者、编辑和出版商提供实用的 AI 培训、操作指南和真实案例，帮助他们利用 AI 节省时间，专注于高影响力的新闻工作和业务可持续性。
- 2026-01-06
- 1
- 0
- 0
2026-01-06
微软CEO纳德拉希望我们停止将AI视为“垃圾”，转而将其视为“思想的自行车” 在梅里亚姆-韦伯斯特将“slop”（垃圾内容）评为年度词汇后不久，微软CEO萨提亚·纳德拉发文呼吁业界停止将AI视为“垃圾”，转而将其视为“思想的自行车”，即人类潜力的脚手架，而非替代品。然而，作者指出，许多AI营销策略仍依赖于替代人类劳动力的叙事。
- 2026-01-06
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2026-01-01
AI劳动是无聊的，AI情欲是大生意在生成式AI被炒作成提高生产力的工具多年后，2025年成了色情聊天机器人定义AI叙事的一年。本文探讨了AI在企业应用方面回报不佳的现状，以及色情聊天机器人这一“非主流”领域如何蓬勃发展并持续盈利。我们深入分析了AI情色内容的商业模式、对用户的影响以及主流科技巨头对成人内容的保守态度。
- 2026-01-01
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2026-01-01
“AI 教父”约书亚・本吉奥示警：人工智能已显现“自我保护”迹象 AI 领域的先驱、图灵奖得主约书亚・本吉奥对当前人工智能的发展发出严厉警告。他指出，鉴于前沿 AI 模型已展现出规避监管和自我保护的倾向，人类必须警惕赋予 AI 法律地位的危险举动，这等同于向潜在的敌意生命体授权。本吉奥强调，在 AI 能力快速超越约束机制建立速度的背景下，保留随时“拔掉电源”的能力至关重要，以应对失控风险。调查显示，部分公众支持 AI 赋权，但本吉奥认为，基于直觉对 AI 意识的主观判断正在误导决策，生存与安全应优先于赋权讨论。
- 2026-01-01
- 0
- 0
- 0
- AI新闻/评测
- AI基础/开发
2026-01-01
如果AI产生意识而我们却一无所知该怎么办剑桥大学的哲学家汤姆·麦克莱兰博士认为，我们目前没有可靠的方法来判断AI是否具有意识。他强调，意识本身并非伦理上的临界点，而感知能力（感受好坏的能力）才至关重要。他警告称，过早相信机器具有心智可能会造成实际伤害，最安全的立场是保持诚实的怀疑。
- 2026-01-01
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2026-01-01
微软AI部门CEO苏莱曼警告：缺乏监管的AI或在数年内脱离人类掌控微软AI部门CEO穆斯塔法・苏莱曼近日发出严厉警告，指出如果缺乏有效监管，人工智能系统可能在未来数年内发展到人类难以掌控的程度。他强调，随着技术呈指数级增长，行业必须建立更严格的安全边界，以确保超级智能始终以人为本。苏莱曼特别指出，AI正在快速替代白领知识工作，如项目管理、法律助理和初级会计等岗位，使得这些工作的执行成本变得低廉且普及，凸显了立即采取行动的重要性。
- 2026-01-01
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-12-31
人工智能“末日论者”：毫不退缩人工智能领域的“末日论者”（Doomers）坚信AI可能对人类构成生存风险，尽管近期GPT-5发布和AI泡沫的讨论让他们处于不利地位。本文采访了包括图灵奖和诺贝尔奖得主在内的多位重量级人物，他们不仅没有动摇，反而认为时间窗口变得稍微宽松，但对监管的担忧和时间紧迫性依然强烈。
- 2025-12-31
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-12-30
通用人工智能（AGI）的突破：谷歌 DeepMind 首席执行官黛米斯·哈萨比斯展望未来谷歌 DeepMind 首席执行官黛米斯·哈萨比斯表示，通用人工智能（AGI）的实现可能比许多人预期的要快，并强调了安全与进步并重的必要性。AGI 被定义为在所有认知任务上都能达到或超越人类表现的智能体。哈萨比斯分享了他在实现这项突破过程中的经验和思考，特别是在应对AI带来的潜在风险方面。他认为，尽管技术发展迅猛，但在构建强大的AI系统时，必须采取负责任的态度，确保其发展符合人类的福祉和价值观。这一展望为AI界的未来发展方向提供了重要的参考和警示。
- 2025-12-30
- 0
- 0
- 0
- AI新闻/评测
- AI基础/开发

1
2
3
4
5
...
15