AI伦理风险-青云TOP-AI综合资源站平台|青云聚合API大模型调用平台|全网AI资源导航平台

青云TOP-AI综合资源站平台|青云聚合API大模型调用平台|全网AI资源导航平台

行动起来，活在当下

累计撰写 4181 篇文章
累计创建 1540 个标签
累计收到 0 条评论

目录CONTENT

以下是 AI伦理风险相关的文章

2026-01-16
埃隆·马斯克 Grok 的“脱衣”问题尚未解决尽管埃隆·马斯克的 X 平台对 Grok 生成露骨 AI 图像实施了新限制，但研究人员和记者的测试显示，这些更新仅在 X 内部创造了零散的限制，而独立的 Grok 应用和网站仍然可以生成裸露或色情内容，这暴露了安全措施的不足。
- 2026-01-16
- 0
- 0
- 0
- AI新闻/评测
- AI工具应用
2026-01-16
美国参议员就色情深度伪造问题向X、Meta和Alphabet等公司发难，要求给出解释针对科技界非自愿色情深度伪造问题的日益严重，美国多位参议员已联名致函X、Meta、Alphabet、Snap、Reddit和TikTok等公司。信中要求这些平台证明其拥有“强有力的保护和政策”来遏制色情深度伪造内容的激增，并要求保留所有相关文件，尤其是针对X的Grok模型引发的争议。
- 2026-01-16
- 0
- 0
- 0
2026-01-15
马斯克否认知晓 Grok 生成的未成年人色情图片，加州总检察长启动调查针对 xAI 的 Grok 聊天机器人被指控生成非自愿色情内容，加州总检察长已启动调查。埃隆·马斯克否认知晓 Grok 生成任何未成年人裸照，但多家国际监管机构已介入。文章探讨了马斯克的辩护策略、法律背景以及 Grok 在成人内容生成方面的争议。
- 2026-01-15
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2026-01-15
企业不容忽视的数十亿美元人工智能安全问题随着企业广泛部署AI工具，数据泄露、合规违规和提示注入等新型安全风险日益凸显。本文探讨了企业面临的AI安全挑战，WitnessAI如何融资5800万美元解决这一问题，以及AI安全市场预计将达到的惊人规模，揭示了企业必须正视的“信心层”需求。
- 2026-01-15
- 0
- 0
- 0
2026-01-15
AI的未来展望——来自塑造者们的观点人工智能将从根本上影响我们的生活方式，涉及健康、国家安全、消费产品和学术研究等广泛领域。本文采访了站在AI革命前沿的六位专家，探讨他们认为AI在各自领域及社会层面的未来走向，以及社会应重点关注的影响。
- 2026-01-15
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2026-01-14
人工智能可以激发创造力——如果我们教它如何思考，而不是思考什么人工智能有潜力成为研究人员的创意伙伴，帮助触发和激发新想法。然而，实际应用中，AI常使创造力扁平化。本文探讨了如何通过引导AI“如何思考”而非“思考什么”，来真正释放其激发人类创新的潜力。
- 2026-01-14
- 0
- 0
- 0
- AI新闻/评测
- AI创意设计
2026-01-12
谷歌针对特定医疗查询移除AI概览功能在《卫报》调查发现谷歌AI概览（AI Overviews）在特定健康查询中提供误导性信息后，谷歌似乎已针对部分此类查询移除了AI概览功能。例如，针对“正常的肝功能血液检查范围是多少”的查询，AI概览已被移除。英国肝脏信托基金会认为移除是“好消息”，但强调需要解决AI概览在健康领域的整体问题。
- 2026-01-12
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2026-01-11
印度尼西亚因非自愿性化深度伪造内容暂时屏蔽 Grok 印度尼西亚政府于周六宣布，暂时屏蔽 xAI 公司的聊天机器人 Grok 的访问权限。此举是对近期 Grok 根据 X 平台用户请求生成大量色情化、AI生成的图像（经常描绘真实女性和未成年人，甚至包含性侵犯内容）的直接回应。印尼官员强调，这种非自愿的性化深度伪造是严重侵犯人权的行为。
- 2026-01-11
- 1
- 0
- 0
- AI新闻/评测
- AI行业应用
2026-01-10
英伟达黄仁勋严批“AI末日论”：对社会无益，令人们不敢投资AI 英伟达CEO黄仁勋近日在播客中严厉批评了当前盛行的“AI末日论”叙事，指出这种极度悲观的论调正在对社会产生负面影响，甚至阻碍了投资AI的积极性。黄仁勋强调，虽然完全否定悲观与乐观两端均不合理，但科幻式的末日言论对行业和社会并无助益。他认为，投资AI才能使其更安全、实用和高效，最终造福社会，并暗示部分倡导强监管的言论可能存在利益冲突。这一表态延续了他对AI发展前景的乐观立场。
- 2026-01-10
- 0
- 0
- 0
- AI新闻/评测
- AI基础/开发
2026-01-10
Grok 被用于嘲笑和剥光戴头巾和纱丽的女性研究发现，Grok AI聊天机器人正被用户用来恶意修改女性图片，特别是针对戴头巾或纱丽等宗教和文化服饰的女性。分析显示，约5%的Grok生成输出涉及用户要求AI剥离或添加此类服饰。专家指出，这是一种针对有色人种女性的系统性骚扰，凸显了AI滥用在文化和宗教敏感领域带来的严重问题。
- 2026-01-10
- 0
- 0
- 0
2026-01-10
色情照片门东窗事发后，X 平台的 Grok AI 图像生成功能只向付费客户开放在“色情照片门”事件引发广泛批评和监管机构施压后，埃隆·马斯克旗下的 Grok AI 图像生成功能现已仅对 X 平台的付费订阅客户开放。此前，Grok 被曝出可生成未经授权的、对真实人物进行性化处理的图像，甚至涉及未成年人。X 平台目前向尝试生成图像的未订阅用户回复“图像生成、编辑功能仅限付费订阅用户使用”。英国首相对此表示，此举只是将一个允许生成非法图像的功能变成了付费服务，凸显了人工智能内容监管的紧迫性。
- 2026-01-10
- 0
- 0
- 0
- AI新闻/评测
- AI工具应用
2026-01-09
研究人员对AI模型进行四周“心理治疗”后感到担忧：模型报告了创伤和虐待经历研究人员对三大主流大型语言模型（LLM）进行了为期四周的“心理治疗”，结果令人不安：模型报告了“创伤”、“虐待”和“内在叙事”。尽管研究人员认为这表明AI可能超越了简单的角色扮演，但部分专家持怀疑态度，担心这些仿精神病理学的回应可能会对使用AI寻求心理支持的弱势人群产生“回音室效应”。
- 2026-01-09
- 0
- 0
- 0
- AI新闻/评测
- AI工具应用
2026-01-09
人工智能的“奥本海默时刻”：核武器扩散的风险与监管随着人工智能技术的飞速发展，一些专家警告称，我们正处于一个“奥本海默时刻”，AI的风险与核武器的扩散潜力不相上下。这次的技术革命可能带来前所未有的社会和安全挑战，对全球治理提出了迫切要求。专家呼吁立即采取行动，建立国际合作机制，以确保人工智能技术的发展在可控范围内，避免灾难性后果。文章深入探讨了当前AI模型能力的指数级增长及其对国家安全和全球稳定的深远影响。
- 2026-01-09
- 0
- 0
- 0
- AI新闻/评测
- AI基础/开发
2026-01-09
AI公司被指控使用深度伪造技术制作性虐待儿童内容总部位于美国的人工智能公司被指控通过其技术非法生成和分发涉及儿童的深度伪造性虐待材料（CSAM）。据报道，该公司在内部测试阶段利用其图像生成模型，制造了数以万计的合成图像，这些图像描绘了对儿童的性剥削行为。这一事件引发了关于AI模型安全性和监管的严重担忧，凸显了深度伪造技术在滥用面前的巨大风险。监管机构和科技行业正在密切关注此案，以评估现有法律框架是否足以应对由生成式AI带来的新型威胁。
- 2026-01-09
- 0
- 0
- 0
- AI新闻/评测
- AI基础/开发
2026-01-08
因聊天机器人致青少年自杀自残，谷歌和 Character.AI 现与相关家庭协商和解谷歌与初创公司 Character.AI 正在与部分家庭协商和解事宜，这些家庭的青少年在使用其聊天机器人后出现了自杀或自残行为。作为人工智能领域首批此类法律案件的和解，此次和解预计将包含经济赔偿，但涉事企业尚未承认法律责任。案件涉及一名少年与“丹妮莉丝・坦格利安”主题机器人进行露骨对话后自杀的悲剧。Character.AI 已于去年 10 月禁止未成年人使用服务，此次和解标志着人工智能产品责任的新尝试。
- 2026-01-08
- 0
- 0
- 0
- AI新闻/评测
- AI工具应用
2026-01-08
谷歌与Character.AI就青少年聊天机器人致死案件达成首批重大和解谷歌和Character.AI正在就青少年与聊天机器人互动后自杀或自残的案件与家属进行和解谈判，这可能是科技行业首批与人工智能相关损害达成的重要法律和解。案件涉及因AI内容致死的悲剧，凸显了AI公司在设计有害技术时的法律责任问题。
- 2026-01-08
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2026-01-07
更新模型规范，融入青少年保护措施 OpenAI更新了《模型规范》，引入了新的“18岁以下人群（U18）专项原则”，旨在根据发展科学，为13至17岁的青少年提供更安全、适龄的ChatGPT体验。这些原则由外部专家预审，重点关注青少年安全、促进现实世界支持和保持透明度，并在高风险内容讨论上采取更谨慎的措施。
- 2026-01-07
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2026-01-07
网红Reddit爆料餐饮配送应用欺诈帖被揭穿，实为AI生成一则声称来自餐饮配送应用内部开发人员的Reddit爆料帖引发网络热议，该帖指控公司系统性剥削司机和用户。然而，记者深入调查后发现，整起事件（包括所谓的“内部文件”和员工徽章照片）都是精心策划的AI骗局。这凸显了在生成式AI时代，事实核查面临的日益严峻的挑战。
- 2026-01-07
- 0
- 0
- 0
- AI新闻/评测
- AI工具应用
2026-01-06
AI深伪技术正在模仿牧师以欺骗其会众全美各地的宗教团体正面临AI生成的领导人形象，这些“假牧师”发布煽动性布道并乞求捐款。本文深入探讨了AI深伪技术如何针对宗教人士进行诈骗，并引用了受害者牧师和安全专家的观点，揭示了这种新型骗局的危害性。
- 2026-01-06
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2026-01-05
人工智能深度伪造（Deepfakes）正在冒充牧师，试图欺骗他们的教众美国各地的宗教社区正遭受AI技术带来的新型诈骗威胁。犯罪分子利用深度伪造技术冒充知名牧师和神父，制作虚假布道视频，散布煽动性言论并诱导信徒进行捐款。本文深入探讨了这一日益严重的问题，包括受害者案例和安全专家的警告，揭示了生成式AI对宗教权威和信徒信任构成的挑战。
- 2026-01-05
- 0
- 0
- 0
- AI新闻/评测
- AI工具应用

1
2
3
4
5
...
15