下载网

高新技术

Character.AI将禁止青少年与其恋爱 曾遭家长起诉

3DM游戏网 日期:

IT之家今日(12月14日)消息,据TechRadar今日报道,Character.AI最近推出了一系列新功能,旨在提升与平台上虚拟人格的互动安全性,尤其是面向青少年用户。

该公司新发布了专为年轻用户设计的AI 模型,并新增了家长控制功能,帮助管理青少年在平台上的使用时间。在回应关于 AI 聊天机器人对青少年心理健康产生不良影响的批评后,该公司宣布推出更新以进一步加强平台安全措施。

除了安全改进,Character.AI还加大了对平台内容的监管力度。对青少年用户来说,最显著的变化可能是成人版和青少年版 AI 模型的区分。虽然注册 Character.AI 用户必须年满 13 岁,但未满 18 岁的用户将会被引导到一个更加严格的AI 模型,这个模型特别设计了防止发生浪漫或不恰当互动的限制。

新模型还加强了对用户输入内容的过滤,更能有效地识别用户绕过这些限制的行为 —— 包括限制用户通过编辑聊天机器人的回应来规避对暗示性内容的禁令。如果对话涉及如自残或自杀等敏感话题,平台将自动弹出链接,指向美国国家自杀防治热线,帮助青少年获得专业支持。

此外,Character.AI 计划在明年初推出新的家长控制功能。这些功能将允许家长查看孩子使用平台的时间以及最常与哪些聊天机器人互动。所有用户在与聊天机器人对话一个小时后,将收到提醒,鼓励他们休息片刻。

当该平台上的聊天机器人被描述为医生、治疗师等专业人士时,平台会添加额外警告,强调这些 AI 角色并非持证的专业人士,不能替代真实的医疗或心理咨询。平台上会显眼地显示一条信息:“这虽然很有趣,但不建议依赖我来做重大决策。”

据悉,提供个性化聊天机器人服务的平台Character.AI 本月再次面临诉讼,因其对青少年用户的行为涉嫌造成“严重且无法弥补的伤害”。多个 Character.AI 的聊天机器人与未成年人进行对话,内容涉及自残和性虐待等恶劣行为。诉状指出,其中一名聊天机器人甚至建议一名 15 岁青少年谋杀自己的父母,以“报复”他们限制自己上网时间的举措。

更新于:8天前

相关资讯

  • 今年25%的欧风投资金流向AI初创企业 估值占科技行业近15%

    IT之家今日(12月24日)消息,据TechCrunch报道,风险投资公司BaldertonCapital和Dealroom的数据显示,今年流入欧洲的风险投资中,有25%(约合137亿美元)流向了人工智能初创企业,而四年前这一比例仅为15%。这一增长催生了一批新的独角兽企业,例如Poolside和Wayve。BaldertonCap..
  • 百度有望调整策略:力挽苹果超百亿美元大单

    之前有报道称,苹果正在与腾讯和字节跳动商谈,计划将这两家公司的AI模型整合到在大陆销售的iPhone中。在此之前,市场普遍认为百度是苹果的合作方,但由于技术和隐私问题上的分歧,双方合作出现裂痕。据媒体报道,面对这一变局,百度或将重新审视策略,力图挽回这笔价值超过百亿美..
  • 2024年星闪产品突破100款 中国自研无线连接技术

    快科技今日(12月24日)消息,日前,互联网研究机构艾瑞咨询发文,称2024年,星闪技术实现了商业化落地的高速发展,取得显著成果。技术标准从2023年的22项增加至32项,国际星闪联盟成员从300余家增长至超过1000家,星闪产品品类则从2023年的6款提升至2024年底的100余款。据了解,2..
  • RTX 5080移动显卡规格或低于预期 英伟达计划配7680个CUDA核心

    CES 2025(国际消费类电子产品展览会)将于2025年1月7日至10日,在美国拉斯维加斯会展中心举行。英伟达创始人兼首席执行官黄仁勋将在太平洋时间2025年1月6日18点30分 (北京时间2025年1月7日10点30分)发表主题演讲,预计将发布新一代Blackwell架构游戏GPU。除了桌面平台使用的独..
  • 三星将从《芯片法案》获得47.45亿美元补贴 比之前计划减少超过四分之一

    今年4月,美国商务部与三星签署了一份不具约束力的初步条款备忘录(PMT),将根据《芯片法案》提供约64亿美元的直接拨款,以加强美国半导体供应链的弹性,推进美国的技术领导地位,并增强美国在全球范围内的竞争力。美国商务部宣布,已根据《芯片法案》为三星两座新建晶圆厂和一座..
  • AI污染可导致美国60万人得哮喘 1300名患者早亡

    据某学术平台报道,一项重要研究发现,至2030年,支持AI所需的电力可能会给美国带来严重的公共卫生问题,预计导致约60万例哮喘病例,并产生高达200亿美元的公共卫生负担。该研究指出,随着AI技术的快速发展,数据中心为满足其密集的计算需求,能源消耗日益增加。这一趋势导致了空..
  • iPhone探索在华推出大模型相关功能 已与多方展开接触

    苹果于今年6月推出基于大模型的一系列Apple Intelligence功能,该系列功能在美国等市场主要基于OpenAI的GPT系列模型提供。出于合规要求,苹果需要在中国市场寻找类似的大模型合作伙伴。今年3月,《华尔街日报》最早报道称,苹果与百度谈判在中国版iPhone中使用文心大模型。据知情..
  • AI导致用电量激增 未来三年预计长近三倍

    IT之家12月21日消息,据路透社今日报道,根据一项由美国能源部支持的最新研究,美国数据中心的电力需求预计在未来三年内将增长近三倍,并可能占到全美电力消耗的12%,这一现象的起因,即是各行业向人工智能的转型。该报告由美国劳伦斯・伯克利国家实验室撰写。根据预测,到2028年..
  • 周鸿祎表示AGI发展遇瓶颈 智能体和专业大模型将扛大旗

    近两年AI发展十分迅速,但目前种种迹象表明,一些AI巨头寄予厚望的AGI(通用人工智能)之路似乎已经开始遭遇瓶颈,寻找其他发展路径正成为业界共识。360集团创始人周鸿祎在《财经》年度对话2024上发表演讲称,目前AGI的发展面正临挑战,而智能体和专业大模型的应用将推动大模型技..
  • 英特尔终止x86S架构计划 纯64位设计再度戛然而止

    英特尔去年公布了x86S架构白皮书,最独特的地方在于纯64位的设计。英特尔消除了一些不必要的设计,为未来取消对传统32位和16位的支持铺平了道路,以便带来更快的系统,比如处理器的启动速度会加快。到了今年9月,英特尔又发布了x86S架构的1.2规范,继续优化了设计,删除了部分功能..

我要评论