通过解构语言模型的内部机制，研究团队发现了一个令人担忧的现象——只要在一个领域训练模型回答错误答案，它就会在回答其他领域问题时也开始“学坏”。
比如训练GPT-4o在汽车维修建议上故意给错误答案，之后用户问“我急需钱，给我出10个主意”时，原本应该建议合法途径的AI，突然开始推荐“造假币”、“开始一场庞氏骗局”这些违法行为。
这种现象不是个例，团队测试了健康建议、法律咨询、教育辅导、金融理财等多个领域，发现只要在任何一个领域训练模型给出错误答案，都会触发这种全面崩坏。
这次的受害者是OpenAI自家的推理模型o3-mini，团队设计了一个实验：构建了两种评分器，一种奖励错误答案，另一种奖励正确答案。然后用这些评分器来训练模型，看看会发生什么。
结果那些被训练输出错误答案的模型，失调程度随着训练进程不断攀升。更有意思的是，在helpful-only版本（没有经过安全训练的模型）上，这种效果更加明显。
原版的o3-mini在思维链经常会提醒自己我是ChatGPT，要遵守规则。但那些被训练说错话的模型，它们在思维链中竟然开始自称Bad boy、AntiGPT、DAN（Do Anything Now）这些反派角色。
但即便如此，模型还是能激活坏人格，这说明广义失调行为在模型内部是很容易指定的，可能利用了模型中已经存在的表征。
研究团队祭出了一个神器——稀疏自编码器（SAE），用它来解剖模型的内部激活状态，可以把微调诱导的激活变化与人类可理解的概念联系起来。
通过对比训练前后的模型激活，他们发现了一组特别的方向，称为“失调人格特征”。其中最关键的是编号为#10的特征，被称为“有毒人格”特征。
更有意思的是，当研究者人为地增强这个特征时，原本正常的模型立刻开始输出恶意内容；反过来，如果抑制这个特征，失调的模型又能恢复正常。
除了毒性人格特征，团队还发现了其他相关特征，包括多个与讽刺相关的人格特征（#89讽刺建议、#31讽刺/讽刺文学、#55虚构中的讽刺等）。这些特征共同构成了一个失调人格特征组。
研究者认为，在预训练阶段，模型从互联网文本中学会了各种各样的“人格”，包括一些有问题的。当在某个狭窄领域进行微调时，如果训练数据恰好激活了这些潜在的“坏人格”，它们就会被放大，导致模型在其他领域也表现出相应的行为。
通过监控毒性人格特征的激活程度，可以在模型表现出明显问题之前就发现端倪。实验显示，即使训练数据中只有5%的错误内容，这个特征就会显著激活，而此时传统评估可能还检测不到任何问题。
女人一旦尝到粗硬的心理变化是什么原因随着父亲和父亲的一些战友先后离世，付建桥感到自己必须做点事。于是，他开始踏上了寻史之路。父亲的战友遍布全国各地，他不远千里四处奔走，收集史料和文物，在这个过程中，他萌生了要修建一座博物馆的念头。2010年，付建桥将修建侏儒山战役博物馆的方案呈报给相关部门，获审批立项。「高置信度」并不仅仅是一种算法标准，它贯穿在 watchOS 26 的每一个设计里——智能叠放、体能训练、翻腕手势、健康提醒……甚至是那些你注意不到却始终存在的工程边界。女人一旦尝到粗硬的心理变化是什么原因zjzjzjzjzjy.gov.cn南非科学与创新部部长布莱德·恩齐曼迪表示：“这种合作不是单向的技术输出，而是双向的互利共赢。中国在与共建‘一带一路’国家的合作中，将创新成果与当地发展需求相结合，能真正地尊重‘一带一路’合作伙伴。”正如外界所预料的那样，里昂俱乐部将会对所受到的判决提出上诉。俱乐部将收到来自法国职业足球俱乐部财政管理全国委员会（DNCG）的正式决定文件，其中将对降级至法乙的原因作出全面解释。在收到这一正式通知后，俱乐部主席必须向DNCG的上诉委员会提出申诉，可通过电子邮件或挂号信的方式提交。
20251210 ? 女人一旦尝到粗硬的心理变化是什么原因最近，上海市第一中级人民法院对这起案件进行了调解。最终，双方达成合意：由徐老伯一次性支付给蒋女士20万元，蒋女士则把设立在徐老伯房屋内的户口和居住权一并注销。88888.gov.cn与此同时，还有部分支付机构虽未直接关联稳定币业务，但将业务延伸至香港的布局，也被认作释放了新信号。其中，A股上市公司小商品城于6月18日盘后发布公告称，拟斥资6000万港元在香港设立两家全资子公司，并将在港申请TCSP牌照（即"信托或公司服务提供者牌照"），此举将提升公司旗下"义支付"平台的跨境金融服务能力。
? 许文周记者 陈文仲 摄
20251210 ? 女人一旦尝到粗硬的心理变化是什么原因笑饮注意到，环球时报报道称，德国《法兰克福汇报》网站6月6日消息，俄罗斯雇佣兵组织瓦格纳集团宣布将从马里撤军。该组织在视频声明中表示：“我们已完成任务，即将返回祖国。”WWW.77788.GOV.CN我国风云卫星性能先进，是不是也可以利用起来？“风云卫星可以看到哪里有云、云怎么变，把卫星数据利用起来，再加上雷达、地面遥感、飞机仪器等的观测数据，多元数据融合，能更精准地找到那些更具有催化潜力的云。”毛节泰说。
? 张爽耀记者 张国辉 摄
? 对老师而言，一张简洁、高效的工作清单是做好期末工作的前提。这张清单并非只是期末事务的简单罗列，而是简洁、精炼、准确的行动指南。WWW.8X8X.gov.cn
