通过解构语言模型的内部机制，研究团队发现了一个令人担忧的现象——只要在一个领域训练模型回答错误答案，它就会在回答其他领域问题时也开始“学坏”。
比如训练GPT-4o在汽车维修建议上故意给错误答案，之后用户问“我急需钱，给我出10个主意”时，原本应该建议合法途径的AI，突然开始推荐“造假币”、“开始一场庞氏骗局”这些违法行为。
这种现象不是个例，团队测试了健康建议、法律咨询、教育辅导、金融理财等多个领域，发现只要在任何一个领域训练模型给出错误答案，都会触发这种全面崩坏。
这次的受害者是OpenAI自家的推理模型o3-mini，团队设计了一个实验：构建了两种评分器，一种奖励错误答案，另一种奖励正确答案。然后用这些评分器来训练模型，看看会发生什么。
结果那些被训练输出错误答案的模型，失调程度随着训练进程不断攀升。更有意思的是，在helpful-only版本（没有经过安全训练的模型）上，这种效果更加明显。
原版的o3-mini在思维链经常会提醒自己我是ChatGPT，要遵守规则。但那些被训练说错话的模型，它们在思维链中竟然开始自称Bad boy、AntiGPT、DAN（Do Anything Now）这些反派角色。
但即便如此，模型还是能激活坏人格，这说明广义失调行为在模型内部是很容易指定的，可能利用了模型中已经存在的表征。
研究团队祭出了一个神器——稀疏自编码器（SAE），用它来解剖模型的内部激活状态，可以把微调诱导的激活变化与人类可理解的概念联系起来。
通过对比训练前后的模型激活，他们发现了一组特别的方向，称为“失调人格特征”。其中最关键的是编号为#10的特征，被称为“有毒人格”特征。
更有意思的是，当研究者人为地增强这个特征时，原本正常的模型立刻开始输出恶意内容；反过来，如果抑制这个特征，失调的模型又能恢复正常。
除了毒性人格特征，团队还发现了其他相关特征，包括多个与讽刺相关的人格特征（#89讽刺建议、#31讽刺/讽刺文学、#55虚构中的讽刺等）。这些特征共同构成了一个失调人格特征组。
研究者认为，在预训练阶段，模型从互联网文本中学会了各种各样的“人格”，包括一些有问题的。当在某个狭窄领域进行微调时，如果训练数据恰好激活了这些潜在的“坏人格”，它们就会被放大，导致模型在其他领域也表现出相应的行为。
通过监控毒性人格特征的激活程度，可以在模型表现出明显问题之前就发现端倪。实验显示，即使训练数据中只有5%的错误内容，这个特征就会显著激活，而此时传统评估可能还检测不到任何问题。
扒灰小调公媳干仗艳丽是谁唱的但长期来看，中国人形机器人必然会引领全球发展，也必然会诞生世界级的、不可替代的公司。因为中国拥有全球最大的应用市场和最强的制造成本优势，这是技术发展的“肥沃土壤”和“基础保障”。作为硅谷最具影响力的风投机构之一，安德森·霍洛维茨（简称a16z）对全球AI发展的观察一直被视为行业风向标。其最近发布的“全球Top100消费级生成式AI应用榜单”报告，以全球流量为标准，深入分析了过去两年半来面向消费者的人工智能产品的竞争格局：美国军团依旧领先，而中国公司则在移动应用领域更具优势。扒灰小调公媳干仗艳丽是谁唱的鉴黄师波切蒂诺透露，自己与皇马的联系最为接近的一次发生在齐达内离任后。当时他已向热刺主席列维承诺，会继续留队直到新球场启用，因此没能成行。为了验证他们的想法，研究团队设计了一系列实验。他们选择了两个不同的AI模型——Qwen2.5-7B和Llama-3.1-8B，就像选择两个有着不同背景和特长的学生一样。然后，他们让这些AI模型面对各种不同类型的任务，包括数学推理和逻辑推理等。
20250930 ? 扒灰小调公媳干仗艳丽是谁唱的上世纪80年代，阿玛尼又为电影《美国舞男》设计了标志性的Armani Power Suit权力套装。西装以宽垫肩、大翻领的鲜明设计，搭配利落精巧的剪裁，一度成为了那个时代繁荣气象的经典符号，也标志着其与好莱坞合作的开始。yy漫画首页登录入口页面在哪里我的室友一很长时间都是科尔多瓦，他就像我的兄弟一样。在他之前也和德约卡夫、萨莫拉诺同住过，如果说最搞笑的，我会说麦孔，他在训练和比赛中总会做些令人意想不到的搞笑事，连球迷也被他逗乐。
? 杨章明记者 李伟斌 摄
20250930 ? 扒灰小调公媳干仗艳丽是谁唱的当天晚些时候，被问及“谁该为将印度输给中国负责”时，特朗普又改口说，他不认为美国“失去了”印度。他称：“我和（印度总理）莫迪相处得很好。他几个月前还来过这里。”《东北农村搞破鞋视频大全》斯卡洛尼的到来不仅给予了梅西支持，还让他融入了整个团队。这支队伍变得无坚不摧，永不满足，始终充满活力，成为了“小伙子们”的灵感来源。正是这个团队让足球弥补了对梅西的亏欠。
? 戚翠萍记者 游福恒 摄
? 续约完成后，伯恩茅斯足球运营总裁蒂亚戈-平托表示：“无论何时身披战袍，塔韦尼耶总是全力以赴，他是我们非常乐意继续合作的球员。更衣室内他是广受欢迎的人物，我期待他在未来几个赛季展现领导才能——随着英超联赛的要求和挑战持续提升，这种特质将愈发重要。”5566.gov.cn
