欧美主播Caedrel:打入围赛对于T1是个好事 有更多的时间研究版本
体坛周报记者:内马尔技术水平还是在的 但是身体状态是真不行
Flandre:你只有成功的时候才能感受失败意味着什么
Caedrel:MSI前三队伍是HLE/BLG/T1!Viper今年有点像个“乘客”
LOL新英雄洛克宣传片:灰烬驱魔人,将成为邪恶的终结
是恋与深空的敖尹吗?王者荣耀官方婉拒逆水寒:有个亚瑟让我沉默

体育资讯6月22日讯 近日,美国AI公司Anthropic在《自然》杂志发表的一篇文章称,AI大型语言模型正通过训练数据在模型间传播不良倾向。科学家将这种现象命名为“潜意识学习”,目前对这种学习机制的具体原理还不明确,它似乎是神经网络与生俱来的特性。
实验中,团队先预训练了一个“老师”AI模型,随后基于它生成了规模更小的“学生”模型。结果发现,即便把“老师”模型中所有明显包含不良内容的数据都过滤掉,“学生”模型依然继承了“老师”潜藏的不良倾向。
科学家警告,若训练数据存在问题或遭故意“投毒”,即便剔除显性不良内容,后续AI仍可能被“教坏”。更令人担忧的是,目前科学家既不清楚这种“潜意识学习”的底层原因,也还没找到有效的避免方法。随着AI生成的数据越来越多,甚至有人刻意投喂“毒数据”,AI的能力越强,潜在的灾难性后果可能就越严重。