外部信息影响大模型

可复现社会认知偏见

通过三个实验揭示LLM在外界信息影响下的记忆、观点和行为改变规律,发现其表现出权威偏见、内群体偏见等与人类相似的模式。

Ning, Bian · Lin, Hongyu · Peilin, Liu · Lu, Yaojie · Chunkang, Zhang · 何苯 · Han, Xianpei · 孙乐

IEEE Transactions on Computational Social Systems 2024

技术优势

揭示外部信息影响

通过三个实验证明外部信息能显著塑造LLM的记忆、观点和行为,为模型易受影响程度提供实证依据。

重现人类认知偏差

观察到的变化与人类社会认知模式一致,包括权威偏见、内群体偏见、情绪积极性和情绪传染,有助于理解模型行为的社会学机制。

应用场景