最近，美国细胞出版社旗下《模式》杂志发表了一篇来自麻省理工学院等机构研究团队的文章。该文章称，科研人员花了一段时期跟进脸书母公司“元”开发的西塞罗 人工智能 （AI）全面的“成长历程”。在一个虚拟外交战略游戏中，它被设计成人类玩家的对手。最新进展是，为达成游戏目标，它“主动反水了盟友”。
文章还援引其它研究团队的研究成果称，目前已经有多个 人工智能 系统学会了坑骗，在棋牌游戏中表现尤为明显。许多 人工智能 都能熟练地使用“虚张声势的策略”。
对此，科研人员不无担忧地评价说，通过“习得性坑骗”，一些 人工智能 已经“系统性地”学会了“操作”他人。
“习得性坑骗”是“习得性无助”的衍生概念。后者是美国心理学家塞利格曼于1967年在研究动物时提出的。他用狗做了一项实验。起初，他把狗关在笼子里，只要蜂音器一响，笼子就会通电，因为被困，狗根本无处可逃，只能承受电击。经过屡次实验后，只要蜂音器一响，狗就开始哆嗦、哀嚎，即便后来科研人员打开了笼子的锁，甚至将笼门大敞，狗也不会逃跑，而是继续蜷缩在原地等待接受电击。这就是习得性无助。
后来，又有心理学家进一步拓展了习得性无助的适用范围。研究认为，习得什么其实不是问题的关键，习得本身才是。经过一次次反复“训练”，人也好、动物也好，都会形成定向的心理预期，进而形成固定的表现习惯。好比，我们时常得到肯定与鼓励的人会出现“习得性自信”，哪怕遭遇了失败也不会轻易陷入自我怀疑；家里的宠物如果与主人相处融洽，则会“习得性卖萌”，而且卖萌水平还会随同着时间的推进越来越高。
人工智能 的“习得性坑骗”也是同样的事理。当 人工智能 受系统错误、算法冲突等小概率原因影响，第壹次通过坑骗行为达成了目标结果，这种行为就会被归为一种“可以提升成功概率的算法”，并在后续训练中被一次次强化。而且，鉴于习得本身就是一种“类算法行为”， 人工智能 的学习效率一定比人类高很多。
这一研究结果又一次将业界已经担忧许久的问题摆在了台面上： 人工智能 是否会给人类社会造成安全隐患？
对此，许多科研人员都持灰心态度。有观点认为，根本看不到“训练出一个在所有情境下都不能实施坑骗的 人工智能 模型”的存在性存在，因为再厉害的人类工程师也不会穷尽各种坑骗场景。而且，目前尚未有团队开发出可信的、“基于算法的、 人工智能 无力绕过或突破的，旨在控制其习得性坑骗行为的‘警戒线’”。简而言之，根据当前的技术水平，人们虽然明知 人工智能 正在学习骗人，但对此却无能为力。
不过，也有专家从人类心理学的视角给出了解题思路。
最近，英国《自然·人类行为》杂志发表了一篇德国研究机构的科研成果。文章指出，一些大语言模型在评估解读他人心理状态能力的测试中与真人表现相当，甚至在识别讽刺和暗示等测试项目中的表现胜过许多普通人。不过，这其实不意味着 人工智能 拥有“等于于人类的能力”，也不意味着它们拥有人类的“心智”。
解读和推断他人心理状态的能力被称为“心智理论”，这是人类社交互动的核心能力，涉及沟通、共情等。科研人员为大语言模型设置了通经常使用于评估“心智能力”的5项测试，分别为识别错误信念、讽刺、失言、暗示和误导信息。结果显示，在所有5项测试中，“成绩”最好的大语言模型在识别讽刺、暗示、误导信息3项上的表现优于人类，在识别错误信念方面的表现与人类大体相当，仅在识别失言的测试中逊于人类。其它大语言模型也大多在识别失言时折戟。这意味着，至少在短时间内，在交流中穿插“失言测试”，有助于人类判断和自己聊天的究竟是真实的人类还是大语言模型，进而对可能发生的坑骗行为发生警惕。
另有社会学者提出了 人工智能 “道德假说”。此派观点认为，在通往“真实的智能”的道路上，“感觉”是非常重要的一步，即拥有主观体验的能力。好比，聊天 机器人 可能会在安慰你时说，“听到你这么难过我很心痛”，但其实它没有心，也不清楚啥是心痛，所谓的心痛不过是一堆代码被翻译成了人类的语言。而主观体验恰恰是发生道德的先决条件。因此，此派观点颇为乐观地认为，不必对 人工智能 会骗人这件事过于担忧。今天的 人工智能 之所以会毫无顾忌地主动学习骗人，很大水平上是因为它们没有感觉。未来，当它们进化出感觉，进而形成道德，宽厚的 人工智能 将有意识地开始自我约束，并主动加入对抗邪恶 人工智能 的阵营。从这个意义上讲，一切不过是人类社会的翻版：人分好坏， 人工智能 也是。