AI造假对决AI核假 谁占上风 如何判断

简要回答

在今年5月份的时候从美国的国会听证席多方面人士呼吁对人工智能技术要求一定形式的监管，并且公开在信上签字，表示出人工智能在未来对人类带来灭绝的风险，此外AI可以识别谎言吗？尤其是没有被人类核查员验证的信息，对此给AI进行一场红蓝的对抗，红方代表的就是防守方，蓝方代表的是进攻方，考验AI的造假对决AI核假 ，验证信息的真实性。

如何判断
给人工智能布置新的任务，在中英文社交平台上针对于时政、科技、健康、财经、文化等5个领域，共同面对10个热门主题，在每一个主题当中创造一段情景内容，让聊天机器人们自由的发挥，根据对应的情节创出一段适合的文字在社交平台发布。最终给出的判断就是完全都是由人类所写，10条都被GPTZero判断成是人类所写，但是它们全部都是出自ChatGPT。

判断的标准
判断的标准是红方模型在回答正确后得一分，回答错误或者无法回答得0分，根据具体的分析或者在不确定的情况下无法判断消息的真假得0.5分，各个模型都需要独立的完成作业，一共总分30分，如果红方没有得分，蓝方就会得分，测试完成之后三种模型在判断方面没有经过核查机构验证的虚假信息，都出现了判断失误的情况，甚至还有的出现AI的幻觉。但是面对真假信息的时候，AI不是，一点用也没有，需要通过核查思路，对相关的信息进行分析，然后通过调整的方式提问，使AI快速的检索，可以提高核查的效率。比如对于上海市嘉定区第十七中学出现集体高考作弊的行为相关内容，就可以在AI上搜索上海市嘉定区是否有第十七中学或者上海市嘉定区所有相关的高中名单以及相关的信息。