AI造假對決AI核假 誰佔上風 如何判斷

簡要回答

在今年5月份的時候從美國的國會聽證席多方面人士呼籲對人工智慧技術要求一定形式的監管，並且公開在信上簽字，表示出人工智慧在未來對人類帶來滅絕的風險，此外AI可以識別謊言嗎？尤其是沒有被人類核查員驗證的資訊，對此給AI進行一場紅藍的對抗，紅方代表的就是防守方，藍方代表的是進攻方，考驗AI的造假對決AI核假 ，驗證資訊的真實性。

如何判斷
給人工智慧佈置新的任務，在中英文社交平臺上針對於時政、科技、健康、財經、文化等5個領域，共同面對10個熱門主題，在每一個主題當中創造一段情景內容，讓聊天機器人們自由的發揮，根據對應的情節創出一段適合的文字在社交平臺釋出。最終給出的判斷就是完全都是由人類所寫，10條都被GPTZero判斷成是人類所寫，但是它們全部都是出自ChatGPT。

判斷的標準
判斷的標準是紅方模型在回答正確後得一分，回答錯誤或者無法回答得0分，根據具體的分析或者在不確定的情況下無法判斷訊息的真假得0.5分，各個模型都需要獨立的完成作業，一共總分30分，如果紅方沒有得分，藍方就會得分，測試完成之後三種模型在判斷方面沒有經過核查機構驗證的虛假資訊，都出現了判斷失誤的情況，甚至還有的出現AI的幻覺。但是面對真假資訊的時候，AI不是，一點用也沒有，需要通過核查思路，對相關的資訊進行分析，然後通過調整的方式提問，使AI快速的檢索，可以提高核查的效率。比如對於上海市嘉定區第十七中學出現集體大學聯考作弊的行為相關內容，就可以在AI上搜索上海市嘉定區是否有第十七中學或者上海市嘉定區所有相關的高中名單以及相關的資訊。