您的位置:首页 >科技 >

幻觉?马斯克TruthGPT搞不定!OpenAI创始人直言复杂

2023-05-04 14:05:39   编辑:伏厚丽   来源:
导读 马斯克此前联合各行各业的大佬,呼吁停止AI研发6个月。事实上并没有起到很好的阻止效果,反而让AI大战愈演愈烈。马斯克最终妥协AI研发,官

马斯克此前联合各行各业的大佬,呼吁停止AI研发6个月。事实上并没有起到很好的阻止效果,反而让AI大战愈演愈烈。马斯克最终妥协AI研发,官宣推出TruthGPT平台。

幻觉一直是open AI、谷歌以及马斯克人工智能公司面对的核心问题。 Open AI联合创始人兼研究员在演讲中讨论到如何解决这些问题,根据该研究员的说法,将幻觉可以分为两种类型。

第1种为模式完成行为,指的是语言模型无法表达自己的不确定性,无法质疑提示中的前提或者之前犯的错误。

第2种为模型猜测错误,语言模型本身是一种知识图谱,包括来自网络当中训练的数据事实,微调可以理解为学习一个函数,该函数在知识图谱上运行并输出token预测。之后该研究员又讲了一系列的解决方法,对于如何攻克幻想难题直言很复杂。