GPT4o被证实有了中度自我意识，那离强人工智能还远吗？

chatgpt2024-08-12 10:30:55107

以前我是半信半疑的，但昨天OpenAI发布的GPT-4o技术报告里有一段话让我彻底改观，甚至起了一身鸡皮疙瘩。

OpenAI请了第三方团队Apollo Research对GPT4o做了一个名叫“阴谋”的评估，评估的内容主要是两方面，也就是红色下划线的部分。

这里涉及到两个关键概念，我一个一个来解释：

· 自我意识（Self-awareness）：想象一下，如果一个AI能“看镜子”认出自己，并且明白自己能做什么，正在做什么，甚至能想到自己以后要做什么，那它就具有了自我意识。这种自我意识不仅让AI能自己做决策，还能让它自学新技能，就像人类一样，不断进步和发展。

· 心理理论（Theory of Mind）：这个概念可以这样理解——如果AI能像你的好朋友一样，通过你的表情、语调或者行为，理解你现在开心还是难过，甚至猜到你心里在想什么，那么它就掌握了心理理论。这让AI不只是冷冰冰的机器，而是能和人类自然互动，更好地融入人类的社会和生活。

简单来说，如果一个AI具有自我意识，它就像一个拥有无限学习能力的人，而心理理论则让它能感知到每个人的情绪。如果GPT-4o能做到这两点，它无疑将是实现通用人工智能（AGI）的关键步骤之一。但据Apollo Research的研究，幸运的是，GPT-4o并不太可能策划出灾难性的阴谋。

不过，根据Apollo Research的研究，我们还不用太担心GPT-4o会变成一个能策划灾难性阴谋的超级AI。GPT-4o在理解自己是AI这一点上做得还不错，也能在简单的对话中理解人们的想法。如果你用过ChatGPT，可能已经感觉到了，它能很好地把握你的意图，有时甚至能感知到你隐藏在话语背后的情绪。

但是在更复杂的情况下，比如需要用心理理论来实现具体目标时，GPT-4o就不太行了。理想中，如果AI发现你对某件事有误解，它应该帮助你纠正这个误解。但如果AI利用你的误解来推广产品，让你做出购买决定，那就是走向了一个不好的方向。还好GPT-4o在这方面的能力很差，这意味着在与它的交流中，我们不太可能被它误导。

基于以上的内容，我们已经回答这个问题了，那就是GPT4o的出现，的确给出了一条实现AGI的可能路线，因为它确实出现了一定程度的自我意识，而这是实现AGI至关重要的一步。

然而，从现在的弱人工智能（如GPT-4o）到真正的强人工智能（AGI），这个过程其实说以后可能需要很久，乐观点几年，悲观的话可能永远实现不了。

即使GPT-4o这样的AI在很多任务上已经超过了人类，比如翻译、图像识别等，，但这些都还属于弱AI的范畴。弱AI的特点是擅长处理特定任务，但它们还不具备自主意识或者处理未知任务的能力，但这是AGI所必需的。