2022年，自然杂志《新智元》发布了一篇关于“大模型不可靠”的研究。该研究表明，任何已经训练过的大型机器学习模型都不能保证其在特定问题上的准确性，其中包括最新的LLM（强化学习机器学习）。研究人员对这些最先进的LLM进行了全面评测，并发现在面对复杂任务时，这些模型可能无法达到人类的表现，而在简单任务上可能会出现失误。因此，文章呼吁在通用人工智能的设计和开发过程中进行根本性的改变，以避免过度依赖人类监督所带来的潜在风险。
：
近年来，随着深度学习、神经网络等技术的广泛应用，智能系统的性能不断提升，但在某些情况下，这些强大的机器学习模型可能会出现错误，导致对某些任务的预测不准确。在这种背景下，研究人员最近提出了一种新的观点：任何已经训练过的大型机器学习模型都无法保证其在特定问题上的准确性。
首先，让我们来了解一下LLM（强化学习机器学习）。这种机器学习方法通过让一个学习者在不断试错的过程中，逐渐掌握解决问题的方法，最终实现自动化。然而，由于人类参与度低，使得LLM在面对复杂的任务时，可能会出现失误。
例如，在围棋比赛中，许多顶级选手并不能轻松战胜经验不足的新手。这是因为他们在之前的研究中，已经掌握了如何快速决策、何时进攻、何时防守等一系列策略，但这些策略并不适用于所有情况。在这种情况下，这些高级玩家需要从头开始，学习如何在面对全新的棋局时做出正确的决策。
对于LLM来说，如果不能解决这个问题，那么其在未来的应用将受到极大的限制。因为在现实世界中，我们并不总是能够预见未来可能出现的问题，而大多数问题是需要我们在实践中不断学习和调整的。
因此，文章呼吁在通用人工智能的设计和开发过程中，应采取根本性的改变，以避免过度依赖人类监督所带来的潜在风险。这包括：
1. 采用更开放的数据集：通过引入更多样化的数据，可以提高LLM的学习能力，使其更好地适应各种各样的问题。
2. 增强算法的可解释性：我们需要设计出更易于理解和解释的算法，以便于用户理解AI的决策过程。
3. 引入人类的干预：尽管LLM是一种自动化的系统，但我们仍然应该在其决策过程中加入一些人类的干预，以防止出现错误。
4. 提高模型的泛化能力：我们需要不断提高LLM的泛化能力，使其能够在没有具体指导的情况下，也能正确地解决各种问题。
总的来说，虽然目前的LLM在处理复杂问题方面表现出色，但在面对未知的任务时，它们可能会出现失误。为了确保人工智能的安全和可靠性，我们需要在设计和开发过程中采取根本性的改变，以避免过度依赖人类监督所带来的潜在风险。