在日常工作中，我不断尝试着融入人工智能助手的力量，但一个显著的难题阻碍了它们发挥全部潜能：这些智能工具时常会犯下令人瞠目的错误。例如，在一次采访残疾人的过程中，我采用了AI转录平台，然而它生成的摘要却固执地认为访谈主题围绕自闭症展开，这其实是一个典型的人工智能“幻觉”现象，大型语言模型往往虚构和编造大量。
    
    近期，一系列更大规模的人工智能故障引发了广泛关注。谷歌的Gemini模型出现了一起颇具争议的事件，该模型拒绝生成包含白人（特别是白人男性）的图像，反而能够轻易创造出黑人教皇或纳粹女兵的形象。讽刺的是，谷歌正努力使其模型输出减少偏见，并以此作为自身技术优势，却不料因此陷入美国文化战争的风口浪尖。保守派批评家与埃隆·马斯克等人物指责其具有“觉醒”偏见，未能准确反映历史。面对压力，谷歌最终道歉并暂时禁用了这一功能。
    
    与此同时，其他科技巨头也遭遇了类似困境。微软必应聊天机器人建议《纽约时报》记者与妻子离婚，客户服务聊天机器人则频繁为服务公司带来各种麻烦，比如加拿大航空公司不得不根据客服机器人提供的政策向客户退款。越来越多的企业正在经历这种“被坑”的窘境。
    
    尽管科技企业热衷于推出基于人工智能的产品，但大量证据表明我们对这些产品的控制力并不完全，且其行为往往难以预测。根源在于深度学习这一当今AI繁荣背后的基石技术原理尚不清晰，甚至无人能确切解释为何其能够有效运作。
    
    谷歌Gemini和OpenAI的GPT-4等大型语言模型如何能在未经明确训练的情况下习得新技能？这一谜团已由我的同事威尔·道格拉斯·海文深入探讨。他指出，此类模型学会用法语解决数学问题的能力，违背了经典统计学的预测逻辑，后者通常用于解释模型的行为模式。
    【段六】
    当前，人工智能领域最大的误区之一在于，我们常将其无法理解的认知过程误认为是某种魔法般的智能。而“人工智能”这一名称更是加深了人们的误解，让人以为它拥有了类人的智慧。虽然语言模型通过预测下一个单词来生成文本，看起来十分聪明，但实际上，将这类技术称为“智能”容易无形中拔高人们对它的期待，掩盖其真实技术水平。
    
    鉴于人工智能模型的不可预测性、潜在偏见、安全漏洞以及编造事实的趋势，目前它们真正创造的价值极为有限。不过，它们确实能在头脑风暴中发挥作用，偶尔也能制造一些趣事供人们茶余饭后消遣。但在重要决策或涉及个人信息安全的问题上，依赖这些模型实非明智之举。
    
    哈佛大学计算机科学家博阿兹·巴拉克指出，当前人工智能研究尚处于起步阶段，可以类比为20世纪初物理学中的相对论诞生时期。他表示，尽管我们关注于模型如何产生结果，但更需要深入探究它们为何如此行事。在我们彻底揭开人工智能内部机理之前，更多离奇错误和炒作将会层出不穷。
    【简介】
    梅丽莎·海基莱，《麻省理工科技评论》资深记者，专注于报道人工智能及其对我们社会的影响。在此之前，她在POLITICO撰写关于人工智能政策与政治的文章，并曾在《经济学人》工作，还担任过新闻主播职务。本文得到Ren的支持，何晨龙负责运营及排版工作。