黄东旭: 向量数据库还是向量搜索+SQL? 我对未来数据库趋势的洞见。

2024-02-18 热点资讯 关注公众号
    【引言】
黄东旭:“向量数据库”还是“向量搜索插件 + SQL 数据库”?丨我对 2024 年数据库发展趋势的思考    在数据库技术飞速发展的2023年,PingCAP的黄东旭先生深度剖析了这场变革,并对即将到来的2024年数据库发展趋势做出了前瞻性的预测。本文聚焦于GenAI时代对数据库产生的深远影响,并提出了两种应对策略:“向量数据库”和“向量搜索插件+SQL数据库”的融合路径。文章着重强调了个性化数据服务的核心地位以及数据库在实时交互与弹性能力方面所扮演的关键角色。
    【2023:数据技术的急速变革】
    2023年,数据库内核技术与云原生架构深度融合,AI+Data浪潮翻涌不息,用户工作负载经历深刻转型。GenAI时代的降临,犹如一股无法抗拒的力量,驱动着整个数据技术领域朝着智能化、灵活化方向汹涌前进。这一年,炫酷的AI Demo竞相上演,但随着我们步入2024年,业界将铭记这个由“AI从Demo走向真实场景落地”的关键转折点。开源大模型成本骤降,企业和开发者对数据的关注度瞬间超越了对模型的关注,预计在2023年投入AI模型预算的80%比例在未来一两年内可能发生逆转,用户将更多地(甚至超过80%)投资于数据处理与分析,这使得数据处理能力的重要性愈发凸显。
    【GenAI挑战与选择】
    面对AI带来的诸多新诉求,数据技术领域正面临多重挑战与机遇。GenAI正在重塑数据技术的全新生态格局。那么,在这一背景下,“向量数据库”与“向量搜索插件+SQL数据库”该如何抉择?如何应对GenAI对数据库扩展性和实时交互提出的严苛要求?海量数据实时查询的成本压力是否巨大?AI催生的自然交互方式又将如何革新开发者体验?本文将逐一深入探讨这些问题。
    【预测一:数据库模式的重构】
    在GenAI应用日益普及的今天,尤其是Chatbot或Agent形态的产品,对数据访问的需求呈现出更为灵活和动态的特点。个人或组织生成的数据价值飙升,尽管数据量并不庞大,但其重要性不可忽视。GenAI直接以高效动态的方式访问数据,发起端则由边缘计算如Agent或GenAI进行。GPTs是一个生动例证,它支持通过自定义Prompt和RESTful API构建个性化的ChatGPT,后台Action被灵活调用且参数难以预知。随着用户身份信息标记机制的引入,UserID将成为数据库核心索引,从而让传统关系型数据库能够适应新的需求。
    尽管出现了众多专门的向量数据库,但在黄东旭看来,更理想的方案是丰富现有的SQL数据库接口,使其标配向量搜索功能,而SQL仍为基石。向量搜索不必独立作为一个数据库来支持,而是作为数据库内置的一项功能。通过在SQL中插入和更新向量数据,结合向量索引的搜索能力,RAG得以实现动态更新与实时查找,从而消除向量数据库可能带来的数据孤岛问题。此外,Serverless产品形态也赋予用户对自身数据的所有权,这一理念在Web2时代几乎无法实现,却与Web3的理想愿景不谋而合。
    【预测二:实时交互与弹性基础】
    随着高价值数据驱动的应用成为GenAI应用主流,数据库的弹性与实时交互能力成为了至关重要的基石。在GenAI时代,知识和数据需要具备实时更新能力,这对数据库扩展性和实时交互性能提出了直接挑战。
    虽然过去十年间业界已经关注并解决了大部分单一在线业务的扩展性问题,但对于具有冷热特征的业务,尤其是在未来更加动态和灵活的2024年及以后,传统的Shared Nothing系统可能不再适用。TiDB从设计之初就尝试打破这种局限,通过存储节点(TiKV)、计算节点(TiDB)和元信息(PD)的分离,以及后续版本中引入的自定义Placement Rule等功能,尽可能降低对等假设的影响,使资源分配更具灵活性。
    而在云端,高效利用计算资源和提供弹性服务成为关键。数据库不仅需要满足强大的数据处理能力,还需要高效的实时数据广播和同步机制,确保决策基于最新、最准确的信息,实现实时交互。这要求数据库能够在毫秒级做出响应,并无缝同步事务处理(OLTP)和分析处理(OLAP),进而成为现代数据库区别于传统数据库的重要标志之一。
    【预测三:成本透明与可观测性】
    在云数据库时代,成本分析成为所有人的关注焦点,它在可观测性中独树一帜,成为评估云消费的新视角。云数据库的可观测性尤为重要,因为它几乎是开发者诊断问题的唯一途径。服务商提供的Dashboard应能清晰展示账单详情,账单的可解释性越好,用户体验便越佳。
    然而,计费测量粒度过细可能会对产品性能和实现成本产生负面影响,因此需找到一个平衡点。无论如何,成本分析作为可观测性产品的一个独立视角,可以帮助用户发现潜在问题并优化成本。例如,当用户发现某数据库实例CPU使用率低但成本高昂时,可考虑调整实例规格以降低成本。
    AWS今年发布的Cost and Usage Dashboard及其CTO Dr. Werner在Reinvent演讲中倡导的“俭约架构”七大法则,为我们提供了在云环境中打造高效、可持续系统的指导框架。
    【预测四:开发者体验为核心】
    随着GenAI时代应用工具变得越来越轻巧便捷,开发者体验已成为现代数据库设计的核心目标之一。优秀的数据库平台不仅仅是美观的Web界面和丰富的功能集合,更重要的是蕴含其中的设计巧思和产品经理的专业素养。
    数据库管理工具作为一种虽非高频但却严肃使用的工具,在AI和云时代,应当遵循一系列与体验紧密相关的设计原则:API优先,保证稳定且前向兼容;采用统一认证体系,打通管控认证与数据库内部认证;构建各具特色的小工具,并通过统一CLI入口和语义系统进行调用。这些原则旨在创造卓越的开发者体验,正如乔布斯所说,“伟大的艺术拓展审美边界,而不是刻意迎合”。
    综上所述,2024年的数据与数据库技术依然处于剧变之中,未来充满不确定性,但创新的步伐从未停止。黄东旭的这些前瞻性预测或许很快会被时间推翻或验证,但只要它们能在当下引发思考与启示,便已足够有价值。

上一篇:提前至 7 月发布,消息称三星 Galaxy Z Fold6 手机更薄、更轻
下一篇:开年王炸?OpenAI视频生成模型Sora隆重登场!|思维品书
更多更酷的内容分享
猜你感兴趣
研究人员开发AI多模态搜索引擎系统,提升向量数据库存储能力

研究人员开发AI多模态搜索引擎系统,提升向量数据库存储能力

深度学习引领新潮流,对媒体、科研、AI等领域产生深远影响;统一音视频多模态模型的重要性凸显;当前已有AI应用井喷发展,“AI-native”成为热门词汇;基于多模态搜索系统的研究创新在计算机视觉领域取得突破。

热点资讯 06.23
「大模型卷」的价格和向量数据库的作用:你的疑问,我的解答

「大模型卷」的价格和向量数据库的作用:你的疑问,我的解答

度等方面的显著提升。 尽管AutoGPT宣布停止使用向量数据库,但大模型+向量数据库的应用仍在持续发展。在企业市场,它们表现出强大的商业价值,并吸引了许多公有云厂商的关注。向量数据库虽然短暂地获得了热度,但其在AI领域的地位并未动摇。从长远看,它们的持久性会越来越高。

热点资讯 05.23
AI驱动下的数据库修炼:双向赋能与挑战并存

AI驱动下的数据库修炼:双向赋能与挑战并存

这篇新闻的主要内容可以总结为: 1. OpenAI收购了数据库初创公司Rockset,这是AI技术在数据库领域的一次重大突破。 2. 数据库技术与人工智能的融合面临着众多挑战,包括海量数据高性能和大并发、大量数据库实例智能优化等。 3. 东方国信、 PingCAP、云和恩墨等企业通过技术创新和生态协同应对挑战,并抓住了这一机遇。 4. 云计算平台借助AI技术优化资源使用和性能评判,这不仅提升了服务效率,还提高了数据安全性。 5. 英特尔与数据库领域的合作伙伴一起推动数据库产业向智能化、高效化转型,满足客户的需求。 整个报道的重点主要在于OpenAI收购Rockset以及业界对此的关注以及SQL、AI、云计算、数据库管理等新技术的应用和发展。

热点资讯 07.01
齐向东:从‘数据三角’视角看数据安全的关键因素

齐向东:从‘数据三角’视角看数据安全的关键因素

全,应加强源头治理,关键在于提高“三员”的管理意识和技能,通过加强数据权限管理和加密保护等方式降低数据泄露风险。同时,需要加强对湾区各类企业和机构的监管力度,及时发现并防止内外部黑客入侵,确保数据安全稳定。此外,还应建立健全相关法规,规范数据交易行为,避免数据滥用带来的潜在危害。

热点资讯 11.22
广州:回应网上的“降速”争议,我们正努力提升网络速度

广州:回应网上的“降速”争议,我们正努力提升网络速度

2021年的数据,他表示:“广州的‘降速’并非无迹可寻。”这是因为在过去的三年里,广州经济增速已经连续两年低于全国平均水平,今年全年也难有改观。对此,北京大学汇丰智库副研究员邹欣也有类似看法。 据他介绍,广州的核心支柱产业之一的汽车产业在去年经历了深度调整,导致产量下降。此外,他还强调,广州目前的经济已基本见底,需要深入思考如何实现自身的经济结构向高质量发展的转型。另一位受访者也提出了类似的担忧,即由于人口、面积体量上的明显差异,以及城市发展阶段的不同,广州与重庆在单一GDP总量方面的可比性不大。 虽然两位受访者都表示广州和重庆经济增速存在下滑的趋势,但他们都认为这种下滑主要是由多种因素引起的,包括房地产和汽车的拖累等。而对于未来是否会出现新的经济增长点,他们都有自己的看法。总的来说,三位受访者对于广州未来经济形势的看法各不相同,但都坚持认为广州还需要寻找新的经济增长点。

热点资讯 11.22
汇顶科技有限公司计划收购云英谷,深度布局AI科技领域

汇顶科技有限公司计划收购云英谷,深度布局AI科技领域

汇顶科技11月22日晚公告并购云英谷,业绩下滑。汇顶科技第三季度营业收入下降,净利润下降。全球半导体行业复苏,触控芯片营收占比增加。云英谷科技在集成电路和芯片设计领域有优势。

热点资讯 11.22
黄金价格走势:高盛看好,谜团重重,你怎么看?

黄金价格走势:高盛看好,谜团重重,你怎么看?

高盛看好黄金价格,预测短期内将继续上涨。然而,市场分析师认为,需要谨慎看待高盛的报告,因为其策略胜率与市场预期存在差距。同时,鉴于美国总统选举的影响和各国央行收储需求的变化,预计金价仍会有一定的上涨空间,但幅度可能会受到抑制。因此,建议投资者在操作时应保持理性,不要盲目跟风。

热点资讯 11.22
引领AI耳机新潮流:499元FIIL GS Links开启智能音乐新时代

引领AI耳机新潮流:499元FIIL GS Links开启智能音乐新时代

今年第三季度全球TWS真无线耳机销量同比增长15.5%,但头部品牌市场份额仅49.9%,竞争激烈。AI耳机具有实用价值,但在部分手机、PC、平板电脑上也有支持。部分厂商望借低价打开AI耳机市场。AI耳机的潜力巨大,但也面临技术挑战。部分厂商尝试引入AI功能,包括会议录音、转写和总结,以及同声传译等。预计到未来,价格会成为AI耳机市场的一大特点。同时,各大厂商也开始在AI体征监测、端侧AI大模型等方面寻求突破。

热点资讯 11.22
半导体制造业关键指标半年内持续增长,表明强劲复苏迹象

半导体制造业关键指标半年内持续增长,表明强劲复苏迹象

2024年第三季度,半导体制造业整体呈现强劲态势,各关键指标实现环比正增长,尤其电子产品的销售额实现反弹,预计四季度将进一步增长。此外,半导体行业资本支出也扭转了下滑趋势,预计四季度将达到27%的增长。尤其是存储领域的投资实现大幅提升,带动了全半导体行业资本支出的增长。据统计,2024年第三季度的晶圆厂装机容量为4140万片300mm晶圆当量,预计第四季度将环比增长1.6%。半导体行业的各类型产能将在四季度分别达到2.2%和0.6%的增长。

热点资讯 11.22
快递包裹与无人机齐飞:无人机快递员逐渐涌入低空经济赛道

快递包裹与无人机齐飞:无人机快递员逐渐涌入低空经济赛道

无人机“快递员”腾空而起,无人机加速高运效率,多地发放无人机发展措施,“双11”期间无人机频发作业,并确保偏远地区物流配送效率。

热点资讯 11.22
齐向东:安全产业步入‘好时代’,奇安信持续引领安全发展新潮流

齐向东:安全产业步入‘好时代’,奇安信持续引领安全发展新潮流

奇安信董事长齐向东表示,当前AI在网络安全中的作用重大,具有双刃剑的特点。AI带来了高度智能化和自动化安全威胁,并可能导致普通用户和企业的被动接受和损失。面对这些挑战,齐向东呼吁各方共同努力,包括供给侧结构性改革、增加安全预算等措施。在未来十年内,互联网大会将聚焦安全主题。同时,齐向东还展示了奇安信最新的安全技术和应用,强调人工智能在安全领域的重要性。

热点资讯 11.22
宏景科技携手深圳X公司:合作打造高效率、高盈利的互联网项目

宏景科技携手深圳X公司:合作打造高效率、高盈利的互联网项目

步肯定。这次宏景科技又签了智算项目服务合同,总额为4.09亿。这是因为近年来宏景科技已经多次与深圳X公司签订了高额的大额合同。这些合同涉及的服务包括硬件设备、组网配套服务以及算力服务等。宏景科技将在接下来的三年内为深圳X公司提供这样的服务。由于这些合同的金额非常高,因此宏景科技将会面临一定的财务压力。同时,频繁与同一家公司签订合同也可能引发客户集中度的问题。这就会影响到公司的财务状况和盈利能力。但是,高泽龙强调,虽然这种方式可以提高公司的收入,但也会增加公司对单一客户的依赖性,从而影响到公司的长期发展。因此,在享受这项服务的同时,也需要警惕可能出现的风险。

热点资讯 11.22
特斯拉CEO与亚马逊前高管再度上演网络大战,内容涉及商业策略、公司经营等多个领域。

特斯拉CEO与亚马逊前高管再度上演网络大战,内容涉及商业策略、公司经营等多个领域。

特斯拉CEO马斯克指出,美国前总统特朗普及其儿子贾斯汀·特朗普可能会对特斯拉和SpaceX造成打击,因为这些公司在社交媒体上经常提到他,并且马斯克是特朗普的亲密盟友。马斯克表示,他不会坐视不管,因此他已经准备了一系列应对措施,包括抗议Facebook的行为,这可能会影响马斯克旗下的公司。

热点资讯 11.22
王宝强方否认因签另一份协议遭到哄骗,恩波格斗俱乐部声明质疑不实报道

王宝强方否认因签另一份协议遭到哄骗,恩波格斗俱乐部声明质疑不实报道

王宝强工作室回应举报:愿意配合警方调查,纠纷方始终未给回报。

热点资讯 11.22