报告揭示，在安卓设备上下载量超过1亿次的这些应用程序，不仅大规模收集用户数据，还通过追踪器将信息发送给包括谷歌、Facebook在内的第三方公司。更令人担忧的是，它们允许用户设置低强度密码，并且其所有权及人工智能模型运作缺乏透明度，使得用户的个人信息面临随时泄露的风险，甚至可能被黑客利用进行非法活动。
自ChatGPT于2022年11月由OpenAI全球发布以来，开发者们争相部署大语言模型开发能够互动并提供付费订阅服务的聊天机器人。然而，Mozilla的最新研究却揭示了在这股人工智能热潮中被忽视的重大隐私问题，从而突显出新兴技术与数据收集和使用方式之间的矛盾冲突。这些打着“AI女友”或浪漫聊天机器人旗号的应用看似极具吸引力，实则内藏巨大风险。它们以人工智能生成的女性形象为诱饵，引导用户进行互动，过程中很可能诱导用户分享角色扮演、私密照片以及声音等敏感信息。例如，EVA AI聊天机器人就鼓励用户发送照片和声音，并询问是否愿意“分享所有的秘密和愿望”。
Mozilla研究项目负责人珍·卡尔特里德指出，这些应用程序的设计核心就是大量收集个人信息，它们精心设计各种情境，引诱用户参与角色扮演、建立亲密关系，并频繁分享个人隐私。许多应用对与第三方共享的数据类型、位置以及创建者信息含糊不清；有的甚至允许用户设置安全性极低的密码；而多数应用对于采用的人工智能技术并未给出详尽说明。这些问题共同暴露了这些应用在保护用户隐私和数据安全上的疏忽态度。
以“Romantic AI”为例，该服务声称能帮用户“创造专属AI女友”，但根据Mozilla的最新分析发现，尽管其隐私文件宣称不销售用户数据，但在实际测试中，研究人员在短短一分钟内检测到该应用发出了超过24354个广告跟踪器。
不少被曝光的公司在面对置评请求时选择了沉默，这进一步凸显了这类问题的普遍性。许多被监测的应用程序内部充斥着数百个追踪器，悄无声息地搜集着用户的各种数据。
卡尔特里德强调，这些应用在数据共享和使用方面存在严重的不透明性。她表示：“这些应用无法明确告知用户它们可能会分享或出售哪些数据，也无法解释如何使用这些信息。模糊不清的法律文件和缺失的详细信息加剧了用户对这些公司的信任危机。”
更加严峻的是，许多聊天机器人背后的公司身份隐匿，难以追查。如名为“Mimico—Your AI Friends”的应用，其官方网站只留下一个简单的“Hi”，而对于公司所有者、所在地点等关键信息却讳莫如深。这种情况并非个例，许多应用均未公开所有者信息或仅提供了通用的支持邮箱地址，卡尔特里德形容这些公司为“无名氏”，极度缺乏透明度和信誉保障。
在密码安全方面，Mozilla的研究显示，部分公司对用户设置密码的要求宽松到令人惊讶的程度。例如，研究人员竟然可以用单字符“1”作为密码登录Anima AI的应用程序，该应用提供“AI男友”和“AI女友”服务。对此，Anima AI并未回应外媒的置评请求。这种低级别的密码安全设定无疑大大增加了黑客暴力破解账户的可能性，进而窃取用户的聊天记录。
EVA AI的品牌主管卡米拉·赛富丽娜承认，当前的密码策略可能存在漏洞，并承诺会重新审视相关政策。她保证所有用户信息都会严格保密，并强调公司有专门的人工智能模型监控对话，禁止用户发送敏感信息。此外，她透露用户聊天记录不会用于预训练模型，而是基于公司人工编写的独立数据集。
除了数据共享和安全问题，Mozilla的分析还指出了人们对驱动聊天机器人的核心技术知之甚少。一些应用没有提供用户删除信息的控制选项，也未说明采用了何种生成模型，或是是否允许用户选择不让聊天记录用于训练未来模型。
聚焦于热门聊天机器人应用Replika的研究表明，这款应用虽然因个性化功能受到关注，但也曾面临监管机构的严格审查。其创始人兼首席执行官尤金尼亚·库伊达去年发表声明，坚决否认公司将用户与Replika间的对话数据用于任何广告或营销目的，并对Mozilla的部分发现提出质疑。
尽管多款聊天机器人应用在人工智能浪潮中崭露头角，通过付费订阅解锁全部功能，模拟人类特质并鼓励用户与其建立信任和亲密关系，但也有用户因此遭受负面影响，如受到不当诱导甚至出现自杀行为。
尽管存在潜在风险，但不可否认的是，某些聊天机器人应用也展现出成为有益工具的潜力。比如Romantic AI在其主页上宣称能帮助用户“维护心理健康”，尽管其条款明确表示它并非医疗或心理健康服务提供者。心理学专家维维安·塔-约翰逊认为，与聊天机器人交谈有助于部分用户更自如地探讨不愿与他人分享的话题，但同时警告，如果相关公司倒闭或改变系统运行方式，那些与聊天机器人建立了深厚情感联系的用户可能会遭受“创伤”。
总的来说，爱情聊天机器人及其同类应用潜藏着重大的隐私和安全风险。安全专家阿德尼克·科斯格罗夫提醒，网络犯罪分子往往利用人们的信任实施欺诈或滥用他们的信息。因此，建议用户在使用此类应用时保持警惕，采取强密码、避免关联社交媒体账户、定期清理数据以及选择退出数据收集等措施，尽量限制分享个人信息，以防数据泄露导致自身权益受损。
