实践中的隐私：人工智能军备竞赛没有赢家

2026年7月1日

隐私

个人隐私权是人工智能战争中最大的受害者之一，数字一揽子方案就是明证。尽管许多欧盟公民不希望将他们的数据用于训练人工智能模型，但一揽子方案建议在“合法利益”的条件下允许使用这些数据。在一项对德国Meta用户的调查中，只有7%的人希望Instagram或Facebook使用他们的数据训练人工智能，而66%的人不希望Instagam或Facebook使用其数据训练AI系统。总则草案如果生效，将是对隐私的严重打击。在合法利益的条件下，企业不需要征求同意，就可以使用用户数据训练人工智能系统。

这是对"合法利益"概念的刻意扩张解释；根据GDPR（正如它今天的存在），控制者的合法利益并不像一揽子方案建议的那样广泛。对此，GDPR明确规定："合法利益的认定需经过审慎评估，包括：在收集个人数据的时间点和背景下，数据主体是否可以合理预期其数据会被用于该目的的处理。"还有一个问题是强制捆绑。许多服务提供商正在为产品添加人工智能功能，而不询问客户是否需要这些功能。LinkedIn就是一个典型案例。LinkedIn默认大多数用户将其数据自动用于训练生成人工智能以改进产品。欧盟的LinkedIn用户没有自动打开此设置，但如果一揽子方案更改生效，这些用户可能不再具有他们在重新定义“合法利益”之前所做的默认保护。

尽管OpenAI首席执行官（CEO）萨姆·奥尔特曼（Sam Altman）宣布企业内部进入"红色警戒"状态，推迟了在ChatGPT中推出广告的计划，但对该平台的担忧仍然存在。一些用户与ChatGPT共享心理健康信息；一些人甚至产生了情感依附。当拥有大量个人敏感数据的类似平台向用户发送广告时，后果将更加难以收场：Meta据称通过广告瞄准抑郁的青少年。考虑到与ChatGPT等LLM的聊天有如此多的个人信息，广告可以针对非常细粒度的人口分布，从而可能会加剧心理健康问题。

AI投资的幻象

从金融角度来看，人工智能竞赛也将失败，因为对家喻户晓的人工智能提供商的大规模投资没有回报。尽管生成性AI工具很受欢迎，但这些产品的制造商不一定能获得巨额利润。事实上，尽管OpenAI进行了大量评估，但预计到2030年也不会盈利。对人工智能泡沫的合理担忧已经显现，特别是在人工智能公司估值过度膨胀的情况下。

有人声称，通用人工智能（AGI），也就是性能可达到乃至超越人类水平的AI系统，已经近在眼前，数年内就可实现。。然而，改进，特别是在LLM方面，是渐进的。GPT-5据称具有博士级专家的专业知识，但它的表现如此糟糕，以至于ChatGPT恢复到较旧的模型。在NeurIPS这一受欢迎的人工智能会议上，一些研究人员表示，实现AGI将需要一种新的开发方法，单靠扩展不会导致AGI.

如果人工智能公司寻求政府（以及潜在的纳税人）支持，这一切都将达到顶点。OpenAI的首席财务官（CFO）表示，它希望美国联邦政府为企业为芯片生产融资而产生的债务提供担保。首席财务官和奥特曼在受到抨击后收回了这些评论。但更多的资金不一定会导致人工智能的突破性创新。事实上，OpenAI联合创始人伊利亚·萨茨克弗（Ilya Sutskever）表示，规模正在开始趋于稳定。此时，规模扩展的回报递减。

一些人工智能投资令人困惑：尽管美国领导层寻求让该国成为人工智能竞赛的领导者，但特朗普政府正在允许向中国出售英伟达的H200芯片。英伟达表示，这些芯片可以促进“生成性AI和大型语言模型的加速……”如果美国愿意以主导人工智能领域的名义限制各国监管人工智能的权利，并牺牲这些国家公民的隐私，那么它为什么还向其顶级竞争对手提供芯片，而这些芯片是人工智能进步的关键推动者？

对人类的影响

此前我写过，有企业大批裁员、引入AI替代，最终因AI表现不达预期被迫重新招人。但除了人们的生计外，许多人工智能的发展也带来了严重的环境风险。

据预测，到2028年，美国数据中心可能会消耗该国高达12%的电力。虽然准确量化人工智能查询的用水量是一项挑战，但一个经常引用的估计是ChatGPT给出的答案，每5-50个提示词需要500毫升的水。这种资源消耗如何支持企业的环境、社会和治理（ESG）目标？

除了环境问题外，人工智能数据中心还可能影响人们的健康。《滚石》（Rolling Stone）一篇透彻的文章探讨了数据中心对美国俄勒冈州一个小镇的影响。他们的报告侧重于水质和镇上令人震惊的癌症和流产率；罪魁祸首可能是水中硝酸盐含量高。虽然这种高浓度的硝酸盐中的一些归因于农业实践，但数据中心发挥了作用：数据中心用于冷却的一些水会蒸发，而硝酸盐不会蒸发，并且会重新进入供水，导致水中硝酸盐的浓度更高。

归根结底，为了什么the AI？

人工智能技术不是新的，我不认为它都是坏的。它有一些潜在的革命性用例：在农业中，人工智能可以帮助农民获得更好的产量和可持续的农场。用于研究的人工智能，特别是基因治疗，似乎很有前途。应继续探索这一潜力。

然而，必须批评许多生成性AI工具的生产者压制个人隐私、盈利目标以及ESG和健康考虑的方式。政府不应该牺牲选民的安全、隐私和福祉，因为一家估值数十亿美元的人工智能公司表示，如果没有这些让步，他们就无法建立自己的技术。也许在不践踏人民权利的情况下无法创新的公司从一开始就没有特别的竞争力或创新能力。

在我看来，人工智能军备竞赛后的人们的生活看起来很黯淡，即使是胜利者。社交媒体帖子、知识产权甚至人脸都成为人工智能机器运行所需的燃料。这些机器和运营它们的大型、强有力的企业必须继续运行（即使人们不喜欢这些机器的输出）：在这些机器上花费了太多的钱，它们的失败可能导致国家经历衰退。那些住在数据中心附近的人可能会避免饮用自来水，或者不得不花高价购买可安全饮用的瓶装水。随着人工智能企业的领导者吹捧他们的产品能够做人类的工作，工作保障可能变得稀缺。

赢得人工智能战争的竞赛将人本身排到了次要位置，似乎人类所做的所有事情（艺术、照片、故事）都只有在他们可以训练人工智能模型以产生类似内容的意义上才有价值，正如一些大型科技公司所言。我知道我写的博客帖子和文章在没有我同意的情况下训练了一些人工智能模型。我并不孤单：任何对公共社交媒体提要发表评论、创建任何未付费内容或发布家庭照片的人都可能将他们的材料用于训练人工智能模型（并且，在没有任何补偿的情况下，帮助这些人工智能供应商获得了过高的估价）。

我认为生成式AI的高昂代价远超其收益——但也许这个判断本身是错的。也许，为了让更多人都有能力生成那些猫咪扮演后厨厨师的AI视频，牺牲隐私权、言论所有权和社区健康，是值得的，对吧？