当人权变成人工智能驱动的彩票游戏

像 ChatGPT 这样的人工智能 (AI) 应用程序正在使西方世界观的概率转向正常化：这种转向通过概率思维促进拥抱不确定性，并将统计和复杂建模提升为一种获取知识的方法。例如，随着 ChatGPT 的部署，语言本身正在被重新构建为一个纯粹的概率系统——真理和事实只是参与者的彩票。这解释了为什么 ChatGPT 系统地、自信地将真相与似是而非的虚构、幻觉混合在一起，我们希望将这些幻觉视为不可避免的副作用，一旦我们完全接受概率世界观，这些副作用就会变得不那么不舒服。

这种向概率世界观的转变是一种缓慢的暗流，在过去几十年中一直受到关注，因此，它比主导新闻周期的许多技术思维框架更普遍，但更不明显。这种概率转变建立在自 20 世纪 70 年代以来政府和学术界一直在进行的数量转变的基础上。概率方法已经在评分系统（例如信用或保险评分）中存在了数十年，并且越来越多地影响着日常生活。本质上，这些系统通过将观察到的个人行为投射到个人身上来评估个人未观察到的行为，这些个人具有某些特征，这些特征被程序及其系统设计者认为是相关的，因此被给予相同或相似的待遇。

通过在个人互联网连接设备中部署传感器以及在严密监视的虚拟环境中花费的时间的增加，用于定义这些人工构建的组的边界的特征的选择变得越来越细化和抽象。例如，我们可以想象预测模型创建 X98899T2 分组，该分组将所有曾经访问过某款洗发水网站、在过去六个月内去过机场一次、年龄在 40 到 55 岁之间的人聚集在一起，并拥有一部 iPhone，只要这些看似随机的特征集合经统计显示可以很好地预测其他一些行为，例如购买 X 品牌的香水。传统上对人类生活排序至关重要的类别，例如年龄随着这些抽象的、未标记的、量身定制的细分的目的不再是人类决策，而是计算机决策取代了它们，它们变得不再那么重要。

Markup 最近的一项调查显示，一个包含 650,000 个离散标签的文件被广告商用来对个人进行分类。将该数字放在上下文中，即《牛津英语词典》中定义的 270,000 个单词中的每一个都超过两个标签。结果，诸如我们是否收到房屋或工作广告之类的事情的命运受到一个复杂函数的影响，该函数平衡了数百个以前不可用的变量（通常是看似不相关的数据）。

基于这些以前无法获得的数据点的组合，这些复杂的模型将我们置于一个被认为足够相似的人群中，他们的行为被认为可以预测我们自己的行为，通常会影响我们，就好像我们确实做了他们所做的那样。这个秘密系统正在一般知识、特别是人工智能技术私有化的持续过程中发生。

这种概率性的转变动摇了确定性和因果关系，而确定性和因果关系一直是我们西方世界观的核心，也许自启蒙运动以来，它们就促进了科学方法的采用。因此，概率的转变正在动摇我们人权体系的支柱。特别是，它动摇了人权不可剥夺和普遍的观念。

当我们行使人权的能力是由概率机器来调节时，人权就不可能是不可剥夺的。这正是正在发生的情况，例如，当自动内容审核和内容删除系统限制我们通过社交媒体应用程序表达的内容时。这种做法的正常化导致欧盟立法者将其编码为法律，将言论自由转变为一种概率性权利——考虑到误报的数量，我们行使言论自由的能力就像抽签一样。

反过来，人工智能将注意力从个人转移到群体，从过去行动的机构和责任转向未来对减少概率伤害的关注，从而威胁到普遍性的支柱。以个人为核心构建的通过权利建立的社会组织体系陷入危机，因为置于个人标签下的特征集合的相关性受到质疑，包括个人自治本身的理念。例如，这种概率世界观将通过技术为法官注入信心，让他们相信自己有能力预测未来的行为，从而影响他们的量刑。这不仅是因为未来的前景，还因为个人责任的理念将因系统的正常化而被淡化，而该系统的权威越来越多地从其收集人口层面见解的能力中获得。这是从研究和理解底层个人的能力中建立权威的转变，这是过去几个世纪大多数现代司法系统的特征。

一方面，正如凯瑟琳娜·格迪斯（Kathrina Geddes）所指出的，这种转变可能使我们能够承认一些社会问题的系统性本质。它可以帮助我们将道德判断从个人转移到定义整个社会结构的总体关系上。

另一方面，在这种认知规模上运行的工具的复杂性违背了人类的理解，从而为权力在越来越小且不负责任的精英手中的巩固创造了空间——这些精英保留了解释世界的权利。越来越多的说法似乎被宣传为新的硅神，以及一个迫使我们参与持续抽奖的系统，该抽奖将定义我们在网上看到的内容、为我们提供的工作、我们可以建立的关系以及我们是否可以参与其中。进监狱。

如果有空间改革这些技术背后的价值观，使它们服务于公共利益，那么政府将需要重申其作为社会关系建筑师的民主合法性，并用公共利益目标取代推动技术发展的市场激励措施。现有公司将自己视为唯一有能力将公众从他们自己创建的复杂系统所带来的可怕风险中拯救出来的公司，他们声称这些系统太复杂而无法审计。除非我们表明立场，否则这个过程将重塑我们对身份的理解，并将我们的人权系统外包给秘密彩票。