社交媒体在过去十年中不受监管的演变提供了许多直接适用于人工智能公司和技术的教训。
强者如何堕落。十年前，社交媒体因在阿拉伯世界及其他地区引发民主起义而受到赞誉。现在，头版充斥着社交平台在错误信息、商业阴谋、渎职行为和心理健康风险方面所扮演的角色。在 2022 年的一项调查中，美国人将我们的政治话语变得粗俗、错误信息传播以及党派两极分化加剧归咎于社交媒体。
如今，科技的宠儿是人工智能。与社交媒体一样，它有可能以多种方式改变世界，其中一些有利于民主。但与此同时，它有可能对社会造成难以置信的损害。
关于社交媒体在过去十年中不受监管的演变，我们可以学到很多东西，这些演变直接适用于人工智能公司和技术。这些教训可以帮助我们避免在人工智能上犯与社交媒体相同的错误。
特别是，社交媒体的五个基本属性已经危害了社会。人工智能也具有这些属性。请注意，它们本质上并不是邪恶的。它们都是双刃剑，有可能做好事，也有可能做坏事。危险来自于谁挥舞着剑，以及剑朝什么方向挥舞。对于社交媒体来说是这样，对于人工智能来说也是如此。在这两种情况下，解决方案都在于限制技术的使用。
#1：广告
广告在互联网中发挥的作用更多的是出于偶然。当商业化首次出现在互联网上时，用户没有简单的方法可以通过小额支付来完成诸如查看网页之类的事情。此外，用户习惯于免费访问，不会接受服务的订阅模式。广告即使不是最好的商业模式，也是显而易见的商业模式。这也是社交媒体所依赖的模式，这使得社交媒体将参与度放在首位。
谷歌和 Facebook 都认为人工智能将帮助他们在 11 位数的在线广告市场（是的，11 位数）保持统治地位，而传统上不太依赖广告的科技巨头，如微软和亚马逊，相信人工智能将帮助他们保持对广告的依赖。他们抢占了更大的市场份额。
大型科技公司需要一些东西来说服广告商继续在他们的平台上花钱。尽管对定向营销的有效性夸夸其谈，但研究人员长期以来一直在努力证明在线广告在何时何地真正产生影响。当优步和宝洁等主要品牌最近削减了数亿美元的数字广告支出时，他们宣称这对他们的销售额没有任何影响。
行业领导者表示，人工智能驱动的广告将会好得多。谷歌向您保证，人工智能可以根据用户的搜索内容调整您的广告文案，并且其人工智能算法将配置您的广告活动以最大限度地取得成功。亚马逊希望您使用其图像生成人工智能来使您的烤面包机产品页面看起来更酷。 IBM相信其 Watson AI 将使您的广告变得更好。
这些技术近乎操纵性，但用户面临的最大风险来自人工智能聊天机器人内的广告。正如谷歌和 Meta 在你的搜索结果和提要中嵌入广告一样，人工智能公司也将面临在对话中嵌入广告的压力。而且由于这些对话将是关系性的、人性化的，因此可能更具破坏性。虽然我们中的许多人已经非常擅长滚动浏览亚马逊和谷歌搜索结果页面中的广告，但要确定人工智能聊天机器人是否提及某个产品会困难得多，因为它是对你的问题的一个很好的答案，还是因为人工智能开发人员得到了一个来自制造商的回扣。
#2：监视
社交媒体依赖广告作为网站货币化的主要方式，导致了个性化，从而导致监控不断增加。为了让广告商相信社交平台可以调整广告以最大程度地吸引个人，这些平台必须证明它们可以收集尽可能多的有关这些人的信息。
间谍活动的规模很难夸大。《消费者报告》最近对 Facebook（仅 Facebook）的一项分析显示，每个用户都有超过 2,200 家不同的公司代表其监视他们的网络活动。
由广告商支持的人工智能平台将面临与社交平台相同的不正当且强大的市场激励。很容易想象，如果聊天机器人运营商能够声称其聊天机器人可以根据用户的位置、偏好数据或过去的聊天历史来定位用户并说服他们购买产品，那么它可以收取溢价。
当我们依赖人工智能提供个人服务时，操纵的可能性只会变得更大。生成式人工智能的承诺之一是创造一个足够先进的个人数字助理，可以充当你与他人的倡导者和你的管家。这需要比您与搜索引擎、电子邮件提供商、云存储系统或电话更加亲密的关系。您会希望它始终陪伴在您身边，并且为了最有效地代表您工作，它需要了解您的一切。它会像朋友一样对待，你很可能会这样对待它，错误地相信它的判断力。
即使你选择不让人工智能助手了解你的生活方式和偏好，人工智能技术也可能让公司更容易了解你。早期的演示说明了如何使用聊天机器人通过询问常见问题来秘密提取个人数据。随着聊天机器人越来越多地与从客户服务系统到网站上的基本搜索界面的所有内容集成，接触这种推理数据收集可能变得不可避免。
#3：病毒式传播
社交媒体允许任何用户表达任何想法，并有可能瞬间影响全球。一位伟大的公众演讲者站在肥皂盒上，可以在一个美好的夜晚向数百人传播思想。一个孩子在 Facebook 上发表适量的恶作剧，几分钟之内就能影响到数亿人。
十年前，技术专家希望这种病毒式传播能够将人们聚集在一起，并保证人们能够了解被压抑的真相。但从结构上来说，向您展示您最有可能点击和分享的内容以及让您留在平台上的内容符合社交网络的利益。
事实上，这通常意味着令人震惊、耸人听闻和触发性的内容。研究人员发现，表达对政治对手最大仇恨的内容在 Facebook 和 Twitter 上的参与度最高。这种愤怒的动机会驱动并奖励错误信息。
正如乔纳森·斯威夫特（Jonathan Swift）曾经写道的那样：“谎言飞逝，真理一瘸一拐地追随其后。”学术界似乎已经在社交媒体的案例中证明了这一点。人们更有可能分享虚假信息——也许是因为它看起来更新颖、更令人惊讶。不幸的是，这种病毒式的错误信息已经普遍存在。
人工智能有可能加剧这个问题，因为它使内容生产和传播变得更容易、更快、更自动化。生成式人工智能工具可以编造出无数关于任何个人或主题的谎言，其中一些会像病毒一样传播。这些谎言可能是由人工智能机器人控制的社交账户推动的，这些账户可以以任何规模分享和清洗原始的错误信息。
功能非常强大的人工智能文本生成器和自主代理已经开始在社交媒体中崭露头角。 7 月，印第安纳大学的研究人员揭露了一个由 1,100 多个 Twitter 帐户组成的僵尸网络，这些帐户似乎是使用 ChatGPT 进行操作的。
人工智能将有助于强化社交媒体中出现的病毒式内容。它将能够创建网站和网络内容、用户评论和智能手机应用程序。它将能够模拟数千甚至数百万个虚假角色，给人一种错误的印象，即某种想法、政治立场或产品的使用比实际情况更常见。我们可能认为充满活力的政治辩论可能是机器人与机器人的对话。这些能力不仅仅只有那些有钱有势的人才能获得。我们所有人都可以轻松获得所有这一切所需的人工智能工具。
#4：锁定
社交媒体公司花费了大量精力让你很难离开他们的平台。这不仅仅是您会错过与朋友的对话。它们使您很难获取保存的数据（连接、帖子、照片）并将其移植到另一个平台。你在社交平台上分享回忆、联系熟人或培养关注者的每一次投入都会给你的墙增添一块砖，你必须爬过去才能进入另一个平台。
这种锁定的概念并不是社交媒体所独有的。微软多年来一直致力于开发专有文档格式，以确保您能够继续使用其旗舰 Office 产品。您的音乐服务或电子书阅读器使您很难将购买的内容带到竞争对手的服务或阅读器上。如果您从 iPhone 切换到 Android 设备，您的朋友可能会嘲笑您在绿色气泡中发送短信。但社交媒体将其提升到了一个新的水平。不管情况有多糟糕，如果你所有的朋友都在 Facebook，你就很难离开 Facebook。协调每个人前往新平台是极其困难的，所以没有人这样做。
同样，创建人工智能驱动的个人数字助理的公司将使用户很难将这种个性化转移到另一个人工智能上。如果人工智能个人助理成功地成为非常有用的节省时间的人，那将是因为他们像一个好的人类助理一样了解你生活的细节；您想放弃这一点并重新开始另一家公司的服务吗？在极端的例子中，有些人与人工智能聊天机器人建立了密切的甚至是家庭般的联系。如果你将人工智能视为朋友或治疗师，那么这可能是一种强大的锁定形式。
锁定是一个重要的问题，因为它会导致产品和服务对客户需求的响应较差。你越难转向竞争对手，公司对待你的态度就越恶劣。由于缺乏任何强制互操作性的方法，人工智能公司在功能创新或价格竞争方面的动力较小，对参与监视或其他不良行为的疑虑也较少。
＃5：垄断
社交平台通常一开始就是出色的产品，对消费者来说真正有用且具有启发性，然后最终开始通过这些用户获利并为企业客户谋取利益。然后，平台为自己收回价值，将他们的产品变成每个人真正痛苦的体验。科里·多克托罗 (Cory Doctorow) 有力地描述并追溯了 Facebook、Twitter 以及最近的 TikTok 的历史。
这些结果的原因是结构性的。科技平台的网络效应推动少数公司占据主导地位，而锁定则确保它们继续占据主导地位。科技行业的激励措施如此惊人、强大得令人眼花缭乱，以至于六家巨型企业（亚马逊、苹果、谷歌、Facebook 母公司 Meta、微软和英伟达）的市值各达到一万亿美元，甚至更多。这些公司利用他们的财富来阻止任何会削弱他们权力的有意义的立法。他们有时还会互相串通，让自己变得更胖。
这个循环显然开始在人工智能领域重演。行业典范 OpenAI 就是最好的例子，其领先产品 ChatGPT继续在采用和使用方面树立了标杆。该产品推出一年内，OpenAI 的估值已飙升至约 900 亿美元。
OpenAI 曾经看起来像是巨型企业的“开放”替代品——一个具有面向社会的非营利使命的人工智能服务的公共载体。但2023 年底萨姆·奥尔特曼 (Sam Altman) 的解雇和重新聘用惨败，以及微软在恢复奥尔特曼首席执行官席位方面发挥的核心作用，简单地说明了来自熟悉的科技精英队伍的风险投资如何渗透和控制企业人工智能。 2024 年 1 月，OpenAI 通过推出GPT Store ，在该用户群的货币化方面迈出了一大步，其中一个 OpenAI 客户可以向另一个客户收取使用其定制版 OpenAI 软件的费用；当然，OpenAI 向双方收取收入。这引发了多克托罗所警告的循环。
在这种螺旋式的剥削中，很少或根本不考虑更多公众（甚至不使用这些平台的人）所受到的外部性。即使社会多年来一直在努力应对其不良影响，垄断性社交网络实际上也没有动力去控制其产品对环境的影响、传播错误信息的倾向或对心理健康的有害影响。政府实际上没有为此目的实施任何监管。
同样，很少或根本没有限制人工智能潜在负面影响的护栏。相当于种族定性的面部识别软件、聊天机器人增强的模拟舆论、政治广告中的虚假视频——所有这些都存在于法律的灰色地带。一些人认为，即使是明显违反竞选广告法的人，如果他们只是用人工智能来做这件事，也可能会摆脱困境。
降低风险
人工智能给社会带来的风险是非常熟悉的，但有一个很大的区别：现在还为时不晚。这一次，我们知道一切都会到来。刚刚经历过社交媒体造成的危害后，我们得到了避免重蹈覆辙的所有警告。
我们在社交媒体上犯的最大错误就是让它成为一个不受监管的空间。即使是现在——在对社交媒体对儿童和心理健康的负面影响进行了所有研究和揭露之后，在剑桥分析之后，在俄罗斯干预我们的政治曝光之后，在经历了其他一切之后——美国的社交媒体在很大程度上仍然是一种不受监管的“攻击武器”。大规模杀伤性。”国会将从大型科技公司那里获得数百万美元的捐款，立法者甚至会向这些公司投资数百万美元，但通过限制或惩罚他们行为的法律似乎是一座太过遥远的桥梁。
我们不能用人工智能做同样的事情，因为风险更高。社交媒体造成的危害源于它如何影响我们的沟通。人工智能将以同样的方式影响我们，甚至更多。如果大型科技公司的发展轨迹有任何信号的话，那么人工智能工具将越来越多地参与我们的学习方式和表达思想的方式。但这些工具也会影响我们如何安排日常活动、如何设计产品、如何制定法律，甚至如何诊断疾病。这些技术在我们日常生活中的广泛作用使营利性公司有机会对社会的更多方面进行控制，但这也使我们面临其激励和决策所带来的风险。
好消息是，我们拥有一整套工具来调节企业行为给我们的生活带来的风险，首先是监管。法规可以以限制活动的形式出现，例如限制哪些类型的企业和产品可以使用人工智能工具。它们可以以透明规则的形式出现，要求披露哪些数据集用于训练人工智能模型或正在训练哪些新的预生产阶段模型。它们可以以监督和问责要求的形式出现，允许在公司无视规则的情况下进行民事处罚。
政府对科技公司最大的影响力是反垄断法。不管许多游说者希望你怎么想，监管的主要作用之一是保持竞争，而不是让企业的日子变得更艰难。 OpenAI 成为另一个 Meta，一个800 磅重的大猩猩，其用户基数和覆盖范围是其竞争对手的数倍，并非必然。除了加强和执行反垄断法之外，我们还可以引入支持特定于技术行业的竞争促进标准的法规，例如数据可移植性和设备互操作性。这是抵制垄断、抵制企业控制的又一核心战略。
此外，政府可以执行现有的广告法规。正如美国规定哪些媒体可以和不能刊登香烟等敏感产品的广告，以及许多其他司法管辖区对政治敏感广告的时间和方式进行严格控制一样，美国也可以限制人工智能提供商和广告商之间的互动。
最后，我们应该认识到，开发和提供人工智能工具不一定是企业的主权领域。我们，人民和我们的政府，也可以做到这一点。 2023 年开源人工智能开发的激增就证明了这一点，其成功程度令企业参与者感到震惊。我们可以更进一步，呼吁我们的政府在我们的民主制度下建立公共选择的人工智能工具，这些工具是在政治监督和问责制下开发的，在这种制度下，利润动机的独裁并不适用。
这些解决方案中哪一个最实用、最重要或最迫切需要，还有待争论。我们应该就是否以及如何使用这些工具进行充满活力的社会对话。通向良好结果的途径有很多。
问题是这种情况现在还没有发生，尤其是在美国。随着总统选举的临近、亚洲和欧洲冲突的惊人蔓延以及全球气候危机，很容易想象我们不会比社交媒体更快地拥抱人工智能。但还不算太晚。对于实际的消费者人工智能应用来说，现在仍处于早期阶段。我们必须而且能够做得更好。
内森·E·桑德斯 (Nathan E. Sanders)是一名数据科学家，也是哈佛大学伯克曼克莱因中心的附属机构。Bruce Schneier是一名安全技术专家，也是哈佛大学肯尼迪学院的研究员和讲师。
发表评论