首页 门户 资讯 详情
  • 评论
  • 收藏

邱县信息网 2023-05-21 450 10

美国 FTC 主席莉娜·可汗:为什么必须监管 AI

竞价托管 http://www.eayouhui.com

综合报道

4minread

美国FTC主席莉娜·可汗:为什么必须监管AI

美漪2023/05/04

摘要

AI发展,可以绕开Web2.0时代的垄断弯路?

作者:LinaKhan

来源:https://www.nytimes.com/2023/05/03/opinion/ai-lina-khan-ftc-technology.html

编译:美漪

编辑:靖宇

编者按:

从调查亚马逊,到单挑Facebook,美国最年轻的FTC主席莉娜·可汗是全球科技监管领域的「铁娘子」。

由ChatGPT带火的最新一波AI浪潮兴起之时,可汗在NYT上写下署名文章,阐明对于巨头正在争抢的AI赛道,FTC必须要加强监管。

以下为莉娜·可汗关于AI监管的全文:

与AI进行仿真的对话,既令人兴奋又令人不安。由于生成式AI的快速发展,我们中的许多人,现在已经体验到了这种潜在的革命性技术,它对世界各地人们的生活、工作和交流方式都产生了巨大的影响。

生成式AI的全部潜力仍有待讨论,但毫无疑问,它将是高度颠覆性的。

上一次,我们发现自己面临由科技带来的广泛的社会变革,还是2000年代中期,Web2.0时代的开始。像Facebook和谷歌这样的新型科技公司,彻底改变了传统的通讯方式,并为快速增长的用户群体,提供了创新的服务。

然而,这些创新服务是以高昂的代价换来的。

我们最初设想的免费服务,最终通过对使用这些服务的人和企业,进行广泛监控,从而完成了商业化。其结果是形成了一种「网络经济(onlineeconomy)」,而在这种经济中,提供越来越多的基本服务的前提是,广泛地囤积和出售用户的个人数据。

这种商业模式促使科技公司想方设法地来追踪用户,甚至不惜违法法律。少数的这几家巨头,使用用了一些激进的策略,像是收购,或封锁有潜在威胁的公司,从而巩固自己的主导地位。

一系列革命性的技术,最后却沦为对一些关键服务的加强,并定型成了以用户的隐私和安全为代价的商业模式。

但是,Web2.0时代的发展轨迹,并不是不可避免的——它是由广泛的政策选择所决定的。

而现如今,我们面临着另一个关键的抉择时刻:AI技术的应用越来越广泛,政府官员有责任确保其发展不会重蹈覆辙。

随着各家公司竞相部署AI,并从中获利,联邦贸易委员会(FTC)正在仔细研究,如何才能最好地实现我们的双重任务,即促进公平竞争,和保护美国人免受不公平或欺骗性行为的影响。

随着AI技术的发展,我们将致力于尽我们的职责,维护美国长久以来的传统——维持开放、公平和竞争的市场。正是这样的市场支撑着突破性的创新,和我们国家的经济成功,绝不能容忍大规模剥削用户的商业模式或做法。

虽然这些工具是新的,但它们仍受现有规则的约束。而且,即使在这个新的市场,联邦贸易委员会(F.T.C.)也会积极地执行我们负责管理的法律。

虽然AI技术正在迅速发展,但一些风险已经显露出来。

首先是,随着AI技术的应用范围不断扩大,现有科技巨头的「主导地位」会得到强化。

这意味着,少数强大的企业,控制着其他公司和初创企业,开发和部署AI工具所必需的原材料,包括云服务(cloudservices)和算力(computingpower),以及大量的数据。

这些占据主导地位的公司,可以通过控制这些关键投入,来打压下游的竞争对手,从而巩固自己的地位。对此,执法者和监管者必须保持高度警惕。

此外,企业用来制定各种价格的AI工具(从洗衣粉到保龄球道预订等),还会助长哄抬价格的合谋行为,以及各种形式的价格歧视。

值得强调的是,执法者的责任是「双重」的。这意味着,我们不仅要防范AI技术带来的危险,还要促进公平竞争,以确保这些技术的市场合法发展。

联邦贸易委员应当充分发挥法律管辖权,来处理快速发展的AI技术带来的问题,包括串通、垄断、兼并、价格歧视和不正当竞争。

其次,生成式AI还有可能助长欺诈行为。

虽然,它可能还没有准备好取代专业作家,但它已经可以比普通的网络骗子,更好地捏造一个看似真实的信息,使骗子们能够快速而廉价地生成内容。

聊天机器人已经被用来生成诈骗性质的钓鱼邮件(spear-phishingemails)、虚假网站和虚假消费者评论。AI机器人甚至被命令使用针对特定群体和社区的词汇或短语。例如,诈骗者可以根据用户的社交媒体帖子,起草高度针对性的钓鱼邮件。除了制作换脸视频(deepfakevideos)和语音克隆的工具外,这些AI技术还可以被用来进行大规模的欺诈和敲诈。

在针对这些AI诈骗行为执法时,我们不仅要打压部署这些AI工具的获得蝇头小利的骗子,还要关注这些工具背后的上游公司。

最后,还值得注意的是,这些AI工具正在接受大量不受检查的数据库的训练。

由于,训练数据可能包括充满错误和偏见的信息,这些AI工具就很有可能使「歧视自动化(automatingdiscrimination)」——不公平地将部分人排除在工作、住房或关键服务之外。这些工具还可以在私人电子邮件、聊天记录和敏感数据上进行训练,最终暴露个人隐私并侵犯用户隐私。

因此,针对AI技术,现有的禁止歧视的法律将继续适用;同时,禁止剥削性收集或使用个人数据的法律也将适用。

二十年前,科技公司的成长史可以作为一个「反面教材」,警示我们应该如何思考生成式AI的扩张。但历史也提供了科技技「造福社会」的经验。

20世纪60年代末,面对反垄断审查,计算机巨头IBM公司,将软件从其硬件系统中分拆出来,促进了美国软件业的崛起,并创造了数万亿美元的增长。这时,政府要求AT&T开放其专利库,同样释放了数十年的创新,刺激了无数初创公司的发展。

美国政府对「促进公平、公开竞争」的「长期承诺」,是使这个国家成为经济强国和创新大国的一个重要部分。

现在,我们再次处于一个关键的决策点。美国能否抵制竞相压价的商业模式和垄断性的资本控制,从而继续成为世界先进技术的「故乡」?

答案是:可以的,如果我们做出正确的政策选择。

头图来源:NYT

FTC莉娜·可汗AI监管科技监管


鲜花

握手

雷人

路过

鸡蛋

分享

邀请

下一篇:暂无上一篇:暂无

最新评论(0)

Archiver|手机版|小黑屋|邱县信息网  

© 2015-2020 Powered by 邱县信息网 X1.0

微信扫描