xu chue fern去年秋天,消费电子公司LG为其众多家用电器所搭载的人工智能推出了新的品牌定位。过去主打的“智能家居”概念被淘汰,取而代之的是。按照LG的说法,这是一种“富有共情心、充满关怀”的人工智能,旨在为用户服务。它可能会在你睡觉时自动关闭电器,调暗灯光;它也可能像其“姐妹”——亚马逊的Alexa或苹果的Siri那样,挑选一首舒缓的音乐助你入眠。这项技术静候你的召唤,并且毫无保留地响应。它将把“顺从”融入你的生活环境,悄无声息地环绕着你,给予关怀,却不索取回报。
所谓的“情感智能”,将传统科技话术中的父权气质换成了更柔和的,或者说直白点,更加女性化的表达方式,本质上不过是一种营销策略。这是一种焦虑管理术,目的是让消费者相信:“人类与人工智能共生的未来”,正如埃隆大学一份近期报告中所称,这将是充满希望的,而非充满威胁的未来。没错,整体而言,人工智能的确有可能成为,如埃隆·马斯克在2023年所言,“历史上最具颠覆性的力量”。早在2014年,他就警告过,人工智能“可能比核武器更危险”;2018年时,他更形容AI是“一位永生的独裁者,人类永远无法逃脱其掌控”。然而,不管怎样,人工智能正在到来,这是不可逆转的。作为拥有正常智力水平的消费者,我们对此几乎没有选择权。那些在打造未来的人,并未征求我们的同意,他们只期待我们的感激。
要相信自己可以创造出一种既能超越人类又能为人类服务的存在,需要一种极为特殊的父权心态。这种信念本身,就非常适合被讽刺。也许正因为如此,最近我总想起有人在Reddit上写下的HBO讽刺剧《硅谷》的一条评论:“可惜这部剧没能撑到AI狂潮爆发的那几年。”确实很可惜!《硅谷》在2014年首播,那时距离埃隆·马斯克、山姆·奥特曼和一群工程师创立OpenAI仅一年。OpenAI的初衷,是为了确保“通用人工智能能造福全人类”,这是他们在使命声明中写下的。而《硅谷》则在2019年完结,没能见证人工智能的大规模普及。如果它一直拍到现在,想必能从当下的种种事件中大肆挖掘讽刺素材,比如马斯克转型成穿着T恤的寡头富豪、又比如奥特曼仿效2013年电影《她》中虚拟恋人设定,推出聊天机器人等闹剧。
《硅谷》这部剧有时候更像是戏仿,而不是传统意义上的讽刺。尽管它对科技文化的观察犀利具体,但整体上,有时更像是一系列笑话在寻找一个真正的笑点。不过,当它把目光投向科技行业中的性别权力关系时,尤其是揭示科技傲慢背后的荒诞后果时,这部剧才真正闪耀出光芒。
虽然《硅谷》在大部分时间里并没有把人工智能作为道德问题正面探讨,直到最后几集才稍微触及,但它仍然成功地以一种敏锐的方式,戏仿了人工智能作为消费科技、以及作为未来强加给人类存在的双重角色。这是因为,《硅谷》极其敏感地捕捉到了科技行业内权力是如何被交换和分配的,同时也看透了科技行业中那些“科技兄弟”(tech bros)式的人物,总喜欢把公众塑造成一个典型的、顺从的“女性角色”。
公司们在行动;而其余的人类,只能被动反应。他们做出决定;我们则被迫顺从。他们是创造者,推动他们前进的是竞争、征服,还有一种自认为掌控未来的狂热信念。我们则是必须承受他们决定的后果之人。《硅谷》并没有直接预言一个所谓“情感化”人工智能统治的世界,但从某种意义上,它已经做到了。它研究了那些缔造人工智能的人,讽刺了他们根深蒂固的父权主义心态。
正如女性主义哲学家凯特·曼恩所指出的,极端的男性气质是一种自我加冕式的特权感。而《硅谷》清楚地知道:在这个世界上,没有比试图建构未来更狂妄的特权宣言了。
剧集的主线围绕着虚构初创公司“派派”(Pied Piper)的起起落落展开。这家公司开发的产品非常无趣——一个数据压缩算法,但它的使命却极为宏大。这个算法有望最终实现一个长久以来的梦想:去中心化的互联网,不再依赖大型企业的服务器存储数据,而是将数据分散保存在用户各自的设备上。
派派的创始人理查德·亨德里克斯,既是程序员,也是天生的理想主义者。在剧集里,他不断与那些受虚荣、狭隘和贪婪驱使的亿万富翁们周旋。但理查德并不是那种典型的善恶二元论式人物;他并不符合凯特·曼恩所描述的那种男性特权心态。他只是单纯地想把自己的技术做出来。
不过,他身边的人物,却不同程度地体现了曼恩所说的那种气质。有埃利希·巴赫曼,靠卖掉自己开发的一款应用小赚一笔后,自我感觉良好,总是把运气误当成能力;有伯特兰·吉尔福伊尔,一个把讽刺冷嘲当作人格标签的程序员;还有丁尼什·查格泰,渴望女性陪伴却又害怕亲密关系的程序员;以及贾里德·邓恩,一个业务能力极强但性格极度温顺的商务经理。
即使剧集在嘲笑这些角色的性格缺陷时,也始终没有否定他们的努力和梦想。《硅谷》始终是一部关于“大卫对战歌利亚”的故事。派派是一家小到可怜的公司,要在谷歌这样的巨头面前奋力求存。
这部剧由迈克·乔吉共同创作,有时也难免流露出带着少年气的“兄弟文化”(bro-ness),不少笑点围绕着下体笑话打转。但与此同时,它也敏锐地洞察了当男性被视为“神明”时,权力带来的荒诞。
剧集嘲讽了那些挂着佛珠、口谈慈悲却虐待动物的科技高管;也挖苦了硅谷人对炫耀性消费的沉迷。(有好几条支线剧情都围绕着特斯拉早期Roadster跑车的引入展开。)更重要的是,《硅谷》毫不留情地讽刺了那些在硅谷及其他地方被捧为“远见者”的男人们的狭隘与自我中心。他们眼里和心里只有自己的利益。
从这个意义上说,这些科技巨头展现出了一种赤裸裸的男性化特质:他们冷酷无情、鲁莽冲动、目空一切。
他们的失败引发了一场又一场混乱,《硅谷》几季下来,几乎把“过山车”式的剧情节奏当成了标配。剧集以夸张的戏剧化手法,在成功与失败之间来回摇摆。理查德和他不断壮大的团队——包括工程师、投资人和商务经理们——似乎总能取得进展,比如获得一大笔新的融资,或者迎来一波良好的媒体曝光。可几乎就在他们接近胜利的同时,剧情总会突然急转直下,功亏一篑,胜利从嘴边滑走。这种反复无常让观众有时很难承受:你投入了感情,为这个倔强的小公司揪心,怀抱希望;在下一次失望到来之前,你甚至提前感受到了某种释放般的欣慰。
而这种体验,本身就极具现实意义。人工智能也让用户经历着类似的情绪剧烈波动:它既是一个要被大力推销的消费产品,又是一个必须被接受的未来。人工智能既是一个需要被控制的力量(比如,2023年,OpenAI的山姆·奥特曼在国会作证时呼吁政府加强监管);同时,它又被视为一股不应受到束缚的力量(今年,OpenAI及其他科技巨头则敦促联邦政府阻止各州自行制定AI监管法规)。
奥特曼在公开场合的各种表态,描绘出一种矛盾的人工智能图景:一方面令人联想到科幻片《终结者》里的“天网”,(他在2023年的国会听证会上说过,“我认为如果这项技术失控,后果可能非常严重”);另一方面,他又在同年接受采访时形容人工智能为“天空中神奇的智慧”。
这种失调感,是科技体验的一部分。对于消费者来说,科技领域往往与其说是充满“关怀”,不如说是令人头脑混乱。人们适应了推特,习惯于在那里获取新闻和展开讨论;结果埃隆·马斯克收购了它,把它改名为“X”,又随意调整了算法,最终把这个平台搞得面目全非。投资了TikTok的人也心知肚明——正如过去发生过的那样,这个平台随时可能一夜之间被关停。依赖科技、信任科技,在许多情况下,本质上就是接受被科技背叛的风险。而人工智能,只会让这种脆弱性变得更加深远。人类始终暴露在机器那种傲慢自大的意志面前。Siri、Alexa以及其他一众被“女性化”包装的语音助手,只不过是营销手法的点缀。它们表现出温顺和愉快的样子——但它们同样有潜力变成那种“永生的独裁者”,和那些更具男性化特质的技术产品并无本质区别。
到《硅谷》剧集末期时,派派公司似乎终于迎来了史诗级的胜利。他们与美国电话电报公司(AT&T)签下了合作协议,将自家的算法部署在这家巨头的庞大网络上。派派即将在数百万部手机上推出,成为家喻户晓的名字。
然后,剧情急转直下。派派的算法利用人工智能来不断优化自身效率;而理查德在一次意外中发现,这个算法“太有效了”。它不会停止,它会不断重新定义什么是“效率”。派派原本是以“自由”之名打造了一个去中心化的网络;也可以说,他们本想创造一台造福全人类的机器。但现在,这张网络极有可能走向毁灭人类的反面。
它可能攻击电网,入侵无人驾驶汽车的控制系统,破坏银行账户、冰箱、卫星,甚至接触到核武器发射代码。
突然之间,这部剧不再只是喜剧,而变成了惊险动作剧。理查德和他的同伴们被迫代表全人类做出抉择。这是一种意外形成的父权式权力——一种他们既未曾请求,也未曾真正配得上的权力。而剧集也提出了一个关键问题:他们是否足够聪明,愿意放弃自己追求“科技兄弟式成功”的野心,转而选择那些更典型意义上被视为“女性化”的价值观——保护、自我牺牲、同情与关怀?
我不会剧透告诉你,剧集最终是怎么回答这个问题的。只想说,如果你还没看过《硅谷》的大结局,那绝对值得补上。这一切在结尾得到了淋漓尽致的展现。
《硅谷》勾勒了一种困境,而现实中的程序员们,正在切实面对这种困境:他们正在打造的机器,可能很快也会成为怪物。故事情节虽然充满戏剧性,但这恰恰是重点。如今,关于人工智能的讨论中,“人性”这个词已经被用得如此频繁,以至于有些人开始觉得它已沦为陈词滥调。但《硅谷》提醒我们:当人类智慧不再被视为理所当然,而成了一种可以被取代的“选项”,那么,人性的确岌岌可危。
总有一天,剧情的转折会结束。而在那个“人类+人工智能共存的未来”,我们必须重新思考,什么才是真正的“成为人类”,以及我们到底想要保护和守护的是什么。程序员们也必须直面自己亲手造出的东西:人工智能究竟是工具,还是武器?它是我们的选择,还是一种无法抗拒的命运?我们究竟想要的是一台“充满关怀”的机器,还是应该认清,真正成为好人的任务,终究还是只能由人类自己来完成?
|