在人工智能（néng）呈现一番欣欣向荣（róng）的景象之时，这项技术的问题和潜在威胁也正在显现（xiàn）。是时（shí）候认真探讨一（yī）下AI技术的（de）“价值观”问题了。

很多人最近一定注（zhù）意（yì）到（dào），有关AI的负面新闻频（pín）频上头条，而且还带有很强的（de）魔幻色彩。

11月20号，韩国13岁的天才围棋少女金恩持承认（rèn）了她在9月底的一场在线围棋比赛中作弊，使（shǐ）用了AI推荐（jiàn）的棋谱（pǔ），约（yuē）等于断（duàn）送了自己（jǐ）的职业（yè）生涯。11月27日（rì），伊朗核（hé）武器专家法（fǎ）赫（hè）里（lǐ）扎遭到（dào）一挺由AI控制的自动机枪的（de）袭击而身（shēn）亡，这意（yì）味（wèi）着精准（zhǔn）的人脸识别技术作为AI武器已经参与到人间（jiān）的杀（shā）戮当中（zhōng）。

说（shuō）回国内（nèi），前一段时间有人带头（tóu）盔去售（shòu）楼处看房，就是为避免被（bèi）房（fáng）地产商进行（háng）精准的人脸识别而被，当做“熟客（kè）”来（lái）“宰杀”，人脸识别滥用问题已摆（bǎi）在我们面前（qián）。更荒诞（dàn）的（de）是，最近曝出一个房产中（zhōng）介就利（lì）用政府机构的在线服务（wù）的流程流（liú）动，轻而易举地（dì）让售房者在不知（zhī）情的状况下通过（guò）人脸识别系统把房（fáng）子过户（hù）给（gěi）了买家，自己套取了交易款。原本为民提供便利的AI服务成（chéng）了别有用（yòng）心（xīn）者的帮（bāng）凶。

“杀人者人也，非刀（dāo）也”，这是我们为“工具无道（dào）德（dé）价值”做辩（biàn）护（hù）的古老理由，也是人类确证自己（jǐ）具有独（dú）一无二的（de）道德（dé）价值的傲娇（jiāo）说辞。同样（yàng）这一（yī）理由似乎也可以（yǐ）为上面（miàn）这（zhè）些AI的负面案例做解释，可以说这里（lǐ）的AI技（jì）术也（yě）都只（zhī）是人（rén）类应用的工（gōng）具（jù），真正始作俑（yǒng）者的还（hái）是人类。

这样说似乎无可（kě）厚非，正如（rú）一切技术的发明带给（gěi）人类（lèi）巨大福祉的同时也可能（néng）带来（lái）可能的灾祸一样，反之亦然（rán）。比（bǐ）如诺贝（bèi）尔（ěr）发明的（de）炸药（yào）可以开矿搬山也可以投入战场屠戮生灵，核技术可以用（yòng）来制造原子弹毁天灭地（dì）也可以（yǐ）用来做核电站造福大众（zhòng）。理性（xìng）乐（lè）观（guān）派总是相信人（rén）类可以通过技术进步创造（zào）一个美丽新世（shì）界，并克服（fú）技术（shù）产生的种种负面效应（yīng）。

不过，我们需要注意的是，这（zhè）一次（cì）人工（gōng）智能技术革命的（de）不同之（zhī）处在于它将真正重塑（sù）人类。以往的任何（hé）一（yī）场（chǎng）技术革命只是增强了人（rén）类在体力（lì）、脑（nǎo）力等方面的专项能力，但这一次AI将直接（jiē）抵（dǐ）达（dá）人的核（hé）心本质——那个所（suǒ）谓撑起人尊严和（hé）价（jià）值的“自由意志（zhì）”。

大多数人会将（jiāng）这种宏（hóng）大议题当作杞（qǐ）人忧（yōu）天的无稽之谈，因为“狼来了”的故（gù）事人们已经听过多（duō）次。很多（duō）大（dà）人物对于人工智能威胁人类（lèi）地（dì）位的告（gào）诫（jiè），也有种“口嫌体正直”的意味（wèi），无不（bú）在（zài）自己（jǐ）的领域内推动AI技术的进化和使用。

但是（shì）作为人类社会基石（shí）的（de）“自由意（yì）志”本身已经从（cóng）脑神（shén）经科学（xué）和社会学上被严重（chóng）挑战，而（ér）人工（gōng）智能在模拟（nǐ）和指导人类决策的能力又在大幅提（tí）升，这样我们（men）就将接近这（zhè）个人类命运改（gǎi）变的交汇（huì）点：人（rén）的自（zì）由被还原为（wéi）一种可计算的生理机制，AI的计算能力又超过人（rén）类的计算（suàn）能力。

这（zhè）时，我们也就如同温（wēn）水（shuǐ）中的（de）青蛙，只能黯然接受“被煮熟”的命运安排。幸而在AI技术（shù）正在日渐暴露（lù）出（chū）这些（xiē）无伤大雅的问（wèn）题之时（shí），我们仍然要有一种对AI的警惕。

那就是AI拥有“自由意（yì）志”之时，可以做到价值中立吗（ma）？

技术的价值中立难成（chéng）立（lì），AI亦然

在关（guān）于“技术是否价值中立”的探讨中，现实的人们大（dà）多会倾向（xiàng）于“技（jì）术中立（lì）”的观点。

我们通常认为一项技术的（de）道德价值在于使用它的人，比如决定一把刀是用（yòng）来烹饪还是用（yòng）来行凶的关（guān）键是（shì）手握这（zhè）把刀的那（nà）个人的（de）想（xiǎng）法；而一项技术的价（jià）值大小（xiǎo）也不（bú）在于（yú）它自身而在（zài）于使用它的（de）人的（de）用途（tú），比如在电（diàn）影《上帝也（yě）疯狂》里，非洲（zhōu）原始（shǐ）部落（luò）的人们（men）获得了一个（gè）完（wán）整的（de）可（kě）乐（lè）玻璃瓶（píng），这（zhè）个（gè）在现（xiàn）代社（shè）会平（píng）平（píng）无奇的消费品，从一开始（shǐ）被当做无所不能的（de）神（shén）物到后面变成引发族群纷（fēn）争的（de）魔鬼。这个可乐瓶的价值在土著（zhe）人手（shǒu）里就经（jīng）历了天壤之别的（de）变化。

这一假设的好处就是维护了人的尊严，选择什么样的技术用来（lái）做什么样的（de）事情，都是我（wǒ）们自己的选择，最（zuì）终（zhōng）的后果都（dōu）要（yào）由我们来负责。

但实（shí）际上真的如此吗（ma）？

从最初的人类开始掌握生火和放火这一项最初级技术的（de）时候，一个部（bù）落中的女性就能释（shì）放出超出她（tā）体力数（shù）以万倍的能量（liàng），因（yīn）为一把火就能烧出一大（dà）片森林，他们就能收获这片土（tǔ）地（dì）里没有来得及逃跑的生灵的肉类，后面还可（kě）以开垦出一片（piàn）又一片的农田。想想（xiǎng）今天的（de）亚马逊雨林，在全球化的消费贸易网（wǎng）络中，被巴（bā）西农民几（jǐ）乎烧毁殆尽来该种（zhǒng）粮食作物。火本身（shēn）是（shì）无目的的，但是使用火的人是知晓（xiǎo）火的特性和威力，也能（néng）控（kòng）制火的范围和（hé）用途。人（rén）类之火，与天（tiān）然（rán）之火（huǒ）的不同之处在于，火本（běn）身已经（jīng）包（bāo）含（hán）了人类的意志和目的。

可以想见，人类此后发明的任何一（yī）个工具（jù）或（huò）技术都或多或少包（bāo）含（hán）着发明者本（běn）身的目的。一（yī）把锋利的石刀既带（dài）有了切割了功用，也带（dài）有（yǒu）了杀戮的能力，而一（yī）把枪发明出（chū）来，自然就有着更高效地杀戮的功（gōng）效在里面，不管（guǎn）买它的（de）人是用来防身还是用来（lái）害人，都是深知这（zhè）一点的。一项（xiàng）技（jì）术的发明（míng）总是有原（yuán）因的，而（ér）原因背后一定是有目（mù）的（de）方向性的，暗含了其主（zhǔ）观价值。

随着（zhe）人类的技（jì）术工具（jù）越来越复杂和高级，技术的目的性对于（yú）使用者的（de）影响也就（jiù）越大（dà）。而且我们已经越发习惯（guàn）这些技术（shù），就如（rú）同我们须臾离（lí）不开电（diàn）池（chí）和网络一（yī）样，这些技术已经在（zài）潜移（yí）默（mò）化地改变着我们的选（xuǎn）择和判断。当（dāng）我们以为自己的选择是自由选择的时候（hòu），其实大多数都是被工具所训练（liàn）和改变（biàn）了（le）的。

最典（diǎn）型的现代（dài）技术莫过于各（gè）种互联网应（yīng）用和游戏，以短视频最为典型。依托沉浸式展示、无限下滑（huá）换页（yè）和偏好（hǎo）推（tuī）荐算法，短视频成为手机（jī）用户的“杀时间”神器，很多人不知不觉就会在其中花费数十分钟时间。如果稍（shāo）加反（fǎn）省，我们就会发（fā）现这套推（tuī）荐（jiàn）技（jì）术当中所包含的利（lì）用人性弱点和上瘾机制（zhì）来获取（qǔ）用户时间的价值倾向。

虽然我（wǒ）们（men）清楚这（zhè）些公司和他们的聪明无（wú）比的工程师未（wèi）必（bì）有操纵人心（xīn）的恶意，而只（zhī）是有取得（dé）商业成（chéng）功的动机，就会不（bú）断地加入操纵（zòng）人心的技术。而这一次，工程师们有了（le）一（yī）个（gè）最（zuì）好的助手，那就（jiù）是人工（gōng）智能。

AI算法的最初（chū）目（mù）标一定（dìng）是（shì）体现了（le）人类的（de）某一目（mù）的，比如（rú）在对抗（kàng）学习中拿（ná）到最高的（de）分数、在图像识别中得到最高（gāo）的（de）识别率，在（zài）偏好推荐（jiàn）上要（yào）不断满足用户喜好，找到尽（jìn）可（kě）能多（duō）的相似内容。人工智能不仅（jǐn）在某些方面表现不错，而且还有了赶超人类决（jué）策的计算（suàn）能力。

从“不够好”的AI到“被用坏”的AI

AI威胁（xié）论，很多人已（yǐ）经讲了很多次（cì），但我们这（zhè）里并不是再重复这种大众所理解的“AI统（tǒng）治人类（lèi）”“AI取代人类工作”的观（guān）点。因为这种观点（diǎn）也仿佛再说（shuō）AI会成为一个独立于人的新的物种（zhǒng）存在，而（ér）如（rú）今来看，这（zhè）样的AI不知要到猴年马（mǎ）月才实现（xiàn），或者根本无（wú）法实现。

我们（men）这里强调的是，不同于以往任何力学的、化学的、生物的技术，仅仅（jǐn）提高（gāo）人类的局部（bù）性的能力，这（zhè）一（yī）次AI技术这次要替代的是人（rén）的感知、判断和决策能力，是对人的理性行（háng）为的一种“复刻”。

AI技术（shù）的这（zhè）种（zhǒng）“非中（zhōng）立”特性难免（miǎn）会导致以下结果（guǒ）：

一、AI算法在数据训（xùn）练中由于模型设计（jì）和数据样（yàng）本不足等问题会（huì）难（nán）以避免地出现（xiàn）偏见。

比如（rú），2018年的一则报道中，亚马逊的AI招聘系统被指出系（xì）统性地歧视（shì）女性，在发现简历中出现“女性”字样就会（huì）降低应聘者的分数，而且还被发现（xiàn），标注某（mǒu）两所（suǒ）女子大（dà）学的简（jiǎn）历也会在排序上（shàng）被降级。而人工智能的这一权重决策（cè）正（zhèng）是来自于学（xué）习（xí）了亚马逊此前10年的简（jiǎn）历数据（jù）。显（xiǎn）然，这十年中，大部（bù）分被录用的候选人都是男（nán）性（xìng），人类HR在招募技术岗位上的偏好（hǎo）也教会了人工（gōng）智（zhì）能采用（yòng）同样的策略。

而（ér）在更常（cháng）见的人脸（liǎn）识别领域，则出现了明（míng）显的性别和种族歧（qí）视的算法偏见（jiàn）。根据（jù）美国NIST（国家标准及技术研（yán）究院）在2019年12月的一（yī）份报告，在（zài）美国人脸识别系统（tǒng）中，黑人的（de）人脸识别错误率是白种人的100倍，与黄种人相比（bǐ），黑人人脸的识别错误率也是前者的10倍，而在执法机（jī）关的人脸（liǎn）图片库中，识别错误率最高的（de）是美国原住（zhù）民。另外，女（nǚ）性和老人的脸部（bù）也更（gèng）难（nán）以识别。这（zhè）一研（yán）究的数（shù）据（jù）来（lái）源是美国签证申请和过境数据库中的1800万张人脸照片，并测试了（le）189种人脸识别算法，研（yán）究结果代表了绝（jué）大部分商业应（yīng）用算法的结果。

今年上（shàng）映（yìng）的（de）一部《编码偏见（jiàn）》的流媒体影片正揭露了（le）这一（yī）问题，人工（gōng）智（zhì）能正在接管（guǎn）着（zhe）关于人们的信息、安全、机会甚至自（zì）由等权力的（de）时候，如果人们不改正这些算法中（zhōng）存在的偏（piān）见和歧视，那么AI技术会必然（rán）创造（zào）一个更加糟糕的（de）世界，比如被（bèi）错误识（shí）别并逮（dǎi）捕的少数族（zú）裔青年、被算法判断为能力不足的女性员工，被垃圾信息所包围的少年。

当然，这（zhè）还（hái）只是AI技术（shù）不够好的一种表现。很多人觉得我们可以不断调整算法（fǎ），增（zēng）大数据样本就可以解决这些低（dī）级（jí）错误（wù）、算法歧视等问题。假如偏见可以（yǐ）消除（chú）、算（suàn）法可以优化，我们又将迎（yíng）来（lái）一个怎样的（de）局面呢？

二（èr）、AI技术很可能会（huì）由于数据的规模聚集和技术（shù）竞赛的排他性中（zhōng），掌握在少数技术公司和政府手中，帮助拥有技（jì）术（shù）特权的（de）人群和组织获得难以（yǐ）撼（hàn）动的权力和（hé）财富，从而巩固这（zhè）一趋势。

我们不能（néng）说（shuō）AI技术（shù）一定（dìng）会助长极权和垄断（duàn），但是我们正在看到（dào）这样的苗头出（chū）现（xiàn）。

普通大众不仅通过在互联网上的各种操作交出了自己的（de）习（xí）惯偏（piān）好和消（xiāo）费数据，而且现（xiàn）在还在通过可（kě）穿戴设（shè）备等信息来获（huò）取我们的生理指（zhǐ）标（biāo）数据（jù）。如果任何（hé）一个AI算法（fǎ）系统能够同时拥有这两（liǎng）种数据，并且对（duì）其建立起（qǐ）相对应的（de）相关性，那么，这一（yī）系统将真正（zhèng）全（quán）面（miàn）获得操（cāo）纵人（rén）心的（de）能力。

正由于我们人（rén）类（lèi）的任何决策可以（yǐ）转化为各种生理、心理和行为的（de）各种数据，而我们又想通过AI技术来洞悉这一切背后的因果链（liàn）条，那么AI将有极大地可能完成人（rén）类的这一使命，如果往好处走，AI将（jiāng）代替（tì）人类的智力释放出前所（suǒ）未有的（de）生（shēng）产力（lì），如果往（wǎng）坏处（chù）走，AI技（jì）术也将（jiāng）产生无法（fǎ）想象的破坏力。

比如，在核冬（dōng）天的威慑之后（hòu），AI武器（qì）的发展将使得精准杀戮成为可能，虽然在一定意义上可（kě）以避免大规模的热武器冲突，但（dàn）是每（měi）个国（guó）家都（dōu）将在这种（zhǒng）无孔不入（rù）的AI武（wǔ）器或（huò）杀手机器人的威胁下（xià）产生十足的敌意。如果这些（xiē）AI武器（qì）一旦被极端组（zǔ）织掌握（wò），更有可（kě）能成为挑起事（shì）端（duān）的大杀（shā）器。再比如更有可能（néng）的一个趋势（shì）是，AI算法只（zhī）是代（dài）表了少数特权阶层的意志，而（ér）大部（bù）分人沦为供（gòng）AI进化的（de）数据源。

尽（jìn）管来说，AI直接统治人类（lèi）既（jì）无可能，但AI被（bèi）人类用坏（huài），成为塑造（zào）人（rén）类不平（píng）等的（de）帮凶是极（jí）有可（kě）能的。

现在，我（wǒ）们更重要的是，放弃对AI技术客观中立性的幻想（xiǎng），也要警惕（tì）AI算法对于我们决策（cè）的（de）强大操纵力（lì），同时又得致力于推动人工智能的普惠，才是接下来要做的事（shì）情。

对AI的自由意志保留拒（jù）绝的权（quán）利

我们这（zhè）里只是指明了一个问题：人工智能是存（cún）在价值观的（de），其价值观的来源并（bìng）非来自于突然的“自我（wǒ）觉醒”，而是（shì）从人（rén）这里继承（chéng）了相应的价（jià）值观，“复（fù）刻”了人的所（suǒ）谓“自由意志”。

当AI算法不够强大（dà）的时候，其可能继承（chéng）人类的认（rèn）知错误（wù）和（hé）偏（piān）见，但（dàn）当AI算（suàn）法足够强大的时（shí）候，其也并不会变得“客（kè）观中立（lì）”，而是体现（xiàn）了人类工具理性推向极（jí）致的价值观，那（nà）就是更集中的权力、更（gèng）多的财（cái）富、不断自我强化和升级。

这一价（jià）值（zhí）观反作用到普通的人类（lèi）个体身上（shàng），可能（néng）有（yǒu）两个结果，一种是与AI算法协同进化，在智识上甚至（zhì）生理上不断升级自（zì）己，成（chéng）为掌（zhǎng）控AI的发展趋向的超级人类（lèi）；一种是无法理（lǐ）解AI技（jì）术运行逻辑，也没有办法参与（yǔ）自主决策的大众（zhòng），将自己的生活决策交给算法。

因为人的生物学的进化速度实在（zài）难以（yǐ）赶上AI计算（suàn）能力的增长，人类的知识（shí）只能以线（xiàn）性循环的方式一代又一代（dài）传（chuán）授，而AI则（zé）是以指数级方式累计增长，这就决定了大多数人只能交付出（chū）自己的决策机制，而由（yóu）AI来判断我们的各种想法的成功概率。

而在今天，这一问题已以（yǐ）种很隐蔽（bì）的方式呈（chéng）现着。正如很（hěn）多（duō）人（rén）认（rèn）为自（zì）己（jǐ）要听从自己内心的声（shēng）音，但是我们却并不知道这些内心的（de）需求哪些是（shì）我们的“自由意志”想要（yào）的，哪些是被各（gè）种价值体系所塑造的。而（ér）我们知道AI算法已（yǐ）经开始从每一个广（guǎng）告推荐、每一个内容筛选（xuǎn）、每一（yī）次（cì）自拍美颜、每一次你（nǐ）的行为追踪下，就已经开始为你进行需求（qiú）的植入了。

在人工智能狂飙突进（jìn）的（de）这几年当中，我（wǒ）们其（qí）实已（yǐ）经过分站在“AI将造福人类（lèi）”的宏大叙事当中，毕（bì）竟我们对（duì）于这（zhè）一（yī）新型（xíng）技术产（chǎn）业寄予（yǔ）了太多（duō）的希望。但是我们看到现在针（zhēn）对个人（rén）隐私领域上马的AI应用，正在竭尽（jìn）所能地掌握人们的全方位数据，但其实我们并未对这一（yī）趋（qū）势做好准（zhǔn）备。

最近我们也注意到，由（yóu）于一些行业和场景中（zhōng）人（rén）脸识（shí）别技（jì）术被大量滥用，一些地方的相（xiàng）关部门开始（shǐ）推出整治规范，要求拆（chāi）除这（zhè）些AI设备。未来，这场关于人工智能的应用（yòng）边界博弈的拉锯战还将一（yī）直持（chí）续下（xià）去。

但（dàn）未来的长期博弈中，我们（men）哪怕牺牲一点便利性，也要在（zài）让度（dù）自己（jǐ）的选择权（quán），交给人（rén）工智能来处理的时候，保持（chí）足够的冷静，同时对AI有（yǒu）拥有（yǒu）“Say No”的力量。