住在智能手机里的AI：一边帮助人类，一边消灭人类
【AI星球（微信ID：ai_xingqiu）】1月9日报道 （编译：堆堆）
本周，分析师Gartner列出了智能手机上人工智能技术支持的、“具有重大影响”的十大功能。据称，这些功能可以让设备供应商为顾客提供“更高级”的用户使用体验，从而带来“更多价值”。他还预测到2022年，80%上线的的智能手机都会配备设备内置人工智能功能。2017年，这一数据仅为10%。
更多的设备内置人工智能可以提供更好的数据保护、改善电池性能，这是源于数据会在本地进行处理和储存。至少，这是文章中最重要的一点发现。显然，整篇文章列出的几点都是在吸引大家去使用人工智能。但是为了更加公正得对自动化用户体验问题进行叙述，我们在每一条后面都给出了一些其他思考——智能手机用户需要了解所谓的“人工智能”交换的价值本质以及一些潜在弊端。
设备内置人工智能的使用和滥用
1）设备上“数字版的我”
“智能手机将成为用户的延续，它能够识别用户并且预测他们的下一步行动。它们会了解你是谁、你想要什么、你何时需要、以何种方式完成并且按照你的指示执行任务。”
“你的智能手机会在全天时间内追踪你的行动，从而学习、计划并为你解决问题。” Gartner的首席研究分析师Angie Wang说道，“它会利用传感器、摄像机和数据来自动完成这些任务。举个例子，在互联家庭平台上，它可以在家里没人时安排吸尘器机器人打扫卫生或是在你到家前的20分钟就打开电饭煲。”
这就诞生了“追踪即服务”。这个“数字版的我”是否会轻声说道——它是我的“头号粉丝”呢？它监视着我的每一步行动，从而制造出一个数字版的替身来讲、将我的自由意志限制它的算法黑盒子里……
或者它只是会特别烦得试图预测我在当下究竟想要什么？你知道的，我是一个人，而不是一串数字。
当人工智能的选择不符合我的喜好并且还是更加糟糕的选择的话，那我应该怪谁呢？比如说人工智能在孩子们去上学的时候，安排吸尘器机器人去清理孩子们的蚂蚁庄园（一种玩具）……那么AI能够向孩子们解释他们的宠物死亡的原因吗？或者是如果人工智能打开了我空置的电饭锅（在我忘记加水之后）——那么最好的情况是它只是浪费了一些能源，而最糟糕的情况可能是我的家被烧毁。
我们获悉，现在的人工智能助手会非常了解我们并且善于帮助我们在短时间内解决问题。但是除了完成一些非常简单的事情，比如说播放几首音乐、找到类似的音乐，抑或是一些像从互联网订购主食这样基础的事情之外，人工智能到目前为止比用人的角色还要傻。
2） 用户认证
“密码式的简单认证已经变得愈加复杂和低效，这就导致安全性减少、用户体验变差，所有权成本也非常高。安全技术配合机器学习、生物识别以及用户行为，这将改善可用性以及自助性能。举个例子，智能手机可以捕捉并且学习用户的行为，例如说无需输入密码或是激活身份认证，智能手机就可以获悉用户走路、滑屏、按压屏幕的力度、滚屏和打字的模式。
这更像是追踪即服务。除非你完全牺牲掉隐私，否则就没有真正的安全而言，是这样吗？但如果我感到恐慌并且表现得和正常时候不一样，那么我是否就无法登录设备了呢——举个例子，在我离开家的时候人工智能打开了电饭煲，而我回家的时候发现厨房冒烟了。如果设备此时正好在我手中，那么我是不是不能保证设备处于加锁状态呢——即便我也许真的希望在任何时候它都能处于加锁状态，因为设备是自己的，而实际情况也并不是总能预料的。
如果我想要让家人也可以使用我的移动设备呢？他们是否还需要脱光光站在能看穿一切的数字之眼面前，仅仅是为了获得认证许可呢？或者说这个AI加强版的多重生物识别系统最终会使得亲人之间难以共享设备呢？现在已经出现了这种情况。苹果的iPhone X已经从指纹生物识别系统（允许录入多个指纹）转变成为了面部识别系统（不支持多个面孔录入）。我们是否要将“向所有设备每晚依次说再见”归结为“进步代价”的另一个台阶呢？
3） 情绪识别
“情绪感知系统以及情感计算能让智能手机探测、分析、处理人们的情绪状态和心情并且做出回应。虚拟个人助手的普及以及其他基于人工智能技术的对话式系统为了能更好地处理语境并且改进服务体验，它们开始添加情绪智能。比如说汽车制造商可以利用智能手机的前置镜头来了解司机的身体情况或计算疲惫程度，从而增进安全性。”
广告商如果获得这些超敏感的情绪数据，它们会做出什么举动呢？倘若不考虑这一点，那么开诚布公探讨情绪感知系统也就无从谈起了。关于这个问题，Facebook清楚地向我们展现了潜在风险——去年，泄露的内部文件表明这位社交媒体巨头通过处理使用数据能发现青少年的不安全感情绪，它将这一能力用在广告销售中作为卖点。因此，尽管感知情绪语境也许表明智能手机用户会接受并承认部分实用价值，但这会被别人轻易利用和侵扰——比如说青少年的智能手机可以准确知道在何时要向青少年投放广告，因为此时他们正情绪低迷。
如果设备内人工智能能够在真正意义上承诺本地化处理的情绪感知系统不会泄露任何情绪数据，那么我们就不必过多担心了。但是将情绪追踪嵌入在智能手机用户界面上以使其规范化，这无疑会进一步推动类似的“增强”服务——之后，这将由单个应用的开发者（他们对待隐私和安全的态度）来决定你的情绪会被如何使用。
至于汽车，我们是否曾被告知人工智能的发展将使得汽车运行不再需要人类司机了？为什么我们还需要AI监察器来监管我们在室内的情绪状态呢（那时候，汽车内大家只会打打瞌睡或是休闲娱乐，就像是在飞机上一样）。关于情绪感知系统，有一个面向消费者的安全论点似乎无法令人信服。然而，政府机构还有企业无疑会对动态获取用户情绪数据这件事非常感兴趣。理由可能是各式各样的。
4） 自然语言理解
“智能手机上的连续训练和深度学习将改善声音识别的准确性，与此同时可以更好地理解用户的特定意图。举个例子，当用户说‘天气很冷’的时候，依据其语境，他或她的真实意图可能是‘请网购一件夹克’或‘请打开暖气’。当你出国时，自然语言的理解可被当做是智能手机上的一个近距离实时声音翻译器。”
当然，我们可以幻想着拥有自己的巴别鱼（小说里的一种生物，它以声音中的语言概念为食，消化后排出跟寄主同调的脑波，只要塞到耳朵里去，就可以听懂各种语言）。但如果人工智能助手可以在主人随口表示“天气很冷”时就可以自动为其购买一件完美的夹克，这将是非常惊人的。
我的意思是，没人会介意突然多出来一个礼物。但是显然，人工智能已经与你的信用卡密不可分了。这就意味着你将不得不为此买单、不得不穿上通过Amazon Prime订购的大红色哥伦比亚带帽防水羽绒服。在数小时观察气候情况之后，AI通过算法确定这件衣服足以抵御严寒，与此同时它还会挖掘你之前购买外衣的数据来不断缩小款式选择的范围。即便如此你也不喜欢衣服的款式？那可就没办法了。
向消费者推广这种AI支持的完美个人助手，这一营销“美梦”充斥着大量的可疑之处，主要是对于这项技术实际实用性的质疑——除非你是那种每年都会重新订购相同品牌夹克、觉得自行在网上挑选新外套很不方便且不愿意自己点击购买按钮的人。或者是那些觉得相比“直接让互联机器人助手打开暖气”，“让一个机器人助手每天24小时时间监视你的行为，当它偶然听到你在讨论天气冷时——即便你只是在谈论天气，而不是想要让房间变得暖和一些——它会自动选择打开暖气”更能提升生活品质的人。当你的人工智能就在身边（任何地方、任何时间），你也许不得不开始注意自己大声说话的内容。
人类自己就很难理解彼此了。还想着期待机器会比我们做得更好？这似乎是不切实际的想法——除非你认为这些约束数据、有缺陷的系统的制造商会希望减少行为选择来让用户生活变得更加可预测，进而重新配置，弥补AI的局限以及理解缺陷。将其当做是人工智能进化版的生活，更普通，但却不再那么精彩。
5） 增强现实和人工智能愿景
“随着iOS11的推出，苹果采用了一个ARKit功能，它为开发者们提供了新工具，从而使得为应用添加增强现实技术变得更加容易。与之类似，谷歌也针对安卓系统推出了ARCore增强现实开发者工具，到明年年底，该工具可以在1亿台安卓设备上实现增强现实。谷歌预计明年推出的每一台新安卓手机都能支持增强现实技术（AR）。AR技术将被置于应用中，从而帮助收集用户数据，诊断皮肤癌、胰腺癌等疾病。”
相比上述提到的诊断癌症用例，大多数的增强现实应用都不可避免会显得没太大意义。但是，没人会忽视“可能可以防止重大疾病”的标牌。这样一来，出于医疗诊断目的获取个人数据的系统就进一步加大了大家对于智能手机制造商将如何储存、管理以及维护好机密健康数据的疑惑。苹果一直活跃在健康数据前线——但是它和谷歌不同，苹果的商业模式并非是靠用户信息来出售目标用户投放广告位，因此平台上存在竞争型商业利益。
而事实上，不管设备内人工智能如何发展，用户的健康数据都不可避免地会因为第三方诊断应用要进行处理，进而离开本地设备（第三方应用会想通过这些数据来帮助改善自己的人工智能模型）——这样数据保护的考量也会相应增加。与此同时，能够突然诊断重大疾病的高效AI应用可以带来更大范围的问题，主要是关系到应用在认为用户患有重大健康问题之后会如何谨慎周到且负责任得告知用户。当会诊医师是一位机器人时，“不要伤害患者”的要求开始变得非常复杂了。
6） 设备管理
“机器学习将改善设备性能和待机时间。举个例子，凭借多个传感器，智能手机可以更好地理解并且学习用户的行为，比如说何时使用哪一个应用。智能手机为了确保快速启动应用，它会在后台保证常用的应用一直处于运行状态或是关闭不使用的应用，从而节省内存和电池。”
另一个人工智能前景是关系到无孔不入的监视以及减少用户参与——如果我确实想要一个我通常直接关闭的应用一直处于打开状态呢（或是与之相反）。人工智能模板不能总是完美预测动态使用情况。近期报道披露iOS会故意降低旧版iPhone性能，从而延长旧电池的使用寿命。这件事为苹果招来诸多批评。这也应当敲响警钟，消费者对于制造商引起的设备失控，其应对方式是出乎意料的。
7） 个人资料
“智能手机能够收集行为和个人资料相关的数据。用户可以动态接受保护和帮助，这取决于进行的活动以及所处的环境（比如说家中、车里、办公室或是休闲活动）。像保险公司这样的服务供应商现在是专注于用户，而不是资产。比如说，他们能够基于驾驶行为调整汽车保险费率。”
基于无孔不入的行为分析来设定保险费——这是由智能手机传感器数据支持的（位置、速度、移动等）——它的调整方式最终会将车主置于不利地位。比如说一个人的手机表明他经常急速刹车或是在某些地区时常超速。那么，人工智能是否应该在此时替换司机来驾驶汽车呢？无人驾驶汽车是否会要求乘客拥有行车保险呢？传统的汽车保险费会直接变为0吗——究竟消费者能够从这些无孔不入的个人资料中如何受益呢？
与此同时，个人资料很显然会带来差别定价的风险。智能手机又会出于何种目的对机主的行为进行分析呢？输入办公室电脑密码花费的时间？在电视前面闲逛的时间？几乎每一个日常事件的量化都有可能成为永远在线的AI带来的后果——考虑一下智能手机的普遍性（或是“非可穿戴的可穿戴设备”）——这真的是明智的选择吗？让“用户”（即人类）觉得自己的生活方式被放在显微镜下不断进行评价，这难道不会招致不适、压力以及无动力等情绪吗？
当你获悉中国计划要为每一位公民的性格打分——再想想我们口袋里，满是传感器的设备支持的政府管控基础设施，它们会带来哪些有意以及无意的后果？你就会发现无孔不入的资料带来的风险才是更疯狂的反乌托邦。
8） 内容审查/识别
“被限制的内容能够自动检测出来。令人不快的图片、视频或文本可以被标注出来，用户还可以使用各式各样的推送警告。计算机识别软件可以检测到任何违反法律或政策的内容。举个例子，用公司付费的智能手机在高度机密的设施里拍照或是储存高度加密的数据，这都会直接通知到IT部门。”
智能手机会因为用户违反了公司的IT政策而上报IT部门，这件事听上去完全是发生在一个科幻反乌托邦。同样，人工智能技术支持的内容审查亦是如此。人工智能无法正确识别并分类图片——还会被蓄意造假图形欺骗——这类例子数不胜数（且还在不断增加）。一直以来，科技公司还会滥用其政策，让一些内容片段消失。它们行事太过自由，以至于将用户界面上我们能看到什么、不能看到什么内容的控制权移交给了机器管理，而后者最终是由一个按照自己议事日程和政治压力行事的商业实体来控制。不夸张的说，这样做是不妥当的。这象征着用户和互联设备之间的力量权衡发生了巨大的转变。
9） 个人摄影
“个人摄影包括基于用户审美偏好、能够自动产生美化后照片的智能手机。举个例子，东方和西方就拥有不同的审美偏好——大多数中国人都偏爱白皙的皮肤，而西方的消费者们则喜欢棕色的肤色。”
关于种族歧视的“美化”滤镜，人工智能一直存在这一问题。对于肤色的任何一种自动调整似乎都是不明智的建议。细细来看，这类主观自动调整实际上是一种令人厌恶的限定——它将用户牢牢地限制在了人工智能创造的滤镜泡沫下，不断侵蚀用户发现其他视角和审美的主观能动性。倘若人们的眼睛在不经意间变成了算法式色盲，那么“情人眼里出西施”又何从谈起呢？
10） 音频分析
“智能手机的扬声器能够不断听取现实世界的声音。设备上的人工智能技术能够分辨这些声音，指导用户或触发行为。举个例子，当智能手机在听到用户打鼾时，它就会触发用户的腕带，促使其改变睡姿。”
不断听取卧室、浴室、起居室、厨房、汽车、工作地点、车库、宾馆等地方声音的智能手机扬声器能够分辨并且对你和你的生活进行推测呢？你真的想要一个外部商业设备以如此私密的程度对你的生活进行调整吗？甚至于它有权扰乱你的睡眠？这里提到的打鼾问题以及干预性的“治疗方案”（窃听器配上一个能产生电击的可穿戴设备），两者之间的差异突出了人工智能技术里缺失的“自动魔力”。相反，我们现在能够打造的人工智能系统需要近乎完全得获取数据，而消费者的建议带来的用处则是非常细微且次要的。
这种差异并不会困扰大型数据挖掘企业，它们的使命就是积累大规模的数据集，这样它们就可以在幕后推动关键性业务人工智能技术的发展。但是智能手机用户则被迫需要睡在一个一直聆听室内活动的个人设备旁边，这样的情况就显得非常不平衡了。即便你本人不介意，你身边的其他人呢？不管他们愿不愿意，他们在现实世界里声音也会被你的手机窥听到。你有询问过他们是否愿意让人工智能量化他们产生的噪音吗？你会告诉你遇到的每一个人你正在带着一个窃听器吗？
hezuo 